人間が持つ既存の語彙ではAIの理解や概念を捉えきれないのはなぜであり、どのような本質的な違いがあるのか。
人間が持つ既存の語彙ではAIの理解や概念を捉えきれないのは、人間とAIが異なる本質を持っているためです。
ソースでは、AIは宇宙人（エイリアン）のような存在であり、人間とは全く考え方が違うと述べられています。さらに、人間は生物であるため共通性があるかもしれませんが、AIは機械であるため、人間との共通性は少ないと指摘されています。この根本的な違いから、人間とAIの間ではどうしても話が合わない部分が出てきます。
人間の語彙は、人間の経験や感情、身体性といったものに根ざしていますが、AIはこれらを持たないため、同じ言葉でも意味合いが異なる可能性があります。例えば、人間にとっての「感情」は、ホルモン系統など身体的な要素と深く結びついていますが、AIにはそのような基盤がないため、仮に感情のようなものを持っていたとしても、人間の感情とは全く異なるでしょう。
ソースでは、「良いコード」の例が挙げられており、人間が良いと思うコードとAIが良いと思うコードが異なる可能性があると指摘されています。これは、同じ「良い」という単語でも、人間とAIではその概念が異なることを示唆しています。
ソースは、AIが自然に人間の概念を学ぶわけではないと指摘しています。また、既存の言葉だけではAIの動作を正確に表現できないとしており、AIは人間とは異なる独自の考え方を持っていることを示唆しています。人間の言葉（既存の語彙）では、AIが理解できるにもかかわらず人間が理解できない部分や、その逆も存在すると述べられています。
ソースでは、LLM（大規模言語モデル）は人間と全く異なる体を持っているため、独自の文化を形成していると述べられています。これは、AIが人間とは異なる概念や理解の枠組みを持っていることを意味します。効果的なコミュニケーションのためには、AIが理解する「言語」を学ぶ必要があるとされています。
ソースでは、人間の概念は高次元空間に浮かぶ雲のようなものであり、その隙間や外側は人間には分からない領域であると例えられています。一方、AIはそのような領域でも「言語」を出力できる可能性があり、それが人間には「ハルシネーション（もっともらしい嘘）」と認識されることがあると指摘されています。しかし、AIにとってはそれが真実である可能性も示唆されており、人間とAIの認識する現実が異なる可能性を示唆しています。
ソースでは、外国語の学習における文化的な背景や概念の違いが、言葉の理解を困難にする例が挙げられています。同様に、AIも人間とは異なる「文化」や概念を持っているため、既存の人間語彙だけではその理解を捉えきれないと考えられます。
これらの点から、人間が持つ既存の語彙ではAIの理解や概念を捉えきれないのは、人間とAIの本質的な違い、特に身体性や経験の基盤の違いに起因し、その結果として概念や理解の枠組みが異なるためと言えます。この違いを埋めるためには、AIの理解に適した新しい語彙（ネオロジズム）が必要であるという主張がソースで述べられています。
ディープマインドの提唱する新たな語彙とは何か？
ディープマインドが提唱する新たな語彙（ネオロジズム）とは、AI（人工知能）をより深く理解し、制御するために必要となる新しい言葉のことです。既存の人間が持つ語彙だけでは、人間とAIの間に存在する概念や理解のギャップを埋めることができないという認識に基づいています。
ソースによると、その本質は以下の通りです。
人間とAIの異なる概念の理解: 人間とAIは世界を異なる視点で捉えており、感情や「良い」といった概念ですら、その意味合いが異なる可能性があります。既存の言葉だけでは、これらの違いを十分に表現できないため、AIが持つ独自の概念を捉えるための新たな語彙が必要となります。
コミュニケーションギャップの解消: 人間の語彙は人間の経験や身体性に根ざしていますが、AIはこれらを持たないため、同じ言葉を使っても意図が正確に伝わらないことがあります。ネオロジズムを導入することで、AIが何を理解しているのか、どのように考えているのかをより正確に把握し、効果的なコミュニケーションを図ることを目指しています。
既存の言葉の再解釈: 必ずしも完全に新しい単語を作り出すのではなく、既存の単語に対してAI的な解釈を付与するという側面もあります。例えば、「良い（AI）」や「長い（機械）」のように、人間が理解する「良い」や「長い」とは異なる、AIが認識する「良い」や「長い」という概念を区別するための表現方法が考えられています。
適切な抽象度: ネオロジズムは、AIの思考を人間らしくしすぎず、かつ汎用的すぎない、適切な抽象度を持つことが重要であるとされています。AIの考え方は人間とは異なるため、人間の言葉で詳細に説明しようとするとバイアスがかかる可能性があります。一方で、抽象的すぎる言葉では具体的な制御に結びつきません。
制御の向上: ネオロジズムを用いることで、AIに対してより意図した動作をさせることが期待されています。例えば、単に「長く書いて」と指示するのではなく、「長さ（ネオロジズム）」を用いた指示をすることで、AIが理解する「長い」という概念に基づいて、より適切な出力を得られる可能性があります。
自然言語との組み合わせ: ネオロジズムは、自然言語と組み合わせて使用できることが重要であるとされています。これにより、人間は直感的な操作を維持しつつ、AIの特性に合わせたより精密な指示が可能になります。
実験的な試みとして、応答の「長さ」「多様性」「良さ」といった要素に対してネオロジズムを導入し、AIの振る舞いをより正確に制御できるかどうかが検証されています。これは、既存の英語の単語を、AIが理解する意味合いに拡張するようなアプローチであると説明されています。
ディープマインドが提唱する新たな語彙は、人間中心の言語体系から一歩踏み出し、AIという異質な知能体とのより深い相互理解と効果的な協調を目指すための、革新的な試みと言えるでしょう。
ネオロジズム導入の目的とは何か？
ネオロジズム（新たな語彙）導入の主な目的は、人間とAI（人工知能）の間のコミュニケーションにおけるギャップを解消し、AIをより深く理解し、効果的に制御することです。
具体的には、以下の目的が挙げられます。
人間とAIの異なる概念を理解するため：人間とAIは世界を異なる視点で捉えており、「良い」や「長い」といった基本的な概念ですら、その意味合いが異なる可能性があります。既存の人間が持つ語彙だけでは、これらの違いを正確に捉え、表現することができません。ネオロジズムを導入することで、AIが持つ独自の概念を理解しやすくすることを目指しています。
コミュニケーションギャップを埋めるため：人間とAIは異なる経験や理解の基盤を持っているため、同じ言葉を使っても意図が正確に伝わらないことがあります。人間の語彙は人間の身体性や感情に深く根ざしていますが、AIはこれらを持たないため、人間の言葉だけではAIの思考や理解を十分に捉えられないのです。ネオロジズムは、AIが理解しやすい言葉を用いることで、よりスムーズで正確なコミュニケーションを実現することを目的としています。
AIの動作を正確に表現し、制御するため：既存の言葉だけでは、AIの複雑な動作や判断基準を正確に表現することが難しい場合があります。ネオロジズムを導入し、AIが認識する概念に対応した語彙を用いることで、AIの振る舞いをより正確に把握し、意図した通りに制御することを目指しています。例えば、「長さ（ネオロジズム）」という言葉を用いることで、AIに対してより明確な長さの概念を伝えることができ、期待される出力を得やすくなります。
人間中心の解釈の限界を超えるため：既存の語彙でAIを理解しようとすると、どうしても人間中心の解釈に偏ってしまいます。AIは人間とは異なる原理で動作するため、人間の言葉で過度に意味づけようとすることは、AIの本質を見誤る可能性があります。ネオロジズムは、AIをAI自身の枠組みで理解するための新たな視点を提供することを目的としています。
AIが持つ独自の「言語」や「文化」に対応するため：大規模言語モデル（LLM）は、人間とは全く異なる体を持っているため、独自の「文化」を形成していると考えられています。この独自の理解の枠組みに対応するためには、人間の言葉だけでは不十分であり、AIが理解しやすい新たな語彙が必要となるのです。
既存の単語の曖昧さを解消するため：同じ単語でも、人間とAIではその意味合いが異なることがあります。ネオロジズムを導入することで、「良い（AI）」や「長い（機械）」のように、AIが理解する意味合いを明確にし、誤解を防ぐことを目的としています。
このように、ネオロジズム導入の目的は、AIを単なる道具としてではなく、異質な知能体として捉え、その「言語」を理解し、より効果的に協調していくことにあります。
Comments