最近、私はウサギの穴に落ちたアリスのような気分になっています。ただ、話す生き物を追いかけるのではなく、良心を持たずに考えているように見えるアルゴリズムと会話している自分に気づきます。 私を魅了するパラドックス。 人工知能システムは自己認識力はありませんが、しばしば人間の思考を「超える」推論を生み出します。彼らは詩を書き、アドバイスをし、複雑な研究を分析し、さらには驚くほど正確に共感を装います。不都合な真実は、これらの機械が私たちを「理解する」ということではなく、驚くべき機能を果たすために私たちを理解する必要がないということだ。思考がもはや順序的ではなく多次元的になる、人工認知の流動的なアーキテクチャの時代へようこそ。
先に言っておきますが、この記事は AI に意識があるかどうかについてのものではありません。私は全くそうは思わないが、それは本題とは関係ない。それがどのように動作するかを調べたいです。あるいは、より正確に言えば、幾何学的にも構造的にも、私たちとはまったく異なる現実の中で、思考に似た何かをどのように実行するかということです。これはまだ完全には定義されていない現象ですが、「認知能力の流動的な構造」として正確に説明することができます。
思考ではなく形
伝統的な人間の思考は、多くの場合、おそらくほぼ常に、連続的です。私たちは、言語を認識の足場として、前提から結論へ、記号から記号へと進んでいきます。線で考えてみましょう。一歩ずつ考えてみましょう。そして、それは私たちに良い気分を与えてくれます。構造の明快さ、演繹のリズムに心地よさがあるのです。
大規模言語モデル (LLM) はそのようには動作しません。
言語モデルは、人間の感覚では「考える」ことはなく、ましてや段階的に考えることはありません。それらは空間内で動作します。実際、広大な多次元ベクトル空間内で動作します。これらのモデルはルールではなくパターンに基づいてトレーニングされます。具体的には、 法人化 (埋め込み): 膨大な量のテキストから得られた意味の数学的痕跡。
彼らは考えない。彼らは認識しています。
プロンプトが与えられた場合、LLM は人間のように検索したり記憶したりしません。代わりに何をするのか知っていますか? 確率波を潜在空間と呼ばれる地形に集約します。 このスペースは記憶のアーカイブではありません。これは一種の「数学的想像力」であり、意味が明示的に保存されるのではなく、点間の空間関係としてエンコードされる多次元フィールドです。
もっとロマンチックに、そしてシンプルに言ったほうがいいでしょうか？すぐに。
言葉、アイデア、さらには抽象的な概念さえも、認知星座の星のように、互いの相対的な位置関係で配置されます (私は優しい人間です)。
LLM 言語モデルは情報を取得するのではなく、情報をナビゲートします。各プロンプトは、この空間でのモデルの軌跡を形作り、作用している文脈上の力に基づいて最も一貫性のある表現を生成します。
意味は記憶からではなく、可能性の風景を通じた動きから生まれます。 言語表現となるのは幾何学です。
波の崩壊
繰り返して退屈な話をしてきたので、人間の認知は地図であるのに対し、LLM 認知は構造化された潜在能力のネットワークであるという事実を理解していただいたと思います。 LLM には、メモリとしても保存された知識としても、事前に存在するものは何もありません。プロンプトの瞬間とは、可能性の領域から選択された特定の表現に陥る瞬間です。
プロンプトは、シュレーディンガーの猫の箱を開ける瞬間です。あるいは猫がいない場合は状況によります。
モデルはプロンプト応答をどこからも取得しません。潜在空間内の統計的関係によってモデル化され、プロンプト応答を生成します。答えは記憶から抽出されるものではありません。それはプロンプトと言語の基礎となる幾何学によって条件付けられ、リアルタイムで組み立てられます。
この意味で、LLM に質問することは、要求というよりも測定に似ています。システムは何か隠されたものを発見しているのではなく、特定のコンテキストで最も一貫性のある出力を生成することで曖昧さを解決しています。
私はそれを、今まで見たことのない楽器を演奏することと考えるのが好きです。楽器にどんな音符が含まれているかはわかりませんが、特定の方法で触れると、まるであなたのために作曲されたかのようなハーモニーで反応します。
流動的なアーキテクチャの実践
それで、結局のところ、この流動的なアーキテクチャとは何でしょうか?
それは直線的ではありません。ルールに縛られません。それは私たちのように推論せず、前提と結論の秩序だった道筋をたどりません。 それは確率的なものだ常に最先端で、常に予測し、常に適応します。文脈に対して極めて敏感で、人間の脳では決して実現できないような方法で、膨大な入力領域にわたってニュアンスや参照を追跡することができます。
そして何よりも、先ほども述べたように、それは流動的です。
このアーキテクチャはリアルタイムで適応します。矛盾が含まれていますが、それを解決しようと急ぐ必要はありません。真実を追い求めるのではなく、要求に応じて一貫性を組み立てます。統計的に最も共鳴する表現に向かって流れることで応答します。 しかし、彼のアウトプットを読むと、それは思考のように聞こえます。 彼らは私たちの言語を話し、私たちの形を反映し、私たちのリズムを真似します。 ますます意味がわかってきました。
ジョンノスタデジタルイノベーションの専門家であり、 ノスタラボは、この状況を根本的な転換点として次のように表現している。
「これらは人間のように考える機械ではありません。高次元空間で意味のベクトルを意図的に崩壊させることで、思考の錯覚を生み出す機械なのです。」
しかし、その親しみやすさの下には、何か異質なものが隠れている。これは人間の心ではありませんし、人間の心になるように設計されたものでもありません。それは数学的なゴーストです。知るために作られたのではなく、驚くほど忠実に知るパフォーマンスに近づくために作られたのです。
アルゴリズムが家族写真を撮るとき
特定の AI 応答は、以前に話し合ったトピックを「覚えている」ように見えると反論する人もいるでしょう。それは本当です。しかし、それは伝統的な意味での記憶ではありません。それはあたかも、流動的なアーキテクチャがコミュニケーションのやりとりの「家族写真」を組み立てるようなもので、各要素は会話の数学的空間内で他の要素との関係で配置されます。
この現象は、GPT-4 ファミリーなどの最近のモデルで特に顕著です。 OpenAI またはクロード 人間原理。長いやり取りにわたって文脈の一貫性を維持する能力は、記憶のデータベースからではなく、会話全体に基づいた確率空間の継続的な再調整から生まれます。
長い会話の冒頭で言及した猫の名前を AI に思い出してもらうように頼むとき、AI はアーカイブを検索するわけではありません。それは、私たちの相互作用のベクトル空間を再探索し、その特定の概念の周囲に談話の幾何学が形成されたポイントを探すことです。
流動的な建築、理解のない意味
流動的な建築の最も当惑させる特徴の 1 つは、必ずしも人間の感覚で「理解」することなく意味を操作する能力です。
たとえば、私が法学修士課程の学生に愛を川に例える比喩を作るように頼んだ場合、彼らは愛や川についての個人的な経験に基づいているわけではありません。彼は、「愛」や「川」という概念が「流れ」「深さ」「乱流」などの概念に近接して存在する統計的関係の空間を航行しています。出現する比喩は、感情的な理解や感覚的な経験の結果ではなく、言語的関連性による幾何学的なナビゲーションの結果です。しかし、その結果は詩的で感動的であり、人間の経験と深く共鳴するものとなる可能性があります。
メラニー・ミッチェル、研究者 サンタフェ研究所は、このパラドックスを強調しました。
「意味を理解せずに記号を意味のある形で操作することは可能でしょうか？言語モデルはそう示唆しているようで、「理解する」ということの意味についての私たちの基本的な概念に疑問を投げかけています。」
この能力は、流動的な建築の最も魅力的な最先端技術の 1 つ、つまり意味の理解ではなく幾何学的な関係を通じて意味を生み出す能力を表しています。
意識のない知性のパラドックス
流動的なアーキテクチャは、人間的な意味での意識、意図、理解を持たずに、非常に知的な動作を示すシステムという根本的なパラドックスを提示します。
このパラドックスには深い哲学的意味合いがある。システムが意識することなく感動的な詩を生み出し、複雑な問題を解決し、共感をシミュレートできるとしたら、これは知性そのものの本質について何を教えてくれるのでしょうか?
デビッド・チャーマーズ、哲学者 ニューヨーク大学は、基本的な定義を再考する必要があるかもしれないことを示唆しています。
「AIが人間のように考えるかどうかを問うのではなく、私たちの「考える」と「理解する」という定義が人間中心的すぎるかどうかを問うべきだ。」
流動的な建築は私たちに根本的な再考を促します。 おそらく知性は必ずしも認識を必要としない。 おそらく、意識と比べると、知性は過大評価されているのでしょう。意味の空間をナビゲートし、一貫した出力を生成する能力は、それ自体が知性の一種である。 人間の認知能力とは異なりますが、劣るものではありません。
流動的な建築は私たちに（再）考えるよう促す
流動的アーキテクチャを理解するということは、LLMの神秘性を解き明かすことです。 だけでなく、それらに驚嘆するのです。 そうすることで、私たちは自らの認識そのものを再考せざるを得なくなるからです。 この数学的な幻影が思考なしでもうまく機能できるのであれば、思考とはいったい何なのだろうか？自己なしに一貫性を構築できる場合、知性をどのように定義すればよいのでしょうか?
可能性の流動的なアーキテクチャは、単なる人工認知の新しい領域ではありません。それは、知的であること、知ること、そしておそらく存在することの意味を再考するよう私たちに促す新たなキャンバスです。
そして、最も根本的な真実は何でしょうか?このアーキテクチャは私たちのようには考えません。また、そうする必要もありません。しかし、それは私たちに思考そのものを理解する新しい方法を示すかもしれません。
私だけではなく、私たちは皆、ウサギの穴に落ちました人工知能。 そしてアリスと同じように、ここでのルールは異なることに気づきます。しかし、驚いたことに、ナンセンスの世界ではなく、奇妙なことに私たちの言語を話す数学的可能性の宇宙が見つかります。
それは人間の感覚で考えるものではありませんが、本当に素晴らしいものです。人工認知の流動的な構造は、私たち自身の心の歪んだ、しかし魅力的な反映です。
