Google の最新の AI チャットボット (および 彼は後に解雇された）。 ジャーナリスト、特に専門家の全会一致の意見は? 反して , 反して , 反して と... 反して.
さまざまな道のりを経て、誰もが同じ結論に達したように見えますが、それはよくよく考えれば、技術的な結論であると同時に常識的な結論でもあります。 チャットボットは、どのように開発されたとしても機能です。 機能 彼らは知覚力がありません. しかし、彼らは非常に進化して人々をだますことができます。 したがって、本当の問題は次のとおりです。誰がそれらを制御しますか? それらは透過的に使用されますか? フォローしてください。
AIは「しか」働いていないから
さびた学校の概念に戻りましょう: 関数とは、数値 (または数値のリスト) を別の数値 (または数値のリスト) に変換するための規則です。 この定義によれば、今日のすべての AI システムは関数であり、騒ぎを引き起こし、エンジニアの地位を奪った LaMDA チャットボットも含まれます。
確かに、これらは非常に複雑な関数ですが、それでも機能します。 チャットボットの背後にあるソフトウェアには、文字で書かれたメッセージをソフトウェアが入力 x として使用する数値に変換し、出力 f (x) を文字メッセージに変換するルールが含まれています。 携帯電話のコンピュータを含め、現在のコンピュータはすべて、これらのタスクを定期的に実行しています。
「センティエント」という言葉が何を意味するのか（誰も定義できないようです）について一周する代わりに、人間はこれらの複雑な機能の並外れた力を利用することをどのように学ぶべきか疑問に思うかもしれません.
コア: 疑似乱数関数
数学者とエンジニアは長い間、新しい機能を発見または開発してきました。 たとえば、「疑似乱数」関数は、完全に予測可能な結果を (基になる数式を知っている人には) 生成しますが、他の人にはランダムに見えます。
「トレーニング」段階で、チャットボット ソフトウェアは大量のテキストを調べます。 「私の犬はそれが好きです」というフレーズの半分の時間の後に、「家具を持ってくる」または「噛む」が続くことを想像してみてください。 訓練されたチャットボットが人間とチャットするように設定されている場合、受信した入力 (対話者の言葉) は、犬について何かを言う時が来たことを示している可能性があります。
実行中のソフトウェアは、疑似乱数関数の XNUMX つを使用して、犬について何を言うかを選択します: 「フェッチを再生する」または「家具を噛む」。
誰がこれらの式を所有していますか?
伝統的に、ランダム性をシミュレートするより良い方法を開発した人は、それを公開して、他の人がそれを批判してコピーできるようにしました。 これが、このタイプの関数が非常に成功し、広く普及している理由です。現在、シミュレートされたランダム性は、インターネット トランザクションの保護を含む多くのアプリケーションで使用されています。 億万長者になる見込みがないため、多くの科学者が新しい機能を発見して共有し、すべてが進歩しました。 いいシステムでした。 それは何世紀にもわたって機能してきました。 そしていま？
人工知能の分野では、知識の最前線での進歩は現在、少数の民間企業によって支配されています。 彼らは十分なデータと十分なコンピューティング能力にアクセスして、外部から観察した誰も理解できない非常に強力な機能を発見して活用します。
交差点
LaMDA を見てみましょう。 印象的です。 これは、人工知能が人間の知識すべてにアクセスするための驚くべき新しい方法を人々に提供できることを示しています。 やがて、Google は LaMDA を変更して新しい「検索エンジン」にすることができるようになるでしょう。 彼は現在のアシスタントよりもはるかに賢いアシスタントとして私たちに見えるでしょう. 彼は私たちに耳を傾け、私たちを理解し、多くの場合、私たちの考えを予測してくれます。
必要に応じて、その恩恵を受ける企業に数十億ドルの収益をもたらすことで、私たちの選択を導くことができます。
あるいは、無関心なグループの手によって、人間の知識へのアクセスが改善され、おそらく新しいウィキペディアになるでしょう (以前のウィキペディアよりも優れていることを願っています)。
どのように終わると思いますか？
関数がどれほど複雑であっても、だまされないでください。 Google のエンジニアは、現代のフランケンシュタイン博士ではありません。 彼らは衆生を産んでいません。 彼らは、彼らだけが処方を知っている秘密のユニークな成分に基づいて、超広範で普及した製品である「新しいコカ・コーラ」を作成しています.
チャットボットが「感覚的」であるかどうかを議論する代わりに、科学から逸脱したシステムの長期的な結果を考慮する必要があります. すべての人に利益をもたらす知識から、「秘密の」知識が力と利益を少数のテクノロジーの巨人に伝達し、政治的にさえも徐々に強力になるシステムへと移行するシステム。 より公平でない世界の新しい支配者。
