この投稿は、Linkedinニュースレター「Periscopio」の一部であり、毎週将来の将来の問題を調査し、LinkedInプラットフォームで事前に公開されています。 購読してプレビューしたい場合は、 ここですべてを見つけてください。
先週の土曜日のワシントンポスト ステートメントを報告しました パロアルト会社の機密保持契約に違反したため、6月XNUMX日に停止されたGoogleエンジニアの本質的に、エンジニアのブレイク・レモインは、彼と人工知能のチャットボットとの間に「プライベート」チャットを広め、多くの専門家が恐れていることを示しています。このAIは感性になっているでしょう。
これらは、業界の専門家からの強力な声明であり、誰でもありません。 そして、それらは、最先端の前例のない人工知能システムとの何百もの相互作用の後にレンダリングされます TheMDA。 しかし、それは本当ですか？ このAIは本当に感性になりましたか？
私たちは何について話していますか
LaMDAは、「ダイアログアプリケーションの言語モデル」の略です。 これは、大量のデータでトレーニングされたときに書面による要求に応答できるAIシステムのXNUMXつです。
システムは、ますます人間に似た方法で書くことによって、質問への回答がますます良くなっています。 ちょうど昨年XNUMX月、Google自体がLaMDAを発表しました 彼の公式ブログで それを「無限の数のトピックについて書くことができる」と定義します。
はい、でもそれは感性ですか？
エンジニアの主張の後、グーグルはワシントンポストに掲載されたインタビューを否定して、火に水を投げ込もうとした。 「私たちのチームは、ブレイクの懸念を調査し、証拠が彼の主張を裏付けていないことを彼に知らせた」とビッグGは昨日書いた。 人工知能の専門家の何人かはそれを繰り返しました。この論文を断固として拒否した人もいれば、人間の属性を機械に割り当てる傾向の例としてそれを使用した人もいます。
いわば、マウスと戦うときと少し似ています。
しかし、それは冗談ではありません。 このようなことは、このように却下することはできません。 そして、のような人々の恐れのためではありません イリヤ・サツケバー (「AIは感性になりつつある」), ユヴァルハラリ (「AIは人々をハッキングできるようになる」）、または モーガウダット (「AI研究者は神を創造することで遊ぶ」).
GoogleのAIが知覚力を持つことができるという信念は、このテクノロジーの可能性に対する私たちの恐れと期待の両方を浮き彫りにするため、非常に重要です。
しかし今のところ、それは誤った信念です
膨大な量のデータに対する高度で訓練されたコンピュータプログラムの開発と使用は、多くの倫理的懸念を引き起こします。 ただし、場合によっては、現在実行可能なことではなく、何が起こり得るかで進捗状況が判断されます。
世界のほとんどすべての主要なコンピューター専門家によると、現時点での結論はXNUMXつだけのようです。いいえ、GoogleのAIはどこにも知覚力がありません。 彼女はそのように見えるのが得意で、言語パターンと、ほぼ無限の文のストアで見つけた同様のものを組み合わせています。
スマートフォンに搭載されているオートコンプリートソフトウェアの非常に強力なバージョンとして想像する必要があります。 OK：超超超強力。 ただし、これを感性と混同しないでください。
しかし、まさにAI開発者は、最近、人々を驚かせて、その責任を果たしています。 彼らの発言は、このテクノロジーの可能性を最初に見たときのショックと、それを促進するためのショックによって決定され、メディアに大きな反響を呼んでいます。
GoogleのAIは知覚力がありません
先週 ブレイス・アグエラ・イ・アルカス、Google Researchの副社長、 エコノミストの記事に書いた 昨年LaMDAを使い始めたとき、彼はますます賢いことを話しているように感じました。 それは理解できる驚きであり、微妙な恐れでさえあります。
ただし、現時点では、LaMDAは人工知能の原理に関する11の異なるレビュープロセスを経ています。 彼女はまた、事実に基づく主張を思い付く能力について多くのテストを受けてきました。 なんでも。 感性ではありません。
これは、倫理と道徳に従って人工知能を開発する必要性を損なうものではありません。 誰かが、実を言うと、 道徳を直接備えたAIを開発しました、しかしそれは別の問題です。
研究者の主な義務は、もし彼らがこの技術の進歩を本当に気にかけているのなら、その症状を擬人化することではありません。 何よりも、自己認識の火花の実際の証拠があるとすぐに「ブレーキを引く」ことができるように警戒し続けることによって、大衆を過度に警戒しないでください。
もしあれば。 あなたは何を言っていますか？
