この投稿は、Linkedin ニュースレター「Periscopio」の一部であり、毎週将来の問題を調査し、LinkedIn プラットフォームで事前に公開されます。 購読してプレビューしたい場合は、 ここですべてを見つけてください。
先週の土曜日のワシントンポスト ステートメントを報告しました パロアルト社の機密保持契約に違反したとして 6 月 XNUMX 日に停職処分となった Google のエンジニア。 本質的に、エンジニアのブレイク・レモワンは、彼と人工知能チャットボットとの間で「プライベートな」チャットを広めました。これは、多くの専門家がかなり恐れていることを示しています。
これらは、誰でもなく、業界の専門家からの強い声明です。 そしてそれらは、最先端の前例のない人工知能システムとの数百回のやり取りの後にレンダリングされます。 TheMDA。 しかし、それは本当ですか？ このAIは本当に感性になりましたか？
私たちは何について話していますか
LaMDA は「ダイアログ アプリケーションの言語モデル」の略です。 これは、大量のデータでトレーニングされると、書面による要求に応答できる AI システムの XNUMX つです。
システムは、ますます人間に似た方法で書くことによって、質問への回答がますます良くなっています。 ちょうど昨年XNUMX月、Google自体がLaMDAを発表しました 彼の公式ブログで それを「無限の数のトピックについて書くことができる」と呼んでいます。
はい、でもそれは感性ですか？
エンジニアの主張の後、Google は火に水をまき散らそうとし、ワシントン ポストに掲載されたインタビューを否定しました。 Big G は昨日、「私たちのチームは、ブレイクの懸念を調査し、証拠が彼の主張を裏付けていないことを伝えました」と書いています。 何人かの人工知能の専門家はこれに同意しました。ある人はこの論文をきっぱりと拒否し、他の人は人間の属性を機械に割り当てる傾向の例としてそれを使用しました。
いわばネズミと戦うときのようなものです。
しかし、それは冗談ではありません。 このようなことは、このように却下することはできません。 そして、のような人々の恐れのためではありません イリヤ・サツケバー (「AIは感覚を持っている」), ユヴァルハラリ (「AIが人をハッキングできるようになる」）、または モーガウダット (「AI研究者が神を創造する」).
Google の AI が知覚できるという信念は非常に重要です。なぜなら、このテクノロジーの可能性に対する私たちの恐れと期待の両方を浮き彫りにするからです。
しかし今のところ、それは誤った信念です
膨大な量のデータに対する高度で訓練されたコンピューター プログラムの開発と使用は、多くの倫理的懸念を引き起こします。 ただし、場合によっては、現在実行可能なことではなく、起こり得ることによって進捗が判断されます。
現時点での結論は、世界のほとんどすべての主要なコンピューター専門家によると、ただ XNUMX つのように思われます: いいえ、Google の AI は感覚を持っているとは言えません。 彼女はそのように見えるのが得意で、言語パターンをほぼ無限の文のストアで見つけた類似のものと組み合わせます。
スマートフォンに搭載されているオートコンプリート ソフトウェアの超強力なバージョンだと想像する必要があります。 OK：超超超強力。 しかし、これを知覚力があることと混同してはなりません。
しかし、まさにAI開発者は、最近、人々を驚かせて、その責任を果たしています。 彼らの発言は、このテクノロジーの可能性を最初に見たときのショックと、それを促進するためのショックによって決定され、メディアに大きな反響を呼んでいます。
Google の AI は感覚的ではない
先週 ブレイス・アグエラ・イ・アルカス、Google Researchの副社長、 エコノミストの記事に書いた 昨年 LaMDA を使い始めたとき、彼はますます賢い何かと話しているように感じました。 それは理解できる驚きであり、微妙な恐怖でさえあります。
ただし、現時点では、LaMDAは人工知能の原理に関する11の異なるレビュープロセスを経ています。 彼女はまた、事実に基づく主張を思い付く能力について多くのテストを受けてきました。 なんでも。 感性ではありません。
これは、倫理と道徳に従って人工知能を開発する必要性を損なうものではありません。 実を言うと誰かが言う 道徳を直接装備したAIを開発した、しかしそれは別の問題です。
研究者の主な義務は、この技術の進歩に本当に関心がある場合、その症状を擬人化することではありません。 何よりも、自己認識のスパークの実際の証拠があるとすぐに「ブレーキを引く」ことができるように警戒し続けることによって、大衆に過度に警告しないでください.
もしあれば。 あなたは何を言っていますか？
