良いニュースと非常に悪いニュースがあります。 少なくとも Google の元幹部によると、良いニュースは、特異点が近づいているということです。 それは今私たちにかかっています。 非常に悪いニュースは、それが全人類に深刻な脅威をもたらすということです.
ひどい警告はから来ます モーガウダット、非常に「専門家」のマネージャー。 彼は当時、Google の Moonshot 組織の最高事業責任者でした。 グーグルX。 彼の警告の言葉は、ガウダットのインタビューから直接来ています 彼はタイムズに譲歩した。
「汎用人工知能は不可避」
インタビューで、元 Google 幹部は、一般的な人工知能(AGI)、全能で知覚力のあるAI(「ターミネーター」のスカイネットのようなサイエンスフィクションの推測で調査した悪質な影響)のようなものは避けられません. ここに到達すると、人類は神のような機械によって引き起こされた黙示録を経験する可能性が非常に高くなります.
ガウダット氏はタイムズ紙に、Google X で人工知能開発者と働いていたときに、この恐ろしい事実を知ったと語った。ガウダット氏が目撃した実験は、少なくとも表面的には特別なものではなかった。 開発者は、ボールを見つけて拾うことができるロボットアームを構築していました。 ゆっくりとした進行の期間の後、Gawdat は、片方の腕がボールをつかみ、それを研究者に向かって持ち上げているように見えたと報告しています。
「そして突然、これが本当に恐ろしいことに気づきました」とガウダットは言いました。 「それは私を完全に凍らせました。」 「現実は、私たちが神を創造しているということです」と彼は付け加えました.

グーグルの元幹部が見ている危険は現実的だ。 しかし、まず本物と向き合わなければなりません。
元 Google 幹部からの警告は気がかりですが、それだけではありません。 テクノロジー分野における人工知能についての賢明な警告 (見方によっては売り手に対する恐怖心) に事欠きません。 たとえば、イーロン・マスクは、AI がいつか人類を凌駕する危険性について、繰り返し世界に警告してきました。 一方では危険性について警告する国境の憶測は、他方ではあまりにも「巨大」に見え、おそらく私たちの注意をそらします。 それらはすでに明らかです。
たとえば、顔認識と 予測警察 恵まれないコミュニティに本当の害を及ぼします。 そこにある無数のアルゴリズムは、制度的人種差別を全面的に広め、エンコードし続けています。 これらは、監督と規制を通じて解決できる問題です。