2020年がすでに破滅的ではなかったかのように、学者、政策立案者、AIインサイダーのチームが地平線上の問題について警告しています。 正確には、18。 これらは、今後15年間に懸念すべき主要なAIの脅威です。
サイエンスフィクションと大衆文化は、私たちの元に戻すことがインテリジェントロボットの暴動から来ると私たちが信じることを望んでいます。 実はひとつ 最近の研究 犯罪科学では、最悪の脅威は人工知能自体よりも私たちと関係があることを明らかにしています。
潜在的な危害、収益性、実行可能性、および敗北に基づいて脅威を評価することにより、グループは、 ディープフェイク、すでに存在し、普及している技術、 最高の脅威レベルを表します。
ナンバーワンの敵、ディープフェイク
ロボット暴動とディープフェイク技術の間には根本的な違いがあります。 XNUMXつ目は、材料の損傷を引き起こす可能性があります。 XNUMXつ目は体系的です。人や社会自体への信頼を損なう可能性があります。
人工知能による最悪の脅威は、常に遠い未来のように思えます。 結局のところ、Alexaが今日もパスタタイマーを正しく設定できない場合、AIはどのように私たちに害を及ぼすことができますか？ シェーン·ジョンソン研究に資金を提供したUCLのDawes Center for Future Crimesのディレクターであるこれらの脅威は、ますます高度になり、私たちの日常生活と絡み合うようになると説明しています。
「私たちは、絶えず変化する世界に住んでおり、良い面と悪い面で新しい機会を生み出しています」 ジョンソンは警告する。 「だからこそ、将来の犯罪の脅威を予測することが優先事項であり、政策担当者や行動能力のある人々が深刻な問題が発生する前に予測できるようになっている」と語った。
著者らは、この研究で表明された判断は本質的に本質的に投機的であり、現在の政治的および技術的状況の影響を受けていることを認めていますが、これらのテクノロジーの将来は無視できません。
最悪の脅威の「プレイリスト」が生まれた経緯
将来の予測を立てるために、研究者は関連分野の14人の学者、民間セクターの専門家10人、公共セクターの専門家XNUMX人のチームを結集しました。
これらの専門家はXNUMX人からXNUMX人のグループに分けられ、AIが引き起こす可能性のある潜在的な問題のリストを受け取りました。 物理的な脅威（自律ドローン攻撃）からフィッシングなどのデジタル形式の脅威までのシナリオ。
彼らの判断を下すために、チームは攻撃のXNUMXつの主要な特徴を検討しました。
潜在的な損傷
収益性
実現可能性
脆弱性
専門家にとって、ディープフェイクの被害は物質的、精神的、さらには社会的です。 また、他の人工知能に害を与える（たとえば、顔認識を回避する）ことや、間接的な成果（たとえば、ディープフェイクビデオを使用して人々を脅迫する）になることもあります。
これらの要素を実際に分離することはできませんが（たとえば、攻撃の被害は実際にはその実現可能性に依存する可能性があります）、専門家はこれらの基準の影響を個別に検討するよう求められました。
次に、さまざまな専門家グループのスコアを注文して、今後15年間にAIを通じて（またはAIによって）見られる全体的な最も有害な攻撃を特定しました。
選択のために甘やかされて育った
前述のように18種類のAI脅威を比較することにより、グループはディープフェイクの形でのビデオとオーディオの操作が史上最悪の脅威であると判断しました。
「人間は目と耳を信じる強い傾向があります。 写真による欺瞞の長い歴史にもかかわらず、オーディオとビデオの証拠が伝統的に多くの信用（そしてしばしば法的価値）を与えられた理由です」と著者は説明します。 「しかし、ディープラーニング（およびディープフェイク）の最近の開発により、偽のコンテンツが生成される可能性が大幅に増加しています。」
これらの操作の潜在的な影響は？
家族になりすまして高齢者を詐欺する個人から、公人や政府の人物への不信感を蒔くためのビデオまで。 個人（および場合によっては専門家）も検出するのが難しく、阻止するのが難しい攻撃。
その他の主要な脅威には、遠隔武器として使用される自動運転車が含まれます。 興味深いことに、グループはロボットロボット（溝を通り抜けて鍵を盗んだり、泥棒のドアを開けたりすることができる小さなロボット）を、最も危険性の低い脅威のXNUMXつと判断しました。
AIの最悪の脅威。 それで終わりですか？
いいえ、しかし私たちはそれに取り組む必要があります。 私たちの楽観的な画像には、すべてのロボットとすべての邪悪なコンピューターを停止するための何らかのボタンがあります。
実際には、脅威はロボット自体にはそれほど多くありません。 私たちがお互いを操作したり害したりするためにそれらを使用する方法にあります。
