2020 年はまだ破滅的な年ではなかったかのように、研究者、政策立案者、AI 内部関係者のチームが、差し迫った問題について警告しています。 正確には18。 これらは、今後 15 年間に懸念すべき主な AI の脅威です。
サイエンスフィクションと大衆文化は、私たちの元に戻すことがインテリジェントロボットの暴動から来ると私たちが信じることを望んでいます。 実はひとつ 最近の研究 犯罪科学では、最悪の脅威は人工知能自体よりも私たちと関係があることを明らかにしています。
潜在的な危害、収益性、実行可能性、および敗北に基づいて脅威を評価することにより、グループは、 ディープフェイク、すでに存在し、普及している技術、 最高の脅威レベルを表します。
ナンバーワンの敵、ディープフェイク
ロボット暴動とディープフェイク技術には根本的な違いがあります。 最初のものは物的損害を引き起こす可能性があります。 XNUMX つ目は全身的なもので、人々や社会自体に対する信頼が失われる可能性があります。
人工知能による最悪の脅威は、常に遠い未来のことのように思えます。 結局のところ、Alexa が現在パスタ タイマーを正しく設定することさえできない場合、AI はどのように私たちに害を及ぼすのでしょうか? シェーン·ジョンソンこの研究に資金を提供した UCL の Dawes Center for Future Crimes 所長は、これらの脅威はますます巧妙化し、私たちの日常生活と絡み合うようになると説明しています。
「私たちは、良い面も悪い面も含め、新しい機会を生み出す絶え間なく変化する世界に住んでいます」, ジョンソンは警告します。 「これが、重大な問題が発生する前に、政策立案者や行動する能力を持つ他の人々が行動できるように、将来の犯罪の脅威を予測することが優先事項である理由です。」
著者らは、この研究で表明された判断は本質的に本質的に投機的であり、現在の政治的および技術的状況の影響を受けていることを認めていますが、これらのテクノロジーの将来は無視できません。
最悪の脅威の「プレイリスト」がどのように生まれたか
将来の予測を立てるために、研究者は関連分野の14人の学者、民間セクターの専門家10人、公共セクターの専門家XNUMX人のチームを結集しました。
その後、これらの専門家は XNUMX 人から XNUMX 人のグループに分けられ、AI が引き起こす可能性のある問題のリストを受け取りました。 物理的な脅威 (自律ドローン攻撃) から、フィッシングなどのデジタル形式の脅威まで、さまざまなシナリオ。
彼らの判断を下すために、チームは攻撃のXNUMXつの主要な特徴を検討しました。
潜在的な損傷
収益性
実現可能性
脆弱性
専門家にとって、ディープフェイクの被害は物質的、精神的、さらには社会的です。 また、他の人工知能に害を与える（たとえば、顔認識を回避する）ことや、間接的な成果（たとえば、ディープフェイクビデオを使用して人々を脅迫する）になることもあります。
これらの要因を実際に互いに切り離すことはできませんが (たとえば、攻撃の被害は実際にはその実現可能性に依存する場合があります)、専門家はこれらの基準の影響を個別に検討するよう求められました。
次に、さまざまな専門家グループのスコアを基に、今後 15 年間に AI を通じて (または AI によって) 確認できる、全体的に最も被害の大きい攻撃を決定しました。
選択のために甘やかされて育った
前述のように18種類のAI脅威を比較することにより、グループはディープフェイクの形でのビデオとオーディオの操作が史上最悪の脅威であると判断しました。
「人間は自分の目と耳を信じる傾向が強い。これが、写真による欺瞞の長い歴史にもかかわらず、オーディオとビデオの証拠が伝統的に多くの信用を与えられてきた (そして多くの場合、法的価値がある) 理由である」と著者は説明している. 「しかし、最近のディープラーニング (およびディープフェイク) の発展により、偽のコンテンツが生成される可能性が大幅に高まっています。」
これらの操作の潜在的な影響は？
家族になりすまして高齢者を詐欺する個人から、公人や政府の人物への不信感を蒔くためのビデオまで。 個人（および場合によっては専門家）も検出するのが難しく、阻止するのが難しい攻撃。
その他の主要な脅威には、遠隔武器として使用される自動運転車が含まれます。 興味深いことに、グループはロボットロボット（溝を通り抜けて鍵を盗んだり、泥棒のドアを開けたりすることができる小さなロボット）を、最も危険性の低い脅威のXNUMXつと判断しました。
AIの最悪の脅威。 それで、私たちは終わりましたか？
いいえ、しかし私たちはそれに取り組む必要があります。 私たちの楽観的な画像には、すべてのロボットとすべての邪悪なコンピューターを停止するための何らかのボタンがあります。
実際には、脅威はロボット自体にはそれほど多くありません。 私たちがお互いを操作したり害したりするためにそれらを使用する方法にあります。
