2025 年から 2028 年までの任意の時点。 ダリオ・アモデイ、AnthropicのCEOであり、の「お父さん」です。 クロード・アイは、AI モデルが自律的に複製して生き残る能力を実現できる可能性があると予測しています。最も強力で「責任ある」人工知能を作成するレースの主人公の一人から発せられた衝撃的な発言。で インタビュー アモデイ氏はニューヨーク・タイムズ紙で、AIの開発をウイルス研究所のバイオセーフティー・レベルと比較し、「責任ある拡張」がなければ、テクノロジーはすぐに自律性と極度の説得力を獲得し、世界の安全保障に憂慮すべき影響をもたらす可能性があると警告した。
バイオセーフティレベルとの類似性
アモデイ氏は自身のビジョンを説明するために、ウイルス研究所のバイオセーフティーレベル（ASL）という強力な例えを使っています。 Anthropic の CEO によると、現在 AI 開発は ASL レベル 2 に達しています。しかし、「自主性」と「説得」を含むASLレベル4は、もうすぐそこまで来るかもしれない。
ASL 4は、悪用の面では、国家主体がその能力を劇的に向上できるようにすることに重点を置いているが、これはランダムな人々にそれを許可するよりもはるかに困難である。北朝鮮、中国、ロシアが AI を活用してさまざまな軍事分野で攻撃能力を大幅に向上させ、地政学的に大きな優位性をもたらすことができれば、懸念されるところです。
ダリオ・アモデイ
そして、まさに「自治」の側面において、アモデイ氏の予測はさらに憂慮すべきものとなる。
これらのモデルのさまざまなバージョンは、野生で複製して生き残ることができる状態にかなり近づいています。
ダリオ・アモデイ
インタビュアーがこのイタリア系アメリカ人の研究者に、これらのさまざまなレベルの脅威に達するまでにどれくらい時間がかかるかを尋ねると、アモデイ氏（自分は「指数関数的に」考える傾向があると言う）は、「複製して生き残る」レベルには「以下のすべてのレベルに到達する可能性がある」と述べた。 2025年と2028年」。 「ここで私が話しているのは、近い将来のことです。今から 50 年後のことを話しているわけではありません」と Anthropic CEO は強調します。 「神が私に貞操を与えてくださいますが、今はそうではありません。しかし、「今ではない」というのは、私が年老いて白髪になったときを意味するわけではありません。それは短期的なものになる可能性があると思います。」
人間的で重みのある言葉
AI 分野における彼の指導的役割を考慮すると、アモデイ氏の言葉は特に重みを持っています。 2021で, 彼と妹のダニエラは、GPT-3 の作成に協力し、Microsoft との提携を見た後、会社の方向性をめぐる相違により OpenAI を去りました。その後間もなく、兄弟は他の元 OpenAI 従業員とともに Anthropic を設立し、AI を「責任を持って拡張する」取り組みを継続することを目標としました。
"私は間違っているかもしれません。しかし、それは短期的なものになる可能性があると思います。」不確実性にもかかわらず、過小評価してはいけないという合図のように聞こえる言葉。
AI に対する懸念が日に日に高まっているように見える状況において、アモデイ氏の視点 (業界内で非常に恵まれた立場にある) は、この破壊的テクノロジーに対する責任あるガバナンスの必要性をさらに重視しています。 「革新的な AI が人々と社会の繁栄を確実に支援すること」という Anthropic の使命は、CEO が思い起こさせたようなシナリオに直面して、これまで以上に緊急性を増しているように思えます。 AI モデルが自律的に複製して生き残る能力の達成に本当に近づいているのであれば、特にその「進化」が加速しているのであれば、実施形態、その開発が倫理原則と責任に基づいて行われることが不可欠です。
あなたが何を考えているかはもうわかっています
これは、人工知能のさまざまな「カパタズ」の発言を報告するときに私がよく受け取るフィードバックです。アルトマン氏、マスク氏、そして現在はアモデイ氏も、時には非常に危険だと定義するものの開発に懸命に取り組んでいます。なぜ？皆さんの多くは、それがマーケティングであると私に書いています。「暴言」は、たとえ警戒心を煽るものでさえも、会社や製品に注目を集めます。あたかも「おい、私たちはこの種の致死性ウイルスを扱っているが、非常に慎重に扱うことを知っておいてほしい、なぜなら私たちは非常に心配しているからだ」と言っているかのようだ。
多分。もちろん、アモデイ氏の予測は憂慮すべきものであり、誇張されているように見える。しかし、人工知能のような急速に進化する分野では、指数関数的な速度で進歩が続くため、最も極端なシナリオにも備えておくことが賢明です。国家主体による AI の悪意のある使用を防ぐこと（「最もクリーンな者には問題がある」ため、アモデオ氏が指名した者だけでなく、すべて）を阻止することでも、モデルが人間の制御から逃れることがないようにすることでも、その課題は計り知れず、必要とされます。企業、政府、市民社会による共同の取り組みです。
アモデイ氏の言葉は、その憶測的な性質にもかかわらず、これらの重要な問題に関する議論と行動を加速させる刺激となるに違いない。もちろん、その「ボール」はAI開発者自身だけのものではなく、市民社会全体のものでなければならないという議論です。実際に、まず始めましょう: 始めるのは早ければ早いほど良いです。
