天才と狂気は人間の心の中でしばしば同じ場所を共有します。の場合 イリヤ・サツケバーChatGPTの頭脳でありOpenAIの共同設立者である彼との共存により、革命的なイノベーションと神秘的なビジョンが生み出されました。人間の話し言葉を模倣できるアルゴリズムを完成させる一方で、スツケヴァー氏は AGI の解放によって引き起こされる可能性のある「黙示録」から科学者を守るためのバンカーを密かに計画していた。
驚くべきパラドックス：最先端の人工知能の開発者自身が、自分たちの創造物を非常に恐れているため、技術的な大惨事に備えているのです。彼が使った準宗教的な用語は、AIの世界において科学と信仰の境界線がいかに曖昧になっているかを明らかにしている。
衝撃の提案：科学者のための終末対策バンカー
2023年の夏、新しい研究者グループとの会議中に、スツケヴェルは信じられない言葉を発した。「私たち全員がバンカーに入ったら…」。困惑した研究者が割り込んできて「バンカー」についての説明を求めたところ、答えはさらに驚くべきものだった。「AGI をリリースする前に、必ずバンカーを作ります。」冗談ですか、誇張ですか？
どれもこれもありません。 によって報告されたものによると カレン・ハオ 彼の本の中で "AI帝国：サム・アルトマンのOpenAIにおける夢と悪夢「その計画は、スツケヴァー氏が汎用人工知能（AGI）の登場後に起こり得ると予測した地政学的混乱や世界大国間の激しい競争から、OpenAIの主要科学者を守ることだったはずだ」と、本書のエッセイで報告され、ウェブサイトに掲載されたこのエピソードは、 大西洋のは、AI 企業の上層部に広がる実存的な不安を浮き彫りにしています。
彼は、当惑させるほどの無頓着さでこう付け加えた。「もちろん、バンカーに入るかどうかは任意です。」まるで彼が話しているのは、テクノロジーの終末からの避難所ではなく、企業の昼食の選択肢についてであるかのように。
AI黙示録バンカー：単なる事例ではなく、執着
終末対策バンカーへの言及は、単発的な事件ではなかった。他の2人の情報筋は記者に対し、スツケヴェル氏が内部討論でこの構造について頻繁に言及していたことを確認した。 OpenAIのある研究者は、「AGIの構築はある種の終末的な出来事、文字通り技術的な終末をもたらすと信じている人々がいる。イリヤもその一人だ」とまで言っています。
このテクノロジーの未来に関する準宗教的なビジョンは、AI 分野の最も優秀な人材の一部が、自らの創造物に対する実存的な恐怖にどれほど深く影響されているかを明らかにしています。ハオ氏の著書によると、スツケヴァー氏は従業員の間で「深い思想家で、ある種の神秘主義者」として知られ、定期的にスピリチュアルな話をしていたという。
OpenAIのパラドックス：大惨事と利益の間
Sutskever 氏の終末論的な恐怖は、OpenAI エコシステムではまったく的外れなものではありませんでした。 2023年XNUMX月、CEOは Sam Altman カレン・ハオ氏の著書と複数の業界記事の両方で報じられているように、AIは人類にとって潜在的な絶滅の脅威であると述べた公開書簡に共同署名した。
しかし、この終末論的な物語は、ますます攻撃的になる商業的野心と共存しなければなりませんでした。 ChatGPT は世界的な現象になりつつあり、OpenAI は研究室から数十億ドル規模の技術大手へと急速に変貌を遂げていました。この矛盾が内部の緊張を高め、 アルトマンを解任しようとする（失敗した）試み 2023 年 XNUMX 月に。
内部の亀裂：AGIボタンに指を置いた状態
終末論と資本主義のビジョンの間の緊張は2023年後半に爆発した。スツケヴァーは当時の最高技術責任者とともに ミラ・ムラティは、短期間の企業クーデターを画策し、一時的にアルトマンをCEOの職から解任した。
この決定の根底には、アルトマンが内部のセキュリティプロトコルを回避し、権力を集中しすぎているのではないかという懸念があった。ハオ氏が確認し、彼女の著書で独占的に報告されたメモによると、スツケヴァー氏は「サムは AGI ボタンに指を置くべき人物ではないと思う」と述べたと引用されている。これらの内部緊張の記録は、 大西洋の のもの MITテクノロジーレビューは、OpenAI を揺るがしたリーダーシップの危機をこれまで見たことのない形で垣間見せてくれます。
「ボタンに指を置く」という比喩は特に示唆に富んでいます。それは、AGI が核兵器の役割を果たす冷戦のシナリオを想起させます。人工知能を進歩のためのツールとしてではなく、破壊の潜在的な原因として位置付けるビジョン。
OpenAIの後：安全なスーパーインテリジェンスでミッションは継続
「クーデター」が失敗し、アルトマンが復職した後、スツケヴァーは2024年XNUMX月にOpenAIを離れ、 安全なスーパーインテリジェンス (SSI) は、安全な人工知能システムの開発に特化した企業です。
OpenAIとは異なり、SSIの焦点ははるかに狭い。「私たちの最初の製品はセキュアAIであり、それまでは他のことは何もしません」とSutskever氏はインタビューで語った。同社は当初1億ドルを調達し、その後さらに2億ドルを調達し、XNUMX年にはXNUMX億ドルに達した。 TechCrunchの 32年2025月時点での評価額はXNUMX億ドルと予想されており、AIの安全性に関する懸念が投資家の間でも広がっていることが分かります。
バンカーは象徴か：妄想か先見か？
スツケヴァー氏が提案した終末シェルターは、実際には建設されなかったものの、AI業界に浸透する矛盾と恐怖の強力な象徴となっている。それは一方では、ほとんど宗教的な偏執症を表し、他方では、潜在的に変革をもたらす技術に直面した際におそらく必要な警告を表している。
として 5年前にあなたに手紙を書きました「世界がかつてないほどの岐路に立たされている。戦争に終止符を打ち、毒物で窒息させるか、それとも技術と倫理によって再生するかだ。」 スツケフェルのバンカーはまさにこの交差点を表しています。 災害に対する恐怖とそれを避けられるという希望。ますます緊張が高まる地政学的状況を考慮すると、米国と中国の間の技術競争は今や 新しい冷戦AIを主戦場とする。
このシナリオでは、人工知能の背後にある頭脳を保護するためのバンカーのアイデアは、もはや愚かなものではなく、テクノロジーの制御が力のバランスを決定する世界における戦略的な考慮であるように思われます。
終末対策バンカー、最前線の恐怖
スツケヴァーの終末シェルターの物語は、私たちにイノベーターたちのパラドックスを突きつけます。つまり、技術の限界を押し広げる人たちは、往々にしてその結果を真っ先に恐れるということです。この二重の態度（熱意と恐怖、野心と慎重さ）が人工知能の最先端を特徴づけています。
妄想か先見の明かかどうかは別として、OpenAI 元幹部の提案は、私たちに根本的な疑問を突きつける。自分たちが作り出している技術を、私たちは実際にどれだけコントロールできるのだろうか？そして、もしその作成者自身がその結果を恐れて、地下シェルターに避難することを検討するほどなら、私たちは皆、もっと注意を払うべきではないでしょうか?
