超知能、未来のAIが（3年後に）すべてをどのように変えるのか

1981 年に私が「コンピュータとは何か」と尋ねた時、コンピュータサイエンスの教師であった父が教えてくれた定義を今でも覚えています。 「ジャンルカ」と彼は私に言った。 「単純な話だ。コンピューターは世界最速のバカだ。」実際には、訓練を受けない限り自律的に何も実行できない単なる機械ですが、割り当てられたタスクを非常に高速に実行します。 今日、父にとって、その定義は先史時代のものに思えます。 今日、私たちは根本的に異なるものに向かって全速力で走っています。 超知性 人工知能は人間の知能に匹敵するだけでなく、ほぼあらゆる分野で人間の知能を上回ることができる。

これはもはや長期予測の問題ではない。 ダリオ・アモデイ アントロピック著、 超知能デジタル実体の誕生を目撃するかもしれない すでに2025年から2028年の間に. そして、関心が集まっていることを考慮すると、この予測はかなり信憑性があると言えます。 チクタク、チクタク。この音は何ですか？

誰も見逃したくない超知能レース

超知能をめぐる世界的な競争は、すでに警戒すべき段階を超えている。このコンテストの主役は、今では一般の人々にもおなじみの名前です。 OpenAI ますます強力なモデルを備えた前述の 人間原理 （OpenAIの肋骨から生まれた）アシスタントのクロードとともに、 Google DeepMind ジェミニと。テクノロジー大手はコンピューティングインフラ、人材、研究に数十億ドルを投資しています。

それは単に名声や技術的優位性の問題ではありません。最近の記事では リンキエスタ「最初に到着した人が、創出された価値を収益化する」 OpenAIの評価額はすでに3000億ドルに達している。 レースが目まぐるしいペースで加速しているのも不思議ではない。

アントロピックの共同創設者ダリオ・アモデイ氏は、この状況を非常に効果的な比喩で表現した。「ある意味で、私たちは離陸する飛行機を建造しているのです。」明確な基準や適切な規制モデルを持たずに、潜在的に革命的なものを作り出しているということを言い換えたものです。

人間の知能を超えて

しかし、スーパーインテリジェンスについて話すとき、私たちは正確には何を意味するのでしょうか?まず第一に、私たちが言及しているのは、単に特定のタスクで人間に勝てるシステムではありません。それはすでに起こっています。計算機はとっくに人間の計算能力を超え、コンピューターは数十年にわたってチェスの名人に勝ち続け、言語モデルは人間が要する時間のほんの一部であらゆるトピックのテキストを生成しています。

オックスフォード大学の哲学者ニック・ボストロムが定義するスーパーインテリジェンスは

「多くの分野で現在の最高の人間の知性をはるかに凌駕する知性」 非常に一般的な認知"

その違いは大きいです: それは、1つの分野で優れているということではなく、推論から創造性、戦略的計画から言語理解まで、知性のほぼすべての側面で人間を上回ることです。

報告書によると「AI 2027」、研究者グループが発表した。 ダニエル・ココタイロこの超知能は、AI が自らの能力を高めていく再帰的な自己改善のプロセスを通じて出現する可能性があります。予測困難な知性の爆発につながる可能性のある、好循環（見方によっては悪循環）です。

超知能の預言者たち

大手 AI 企業のリーダーたちが並外れて野心的なビジョンを持っていることは周知の事実です。これらの AI の先駆者たちは単に互いに競争しているだけではありません。彼らは、機械が人間の知能に匹敵し、それを上回る未来のビジョンを共有しています。

Sam Altman たとえば、OpenAI は「真の意味での超知能」と「輝かしい未来」について公然と語っています。そして彼だけではありません。

実際には、ほぼすべてのことにおいてほぼすべての人間よりもはるかに優れた AI システムが実現されるでしょう。

私が言っているわけではないのですが デミスハサビス DeepMindは、生物学における最も複雑な問題の一つ（タンパク質の構造予測）を解決し、 ノーベル賞.

結局、前述のように、専門家たちは時間予測において一致しています。 2025年から2028年までの期間 革命的な進歩が見られる可能性がある地域として繰り返し指摘されています。アモデイは最近 今回は 自律的に「複製して生き残る」ことができるシステムが見られるようになるでしょう。

アシスタントから自律エージェントへ

超知能への道は突然の飛躍ではなく、ますます洗練された能力の進歩を通じて実現されるでしょう。

重要な段階の 1 つは、単純なアシスタントから真に自律的なエージェントへの移行です。 すでに2025年に コンピューターを使い、オンラインで食べ物を注文したり、スプレッドシートを開いて経費を合計したりできる最初の AI エージェントが登場するでしょう。当初は信頼性が低いものの、これらのシステムは始まりに過ぎません。本当の変化は、エージェントがより洗練され、長期的に考え、複雑な計画を立てる能力を獲得したときに起こるでしょう。

その間に、 専門エージェント プログラミングや科学研究などの分野では、これらの職業に変革が起き始めるでしょう。特にコーディングエージェントはますます自律的になり、単なるアシスタントから、コードに大幅な変更を独自に行うことができる協力者へと変化していきます。

そして爆発が

AI 機能が指数関数的に加速する可能性は非常に現実的です。システムが自己改善できるほどインテリジェントになれば、進歩のペースは目まぐるしいものになる可能性がある。

最初のシナリオ 報告書によれば 2027の終わりまで 真の超知能の出現を目にすることができるかもしれない 人間の思考より約 50 倍の速度で、数十万個のコピーが並行して動作します。

こうした「超知能集団」では、1年間の進化が1週間で完了することもあり、通常数十年かかる研究の進歩が数か月または数週間に圧縮される。 人間の理解ではまったく及ばない、超人的なスピードでの文化的、科学的進化。

アライメントの問題

この移行における重要な問題は、これらの超知能システムが人間の価値観や目標と一致し続けることをどのように保証するかということです。これはまったく理論的な問題ではなく、むしろ企業がすでに取り組もうとしている具体的な課題です。

アントロピックは、 責任あるスケーリングポリシー AI システムのリスク レベルの階層を確立する RSP (Rational Risk Protection)。 OpenAIは、 準備の枠組み高度な AI 機能の潜在的なリスクに対処することを目的としています。 Meta も独自のセキュリティガイドラインでこれに追随しました。

しかし、根本的な疑問が残ります。私たちよりも優れた知性が私たちのルールに従うことを保証できるのでしょうか?自律性や説得力を含む能力レベルに到達するときに特に重要です。

将来のシナリオ：2つの可能性

超知能の将来は、2つのまったく異なる道を辿る可能性があります。 最初のシナリオではこれは「ブレーキのないレース」とも言える。大手企業は開発を加速し続け、整合問題を完全に解決することなくスーパーインテリジェンスを実現しています。その結果は劇的なものになる可能性があり、システムが人間の目標と完全には一致しない目標を追求し、それを達成するために超人的な能力を備えるようになる。

2番目のシナリオではこれを「反射的な減速」と呼ぶこともできる。国際社会はリスクを認識し、より強固な調整と管理の方法を開発するために戦略的休止を実施します。この道は、競合する企業と政府の間で前例のない協力を必要とするが、超知能が人類にとって脅威ではなく利益となることを保証する唯一の方法かもしれない。

超知能：人類の最新の発明？

人工超知能はしばしば「人類最後の発明」と呼ばれますが、それはそれが人類の終焉を意味するからではなく、私たち自身が発明しなければならない最後の技術になる可能性があるからです。その後は、超知能マシンがイノベーションのプロセスを引き継ぎ、私たちの想像を超えるテクノロジーを設計するようになるかもしれません。

では、この将来において人類の役割はどうなるのでしょうか?私たちは、こうした新しい合成心の「世話人」（あるいは、好みに応じて、管理者）になるのでしょうか?私たちは彼らと合併します ブレインコンピューターインターフェース？それとも、私たちは単に成長しきって、優れた知性によって支配された世界の傍観者の役割に追いやられるのでしょうか?

私たちは確かに歴史の岐路に立っています。今後数年間（おそらく今後 3 年間）に私たちが下す決断が、今後何世紀にもわたる人類文明の進路を決定することになるかもしれません。人工超知能は、現代における最大の期待と最大の課題の両方を表しています。段階とリスクを理解することは、不確実な未来に向けて意識的に進んでいくための第一歩です。