技術的特異点は、人間または機械であるという感覚を再定義します

（1941年に）コンピューターが形になったので、最初に部屋全体、次にオフィスデスク、次にポケットを埋めました。 しかし、それらすべてに共通することがXNUMXつあります。それは、人間の精神によって設計されたということです。 何年にもわたって、多くの人々が疑問に思ってきました。コンピュータが自分で設計した場合はどうなるでしょうか。

いつの日か、スマートコンピュータはそれ自体よりもはるかに強力なマシンを作成できるようになるでしょう。 その新しいコンピューターは、おそらく別のコンピューターをさらに強力にするでしょう。 人工知能は指数関数的な上向きの曲線を描き、人間には考えられない認識の高さに達します。 これは、一言で言えば、技術的特異点です。

新世代の超インテリジェントコンピュータは、すべてに革命を起こす可能性があります。 ナノテクノロジーから没入型バーチャルリアリティ、超光速宇宙旅行まで。

技術的特異点により、バイオベースの脳だけを利用する代わりに、人工知能を使用してそれとインターフェースをとることができます。 私たちの脳のパフォーマンスを改善または向上させる インプラントで、あるいはデジタルで私たちの心をアップロードする 私たちの体を生き残る.

技術的特異点の結果は、光の速さで考えることができ、生物学的な心配がない、過給された人類になるでしょう。

まったく新しい世界

哲学者 ニックボストロム 彼は、このダイナミックな世界がまったく新しい時代をもたらす可能性があると考えています。

この世界では、私たちは皆、人間ではなく、私たちが作成した、または彼らが自分で作成した機械によって運営されている巨大なディズニーランドの子供たちのようになります。

ニックボストロム、オックスフォード大学のフューチャーオブヒューマニティインスティテュートの哲学者、作家、ディレクター

私の上の星空、私のプロセッサ内の道徳法

技術的特異点は、私たちをユートピア的なファンタジーやディストピア的な悪夢に導く可能性があります。 そして、このボストロムはそれをよく知っています。 彼は何十年もの間、超知能AIの出現について考えており、よく知っています。 そのような創造物が伴うリスク。

もちろん、ロボット革命の古典的なSFの悪夢があります。そこでは、機械が地球を制御することを好むと判断します。

しかし、さらに可能性が高いのは、超知能AIの道徳的規範が、それが何であれ、単に私たちのものと一致しない可能性です。

自動運転車のフリートや医薬品の配布を担当するAIは、私たちのように人間の生活を評価しなくなった場合、大混乱をもたらす可能性があります。

AIアライメントの問題と呼ばれるように、近年、新たな緊急性を帯びてきました。 ボストロムのような思想家の仕事に。

技術的特異点と考え方の違い

私たちが超インテリジェントな人工知能を制御できない場合、私たちの運命は私たちのような将来の機械知能の考え方に依存する可能性があります。 この点で、Bostromは、「AIが実際に人間にとって有益なものを選択するように設計し、私たちが何を意味するのかが明確でない場合は、説明を求めることを選択するようにAIを設計する取り組みが進行中であることを思い出させます。 「」

私たちが人間の道徳を初期の超知能に教えることができる方法があります。 今日のように、機械学習アルゴリズムは人間の価値体系を認識するように教えることができます GAN 彼らは画像とテキストのデータベースで訓練されています。 または、複数のAIが、人間のモデレーターの監督下で、人間の好みのより良いモデルを構築するために互いに議論することができます。

尊敬の質問

技術的特異点がもはや単純な機械ではなく、真の人工的思考の精神を生み出すことであるならば、私たちは倫理的側面も考慮する必要があります。 ボストロム氏によると、彼らに影響を与えることが正しいかどうか、そしてどの程度影響を与えるかを自問する必要があります。

意識的な機械のこの時代では、要するに、技術的特異点は人間に新しい道徳的義務を課す可能性があります。 デジタルの存在を尊重して扱うこと。

それを「21世紀の黄金律」と呼んでください。