（1941年に）コンピューターが形になったので、最初に部屋全体、次にオフィスデスク、次にポケットを埋めました。 しかし、それらすべてに共通することがXNUMXつあります。それは、人間の精神によって設計されたということです。 何年にもわたって、多くの人々が疑問に思ってきました。コンピュータが自分で設計した場合はどうなるでしょうか。
近い将来、スマート コンピューターは、はるかに強力なマシンを独自に作成できるようになります。 その新しいコンピューターはおそらく、さらに強力な別のコンピューターになるでしょう。 人工知能は指数関数的な上昇曲線をたどり、人間には考えられない認知の高さに達します。 これは、一言で言えば、技術的特異点です。
技術的特異点
「技術的特異点」という用語は、科学者が基本的な計算を可能にするバイナリ コードと回路をいじり始めたばかりの 50 年以上前にさかのぼります。 当時でさえ、技術的特異点は驚異的で手ごわい概念でした。
新世代の超インテリジェントコンピュータは、すべてに革命を起こす可能性があります。 ナノテクノロジーから没入型バーチャルリアリティ、超光速宇宙旅行まで。
技術的特異点により、バイオベースの脳だけを利用する代わりに、人工知能を使用してそれとやり取りすることができます。 私たちの脳のパフォーマンスを改善または向上させる インプラントで、あるいはデジタルで私たちの心をアップロードする 私たちの体を生き残る.
技術的特異点の結果は、光の速さで考えることができ、生物学的な心配から解放された、スーパーチャージされた人類になるでしょう.
まったく新しい世界
哲学者 ニックボストロム 彼は、このダイナミックな世界がまったく新しい時代をもたらす可能性があると考えています。
この世界では、私たちは皆、人間ではなく、私たちが作成した、または彼らが自分で作成した機械によって運営されている巨大なディズニーランドの子供たちのようになります。
ニックボストロム、哲学者、作家、オックスフォード大学のフューチャー オブ ヒューマニティ インスティテュートの所長
私の上の星空、私のプロセッサ内の道徳法
テクノロジーの特異点は、私たちをユートピアのファンタジーやディストピアの悪夢に導く可能性があります。 そして、このボストロムはそれをよく知っています。 何十年もの間、彼は超インテリジェント AI の出現について考えてきました。 そのような創造物が伴うリスク。
もちろん、ロボット革命の古典的な SF の悪夢があります。そこでは、機械が地球を支配したいと判断します。
しかし、それよりも可能性が高いのは、超知能 AI の道徳規範が、それが何であれ、単に私たちのものと一致しない可能性です。
自動運転車のフリートや医薬品の配布を担当する AI は、人間の命を私たちと同じように評価しなくなった場合、大混乱を引き起こす可能性があります。
AIアラインメント問題と呼ばれるように、近年、新たな緊急性を帯びてきました。 ボストロムのような思想家の仕事に。
技術的特異点と考え方の違い
超知能の人工知能を制御できなければ、将来の機械知能が私たちと同じように考えるかどうかにかかっているかもしれません。 この点について、Bostrom 氏は、「人間にとって有益なものを実際に選択し、意味が明確でない場合は説明を求めるように AI を設計する」という取り組みが進行中であることを思い出させてくれます。 "
私たちが人間の道徳を初期の超知能に教えることができる方法があります。 今日のように、機械学習アルゴリズムは人間の価値体系を認識するように教えることができます GAN 彼らは画像とテキストのデータベースで訓練されています。 または、複数のAIが、人間のモデレーターの監督下で、人間の好みのより良いモデルを構築するために互いに議論することができます。
尊敬の質問
技術的特異点が単純な機械ではなく、本物の人工思考の心を生み出すとしたら、倫理的な側面も考慮する必要があります。 ボストロム氏は、彼らに影響を与えることが正しいかどうか、そしてどの程度まで影響を与えることが正しいかを自問することが必要になるだろうと述べています.
意識的な機械のこの時代では、要するに、技術的特異点は人間に新しい道徳的義務を課す可能性があります。 デジタルの存在を尊重して扱うこと。
