何百万回もの空想科学小説は、ロボットがあらゆる方法で人間と協力する完全に自動化された地球を想像してきました。
時々、私たちはロボットの世界を描きます。そこでは、機械が私たちが受けたダメージをきれいにするのを助けます（WALL-E）。 または、人間を根絶すべき疫病と見なす人工知能の終末後の結果（ターミネーター）。 または、人間とロボットが平和に共存する世界（ビセンテニアルマン）。
全体的なポジションの有病率を評価すると、ほとんどの人は 危険をもっと考える 機会より。 今から1000年後、私たちの想像力は、ロボットの未来をもう少し黙示録のように見ています。そして、地上の楽園とは明らかに異なります。
ロボットの未来：なぜこの悲観論なのか？
私たちは、ロボット工学と人工知能に関する研究を、恐ろしい結果をもたらすことが多い他の同様の技術的進歩と比較する傾向があります。 確かに、原子エネルギーの研究は爆弾から始まり、原子力発電所（ここでも光と影）で続けられ、まばゆいばかりの明るさの側面をまだ示していません。
みんなの信頼を得るためには、ロボットの世界を人類との関係についての正確なルールでゼロから設計する必要があります。 ロボットの人工知能は、人間を認識し、どんな犠牲を払っても人間に危害を加えないようにする必要があります。 アシモフを知っていますか？
この記事を読んでいると、米国、ロシア、中国、その他の国々がドローンやその他の国々のためのプログラムを開発していることを考えると、簡単ではありません。 人を殺すことができるロボット。 独立してさえ。
ロボットの問題はすべてそこにあります
私たちは重要な時代を迎えようとしていますが、XNUMX世代の科学者のアドバイスを無視し続けています。 ロボットの未来の問題を何年にもわたって調査し研究してきた人々。 カーツワイル、ムスク、ホーキングなどの天才、先見の明、テクノロジーのパイオニア ハラリ, ガウダット、Asimov、Vinge、その他多くの人々が、AIとロボット工学に内在する危険性について何十年にもわたって警告してきました。
私は、みんなのように、キラーロボットが地球を支配することを望んでいません。 宇宙家族ジェットソンのような世界がもっと欲しい（」曽孫"）。 物事をより良くするために私たちの創造物が私たちと一緒に働くロボットの世界：しかし、今日の仕事がロボットの軍事的使用のみに焦点を当てている場合、私たちは非常に暗い未来に備える必要があります。
私たちは、ロボットやAIが自分自身に気づき、世界を征服したり、私たちを一掃しようとしたりする可能性に苦しんでいます。これは、これが可能性であることを単に認識しているからです。 そして私達はまた私達自身を知っています：人間は彼ら自身を危険にさらすための新しい方法を作成する並外れた能力を持っています。
これを回避するには、XNUMXつのオプションしかありません
最初のオプション： ロボットの未来の真の頭脳である人工知能に関して、すべてを放棄および/または違法にします（そして私はすべてを意味します）。 動作しますか？ たとえば、核兵器や倫理的に疑わしい医学研究を管理するためのあらゆる努力と同じように、いいえ。 好奇心を満たし、利点を得たいという人間の欲求は消えることがありません。 それが私たちのやり方です。
XNUMX番目のオプション： 誰もが潜在的な危険性を認識していることを確認し、ロボット製品が人に害を及ぼすことができないフレームワークを構築してください。 道徳的な感覚の形？ 必要に応じて。 しかし、誰かがすでに試みています。
言うまでもなく、XNUMX番目のオプションが唯一の実行可能なオプションのようです。 特に私たちが特異点の危機に瀕している場合。 ロボットの世界の私たちの比喩的な「子供たち」は、彼らを制御する私たちの能力をすぐに超えてしまいます。 彼らが私たちの規則を遵守するという保証はありません。 たとえば、ゴリラに与えるのと同じ位置に配置されるリスクがあります。 私たちの近くにいるが、可能性は非常に限られている動物。
このためには、ロボットの未来がそれに続くこと、そして作られたデバイスが独自の「常識」を持っていることを期待して、道徳的な感覚（私たち全員が最初に従うべき道徳的な感覚）を彼らに植え付ける方が良いです。
