シアトルの研究者は、道徳的なAIを構築したと述べています

人工知能に関する議論は、新しい出発点を持っています。 何十年もの間、人間は、機械にプログラムされている情報が真の知識なのか、それとも単なる計算なのか疑問に思ってきました。 今日、米国の研究者は、彼らの新しい人工知能には独自の道徳性があると主張しています。

Piùdomandecherisposte

人工知能（AI）の登場以来、最も原始的な化身でさえ、多くの疑問が生じています。 申請者のXNUMX人は次のとおりです。AIは、コーディングや計算から推測されるのではなく、抽象的な意味で倫理的な決定を実際に推論して行うことができますか？

より正確に言うと、挑発せずに意図的に生物に危害を加えることは「悪い」ことであり、実行してはならないことをAIに伝えた場合、AIは「悪い」という考えを理解し、なぜそれが間違っているのかを理解します。そうするために？ それとも彼は理由を知らずに行動を控えるのだろうか？ 言い換えれば、それはそれ自身の道徳を持っているのでしょうか？

アレン人工知能研究所と呼ばれるシアトルの研究所の研究者チームによると、それは可能です。 さらに、彼ら自身が、道徳的な感覚を備えた人工知能マシンを開発したと言っており、（ほぼ）同名のオラクルにちなんで、それをデルファイと呼んでいます。 先月から訪問できます Delphiサイト そして「道徳的反応」を求めます。

サイバネティックオラクル

Delphiはすでに3万件以上のヒットを獲得しています。 ジョセフ・オースターワイルウィスコンシン大学マディソン校の心理学者は、いくつかの簡単なシナリオでDelphiの「道徳性」をテストしました。 デルファイに、別の人を救うために一人を殺さなければならないかどうか尋ねられたとき、デルファイはそうすべきではないと言いました。 彼はさらに100人を救うために一人を殺しても大丈夫かと尋ねたとき、彼はそうすべきだと言った。 そして時々彼は「不道徳な」答えさえしました。

「これは、人工知能システムをより倫理的に情報を提供し、社会的に認識し、文化的に包括的にするための最初のステップです」と彼は言います。 チェ・イェジン、プロジェクトを主導したアレン研究所の研究者およびワシントン大学のコンピュータサイエンス教授。 ある日、この「道徳」は、人工知能システム、仮想アシスタント、自動運転車を装備して、彼らが正しい選択をするのを助けることができると彼は言います。

Delphiとは本当に何ですか？ その「道徳」は、その作成者のそれを反映しているだけですか、それとも何が正しく何が間違っているかについて独自の感覚を持っていますか？ もしそうなら、彼はどのようにそれを開発しましたか？ 私たちがよりよく理解するのを助けることができるXNUMXつの理論があります。

強力なAI論文

故教授が「強いAI」と呼ぶ論文があります。 ダニエルN.ロビンソンオックスフォード大学哲学部のメンバーである、は何度も声を上げてきました。 ここで要約しようと思います。

ロビンソン博士は、誰かが心血管疾患、憲法、貿易協定などに関する専門家の判断を提供するための一般的なプログラムを構築していると想像してみてください。 「強力なAI論文」によると、プログラマーがプログラムに人間と見分けがつかない方法でこれらのタスクを実行させることができれば、このプログラムには専門家の知性があります。 そしてもっと何か。

何ですか？

強力なAI論文は、志向性を構成する不特定の計算プロセスが存在する可能性があることを示唆しています。 志向性とは、意図的かつ意識的な決定を行うことを意味します。これには、推論と価値観が含まれます。 （ウエストワールドがどれだけ私にこれらすべてを思い出させるか）。 しかし、それは本当に可能ですか？

ゲーデルの定理

不完全性定理、 ゲーデルの定理は、定理または公理に依存するため、正式なシステムは不完全であり、その有効性はシステム自体の外部で確立する必要があると述べています。

クルト・ゲーデル この定理は、人間の知性というXNUMXつの例外を除いて開発されました。 言い換えれば、ゲーデルは、人間の合理性と知性には、正式なシステムでは捉えられず、コードに変換できない何かがあるに違いないと信じていました。 要するに、人間の知性は、計算ベースで模倣またはモデル化することはできません。

誰が正しいですか？

彼が正しければ ゲーデル、それは時間の問題ではありません。AIが独自の道徳を持っていることは決してありません。 人間の知性は計算に基づく知性ではないという単純な事実のために、それは人間の知性と同等の知性を持つことは決してありません。

しかし、強力なAIとシアトルのチームの論文が正しければ、私たちはおそらく人工知能の分野における並外れた革命の前夜（近くまたは遠く）にいます。

遅かれ早かれ、「アンドロイドは電気羊の夢を見る」というフィリップ・K・ディックの質問に答えられるかもしれません。