AIとディープフェイクは歴史を生き返らせますが、どのような（道徳的な）コストがかかりますか？

2021 年のイスラエルのメモリアルデーを祝うために、イスラエル国防軍オーケストラは、合成ビデオ (「ディープフェイク」とも呼ばれる) を専門とする会社と協力して、1948 年のアラブ・イスラエル戦争の写真に命を吹き込みました。

ビデオでは、当時の制服を着た若い歌手が、戦闘で殺された兵士を追悼する象徴的な歌「ハリュート」を歌いました。 ミュージシャンたちは歌いながら、手に持った色あせたモノクロ写真をじっと見つめます。 古い写真の若い兵士たちは、人工知能のおかげでまばたきをしたり、微笑んだりしています。 道徳の？ 過去がよみがえる。

結果は気がかりです：

ここ数年で、 NIREISIKOVITS と彼の同僚 UMassボストンの応用倫理センターの 人工知能との日々の関わりが、人々が自分自身について考える方法をどのように変えるかを研究しました。 彼らは、AI が人間の批判的能力や道徳感覚を弱体化させる力を持っていることを発見しました。

今日、人工知能は過去の復活をかつてないほど容易にしています。 これはまた、私たちが歴史を理解する方法、ひいては私たち自身を理解する方法を変えるのでしょうか?

支払うべき高い道徳的代償があります

過去を生き返らせたいという願望は新しいものではありません。 古い映画の修復とゼロからの視聴覚の作成の両方を通じて、何十もの再現と歴史的再構成があります。 ライブの再現と慎重に作成された歴史的な映像は、費用と時間のかかる作業です。 そのため、Deepfakeテクノロジーはこれらの取り組みを民主化し、古い写真をアニメーション化したり、魅力的な偽のビデオを最初から作成したりするための安価で人気のあるツールを提供します。

しかし、これらの新しいテクノロジーの無限の可能性と並んで、深刻な道徳的問題があります。

XNUMX世紀の作家兼政治家 エドマンドバーク 彼は、社会は「生きている人だけでなく、生きている人、亡くなった人、これから生まれる人の間のパートナーシップ」であると述べました. コミュニティの一員であることは、世代間の道徳的協定の一部であることを意味し、生者、死者、そして未来に生きる人々をつなぐ共通の事業の一部であることを意味します.

しかし、この能力にはリスクが伴います。 最初の明らかなことは、誤った歴史的エピソードの作成です。 架空の、神話化された、誤った出来事が戦争を引き起こす可能性があります：XNUMXつの例？ 最初： コソボの戦いでの歴史的な4世紀の敗北は、セルビアの反イスラム教徒の感情をいまだに燃え上がらせています。 しかし、セルビア連合が実際にオスマン帝国との戦いに敗れたかどうかは誰にもわかりません。 1964番目：XNUMX年XNUMX月XNUMX日のトンキン湾攻撃は、アメリカのベトナムへの関与を高めるために使用されました。 その後 攻撃は決して起こらなかったことが判明しました。

計り知れない結果

要するに、ディープフェイクは、歴史的な「出来事」のアイデアそのものを徐々に不安定にする可能性があります。 このテクノロジーがどこにでもあるようになると、人々は自分が見ているものが本物かどうか疑問に思うようになります。 これは政治的安定性を低下させるか、それとも安定性を高めることにつながりますか? それは知られていません。

そして率直に言って、これは現時点で私が最も心配している道徳的な結果ではありません。

私は創造性の分野で働いています。 私が恐れているのは、ディープフェイクを過度に使用すると、想像力が失われ、過去の「既成の」部分的な画像が提供され、即座に不変の関連付けが提供されることです。 ニュアンスの研究はありません。ディープフェイクはストーリーの実用的な代替物になり、深化や批判的な反省から離れて、何が起こったのかを正確に知るように人々を欺くことができます。

すべてがより簡単に、すべてがより困難になります：道徳は何ですか？

私たちは皆、テクノロジーが生活を楽にするものだと考える傾向があります。 しかし、多くの人は、これらの技術ツールが既存のスキルの低下を引き起こすことにも気づいていません。 スマートフォンを使用すると、クレイジーな写真をオンラインで公開できます。ビューを楽しんでいる人はどれくらいいますか、投稿するのに最適な画像をキャプチャするのにどれだけ忙しいですか？ GPSの時代にはまだ迷っていますが、冒険はどこにありますか？ XNUMXつのことを理解するのに役立つ小さな例：AIによって生成されたディープフェイクは、必ずしも過去の士気や過去の理解を向上させるとは限りません。

しかし、彼らはやって来て、良くも悪くも、歴史との絆に革命を起こすでしょう。