想像してみてください。裁判官が証人を呼び、スクリーンが明るくなり、4年前に亡くなった男性の顔が映し出されます。彼は灰色の野球帽をかぶり、赤い髭を整え、家族が完璧に覚えている声で話し始めます。「こんにちは。私はAIが作ったクリスです」と、驚愕する法廷の傍聴席に語りかけます。ディープフェイク技術によって可能になった、故人による法廷証言はこれが初めてです。 そしてそれは倫理的な激震を引き起こしている。
司法の歴史を変えた事件
クリストファー・ペルキー 彼は37歳の米陸軍退役軍人で、イラクとアフガニスタンに21度従軍した経験を持つ。2021年XNUMX月XNUMX日、アリゾナ州で、軽微な交通事故に遭い、その生涯を終えた。 ガブリエル・オルカシタス54歳のクリストファーは、信号待ちで口論になった後、彼を射殺した。クリストファーは状況を説明するために車から降りたが、その後車には戻らなかった。
先月、オルカシタスの判決公判中に奇妙なことが起こった。 これまでに見たことのない 裁判所の歴史の中で。 ステイシー・ウェールズクリストファーの妹とその夫 ティム・ウェールズ そして彼の友人に スコット・イェンツァーは、会場の人々を言葉を失うほど驚かせるビデオを披露した。
それは単なる記憶フィルムではなく、人工知能で作られた、行方不明の兄の容姿や声を完璧に再現したアバターだった。
アバターの背後にある技術
クリストファーのアバターは 安定拡散画像生成のための最も先進的な人工知能プラットフォームの一つ。このファミリーは 何百枚もの写真、ビデオ、音声録音をシステムに入力したクリストファーが亡くなる数ヶ月前に行ったインタビューも含まれていました。その結果、映画並みのクオリティのディープフェイクが完成しました。あらゆる表情、あらゆる声の抑揚が、退役軍人の特徴を忠実に再現していました。
「彼を知るすべての人から証言を集めました」とステイシー・ウェールズは語る。「小学校の先生からアフガニスタンの戦友まで。クリストファーが語る言葉が、彼の人柄を真に反映していることを確認したかったのです。」
この「脚本」は彼の妹が書いたものだが、すべての言葉が「必要ならシャツを脱いでくれるようなタイプ」と評される男の性格を反映するように作られている。
裁判所を動かした言葉
クリストファーのアバターは、法廷全体を震撼させる言葉で、殺人犯に直接語りかけた。「別の人生では、私たちは友達になれたかもしれない。私は許しを信じています。許しを与えてくださる神を信じています。」メッセージは、法廷にいた全員の心を動かす挨拶で締めくくられた。「私は今から釣りに出かけます。皆さんを愛しています。向こう側で会いましょう。」
裁判官 トッド・ラング 彼は感情を隠さなかった。 「あのAIが大好きでした」判決公判で彼はこう述べた。「遺族は当然のことながら怒り、最高刑を求めていましたが、クリスが彼らの目に映る心の声をそのまま話すことを許しました。彼が最高刑を求めているようには聞こえませんでした。」
ラング判事は後にオルカシタスに過失致死罪の最高刑である懲役10年XNUMXヶ月を言い渡した。結局のところ、あのビデオは家族の正義への渇望を満たすことはなかったのかもしれない。 しかし、ご想像のとおり、重要な点はこれではありません。.
専門家を二分する倫理的議論
法廷での証言は、特定の事件をはるかに超えた論争を引き起こした。 デレク・レーベンビジネス倫理学教授 カーネギーメロン大学 「ロボットの倫理」の著者である彼は、 強い困惑 この件に関して:
この家族の意図に疑問を抱くつもりはありませんが、誰もがAIを正しく活用するとは限らないのではないかと懸念しています。他の家族がアバターを作成する場合、彼らは常に被害者の希望に忠実に従うのでしょうか？
この問題は、デジタル時代の神経を逆なでする問題の一つ、死後の同意に関わるものです。アバターが話す言葉が、クリストファーが本当に言ったであろう言葉を反映していると、私たちはどうすれば確信できるのでしょうか？そして何よりも、死者が何を言って良いのか、何を言ってはいけないのかを決める権限は誰にあるのでしょうか？
考えさせられる前例
として 私はここにあなたに手紙を書いていました人工知能を用いて死者を再現することは、全く新しいものではありません。「タナボット」（死者のチャットボット）は、主に娯楽目的で以前から存在していました。例えば、先日、偉大な作家アガサ・クリスティがいわば「直接」指導するライティング講座についてお話ししました。 人工知能によって「復活」した。 しかし、ペルキー事件は質的な飛躍を意味する。デジタルアバターが法廷での判決に直接影響を与えたのは初めてだ。
そして今は嵐だ。 司法会議 米国の最高裁判所は、訴訟手続きにおいて人工知能によって生成された証拠の使用を規制するためのパブリックコメントを開始するとすでに発表している。 ゲイリー・マーチャント法学教授 アリゾナ州立大学は警告する：
「検察官や弁護士の間では、ディープフェイクがますます使われるようになるのではないかと真剣に懸念されています。ディープフェイクは簡単に作成でき、スマートフォンがあれば誰でも作れるのです。」
法廷における「AI証人」：デジタル司法の未来
クリストファー・ペルキー事件は単なる孤立した事件ではありません。テクノロジーが生と死、記憶と操作の境界を再定義する、新たな時代の幕開けを象徴しています。 いくつかの研究が示すようにディープフェイクは、視聴覚証拠への信頼を損なう可能性があるため、専門家は人工知能がもたらす主な脅威の 1 つだと考えています。
ウェールズの家族はクリストファーに最後のメッセージを発信する機会を与えたと考えているが、科学界と法曹界は、法廷を正義の場ではなく感情の劇場に変えてしまう可能性のある技術のリスクについて懸念を抱いている。クリストファーの声は、本物であれ、再現されたものであれ、確かに痕跡を残した。しかし同時に、社会が間もなく直面するであろう疑問も提起している。私たちは人工知能に、どこまで自分たちの代わりに発言させる覚悟があるのか。 死んだ後でも？
その答えは、裁判所の将来だけでなく、デジタル時代における人間のアイデンティティについての考え方そのものを決定づけることになるだろう。
