「こんにちは、私です。」しかし、それは本当にあなたですか？人工知能が恐ろしい精度で人間の声を複製できる世界では、この疑問はもはやそれほど明白ではありません。マイクロソフトは幕を開けたばかりです ヴァリー2, ここに論文のリンクを貼っておきます。もの？人間の声を現実と区別できない形で再現することができるAIです。驚異を約束するテクノロジーの進歩ですが、その創造者さえも震え上がらせる落とし穴が隠されています。
人工知能が自分の声を見つける
VALL-E 2 は、風邪をひいたロボットのような音声合成を行う一般的な音声合成装置ではありません。そして、それは市場で最も先進的なシステムの XNUMX つですらない (私は イレブンラボの噂について考えています)。いいえ、皆さん、これはさらに深刻な問題です。音声合成の分野で「人間の平等」を実現したAIの話です。
しかし、VALL-E 2 はなぜ特別なのでしょうか?まず、この小さな技術の驚異は音声を複製することができます たった 3 秒間の音声を聞いた後。 三つ。秒。 「こんにちは、お元気ですか？」と言う時間です。そしてブーム: AI はすでにあなたの声の秘密を学習しており、それを自由に再現できます。まるで人間の声を聞き分ける絶対的な耳を持っているかのようで、あらゆる微妙なニュアンスを把握し、それを完璧に再現することができます。
VALL-E 2 は、音声の堅牢性、自然さ、話者の類似性において以前のシステムを上回っています。
マイクロソフトの研究者
ボーカルの天才…天才すぎる？
VALL-E 2 がハイテクオウムのように単純な文章を繰り返すだけだとは思わないでください。なんてこった。また、音声合成システムにとって通常問題の原因となる、複雑で反復的な文も管理できます。彼は言語学の博士号と演技の修士号を取得しており、そのすべてがアルゴリズムに組み込まれているようなものです。
さて、この権力を大衆の手に委ねることを想像してみてください。刺激的ですね?まあ、それほど速くはありません。 VALL-E 2 の作成者は、そのクリーチャーの能力に非常に感銘を受けています (そして懸念しています) 彼女は「純粋に研究プロジェクトとして」彼女を檻に入れることに決めた。 パブリックアクセスはなく、商用製品への統合もありません。彼らはドラゴンを作成しましたが、今ではそれをどう扱えばよいのかわかりません。
そして、あなたはそれらを理解することができます。電話詐欺が日常的に行われている時代において、これほど正確に音声のクローンを作成できる AI は、悪者の手に渡れば非常に強力な武器となる可能性があります。娘から急いでお金を送ってほしいとの電話を受けたと想像してください。彼女のような声、彼女のような話し方ですが…本当に彼女なのでしょうか?
ボーカルの完璧さの暗い側面
マイクロソフトの研究者は確かに世間知らずではありません。彼らは、このような高度なテクノロジーに関連する潜在的なリスクを十分に認識しています。
音声識別のなりすましや特定の話者になりすますなど、モデルを悪用すると潜在的なリスクが生じる可能性があります。
言い換えれば、VALL-E 2 は、音声認識に基づいてセキュリティ システムを欺いたり、信じられないほど説得力のある音声ディープフェイクを作成したりするために使用される可能性があります。これはあらゆる音声ロックを開きます。
誰の声のクローンも作成できます。
有益な利用と乱用の境界線は髪の毛のように細い。そしてできればこの危険な海を安全に航行する方法が見つかるまで アルゴリズムで、VALL-E 2は、ランプから解放されないほど強力な魔神のように、研究所に閉じ込められたままになります(?多分)。
私たちは、この問題の鍵を見つけることを望んでいます。なぜなら、このテクノロジーは、失語症やその他の言語に関連する病理学的障害を持つ人々を本当に助けることができるからです（例を挙げます）。あるいは、教育、エンターテイメント、ジャーナリズムにおける可能性について考えてみましょう。 それは信じられないことです。
未来の声
今、頭の中で聞こえる声がささやきます：明日は私たちに何が待っているのでしょう？ VALL-E 2 は、人工音声が人間の音声と区別できなくなる新しい時代の始まりに過ぎないのでしょうか?それとも、人工知能を受け入れる際には慎重に進むよう私たちに思い出させる警鐘なのでしょうか？
人間の声を複製する技術は飛躍的な進歩を遂げ、もう後戻りはできません。私たちは、もはや音声がアイデンティティの動かぬ証拠ではなくなる新しい世界の瀬戸際に立っている。
そして実際のところ、結局のところ、その考えが本当に私のものなのかどうかさえわかりません。私たちのような世界では、あまり確信を持つことはできません。
