派手な白いダウンジャケットを着て、まるでラップ風の十字架を背負った教皇フランシスコの写真が地球上を駆け巡っている。そして、それはバイラルになるために必要なすべてを備えていました:過剰で、有名な人物を使って…そして虚偽でした。しかし、何百万人もの人々がそれが真実であると判断しました。画像を生成した人工知能に「ありがとう」。
しかし今、笑いのこだまが静まる一方で(「モンクレロ」の定義は単純に素晴らしかった)、専門家の懸念は増大している。
AI の欺瞞的な芸術
教皇の写真は、 ミッドジャーニー、簡単なテキストの説明に基づいてフォトリアリスティックな画像を生成する AI プログラムです。この偽画像は、ソーシャルネットワーク Reddit の人工知能によって生成されたアート専用のページに最初に出現し、その後 Twitter で急速に広まりました。
よくご存知のとおり、Midjourney が唯一のツールではありません。また DALL-E OpenAI (ChatGPT と同じ) と Stable Diffusion は同様の機能を提供します。専門家の懸念は、特定のスキルを必要とせずに数秒で偽の画像を作成できるこれらのツールのアクセシビリティと使いやすさに関するものです。
今日教皇、そして明日?
ヘンリー・アジデル人工知能の専門家である彼は、このテクノロジーが過去 1 年間でいかに「電光石火」のスピードで発展し、減速する兆しが見られないかを指摘しています。 確かに。
AIが生成した偽画像には、写真に映るローマ法王の「欠陥のある」手や、同様に話題になった逮捕されたトランプの(そして偽の)写真の髪の質がぼやけているなど、目に見える欠陥がまだあるものの、これらの欠陥は、短期間で排除できる可能性がある。数ヶ月間のこと。
不可能ではないにしても、本物の写真と偽物の写真を区別することは常に困難です。有名ではない普通の人々が「改変」されると(否定するのは簡単ですが)何が起こるでしょうか?
結果はすぐそこまで来ています
教皇とは異なり、虚偽の画像の拡散を止める手段を持たない人々に虚偽の画像を使用すると、深刻な結果を招く可能性があります。 それらは、個人をだます、脅迫する、屈辱を与える、さらには政治プロセスを歪めるために使用される可能性があります。
しかし、本当の副作用は、これらの偽の画像が人々に本物の画像の真実性を疑わせる可能性であることです。 「すべてが有効であれば、何も有効ではない」。毎日のニュース、自然災害の画像、戦争犯罪など、もはや情報価値のあるものは何もなくなり、すべてが虚偽であると認識されるでしょう。そして、このタイプの画像が何枚あるか数えてみると、 数年以内に、状況の重大さが理解できるでしょう。
教皇は許しますが、私は許しません
懐疑的な気持ちを忘れずに、常に情報源を確認してください。それがAIが作り出した偽りのイメージの罠に陥らないようにする唯一の方法です。これらのイメージがあなたの信念を強化するとしても、それが必ずしも真実であるとは限りません。
そして正直に言うと、偽物を本物と偽ることは損害をもたらすでしょう.教皇はあなたを許しますが、私は許しません.