顔認識テクノロジーは、セキュリティを確保するための強力なツールになる可能性がありますが、不透明で差別的な方法で使用される場合は危険な武器にもなります。このことは、7月XNUMX日の残虐で野蛮な攻撃の後、イスラエルがパレスチナ人に対する大規模な生体認証監視プログラムを密かに実施したガザ地区で起こったことによって証明されている。のアルゴリズムを活用して、 Googleフォト そしてスタートアップ コーサイト、イスラエル軍は同意なしに何千人もの人々のプロファイリングを行っており、ハイテク民族プロファイリングの不穏な事件と思われる。
ガザのビッグ・ブラザー
物語、 ニューヨークタイムズ紙が報じた、ディストピアスリラーの輪郭を持っています。 7月8200日の攻撃後、イスラエル軍のXNUMX部隊（主要情報部隊）は、ハマスがソーシャルメディアに投稿した監視カメラの画像や動画を分析して潜在的な容疑者の特定を開始した。同時に、兵士らはパレスチナ人捕虜を尋問し、ハマスに関係するコミュニティの人々を特定した。
この素材を使って、スタートアップは コーサイト （顔の 50% 未満しか見えない場合でも顔を認識できるシステムを誇る）は、ガザで勤務するイスラエル将校向けのアドホックな顔認識ツールを構築しました。データベースをさらに充実させ、他の標的を見つけるために、軍はパレスチナ人が南へ逃げる際に利用する幹線道路沿いに生体認証カメラを備えた検問所を設置した。ある関係者がタイムズ紙に明かした目的は、7月XNUMX日の攻撃参加者の「ヒットリスト」を作成することであった。実際には、アルゴリズムと民族プロファイリングに基づいた「通常の容疑者」のファイルです。関係者の知識や同意なしに行われるハイテク捜査。 オーウェルの悪夢が現実になった。
イスラエル、誤りと虐待
私たちが知っているように、テクノロジーは絶対的なものではありません。 特に粒子の粗い画像や部分的に覆われた顔に基づいている場合はそうです。これは、ヨーロッパが顔認識に対して当然ながら慎重なアプローチをとっている理由でもあります。イスラエル兵士自身も、コーサイトのシステムが必ずしも正確ではなかったとタイムズ紙に認めた。彼は時々、人々をハマスに関係していると誤って特定した。これはパレスチナの詩人の場合です モサブ・アブ・トハ11月中旬、家族とともにガザからエジプトへ向けて出国しようとしていたところ、イスラエルの検問所で拾われた。彼はAIから指名手配通りに報告されていた。結果: 2 日間の拘留、殴打、尋問の後、ガザに送還されました。 説明すら無しに。
民族や住んでいる場所だけを理由に、テロリスト候補としてレッテルを貼られた罪のない人々が他に何人いるかは誰にも降りかかるかもしれない運命だ。顔認識システムに内在するリスク。慎重かつ透明性を持って使用しないと、人間の偏見を増幅させる可能性があります。
Google、大きな耳
しかし、この監視プログラムの背後にいるのはコーサイトだけではありません。兵士らはタイムズに対し、イスラエル軍が同社の技術を、よりアクセスしやすく、おそらくはさらに強力な別のツールと統合したことを明らかにした。 Googleフォト。 情報担当官は「既知の人物」データベースをビッグGのサーバーにアップロードし、画像検索機能を使用して追加の容疑者を特定した。兵士が観察したところによると、Google フォトは最小限の詳細からでも顔を認識でき、Corsight などの他のアプリケーションを上回っています。
要するに、マウンテンビューの巨人は、おそらく知らないうちに、ガザに対するイスラエルの統制機構の重要な歯車になっているのだ。国家安全保障の名の下に国民全体のプライバシーと権利を侵害し、地図を作成して監視できる優れた耳。物議を醸す不透明な AI の使用。ガザでは AI の使用と組み合わせて使用されます。 ロボットやドローンなどのその他の先進技術、そして大手テクノロジー企業の倫理的責任について疑問を投げかけています。
イスラエルだけではない: 監視の暗い側面
残念ながら、ガザの事例は孤立したものではありません。コーサイト社設立 2019で カナダのファンド Awz Ventures から 5 万ドルの投資を受けており、顔認識ソリューションの提供を専門としています。多くの現実: 政府、法執行機関、軍隊。 2020で、創設からわずか1年後に、同社はマスクされた顔を識別できると自慢しました。 2023年後のXNUMX年には、 DNA から人の特徴を再構成できるツールを開発中であると発表しました (ここで話しました). 2023で、ボゴタ警察と協力して、公共交通機関での殺人と盗難の容疑者を追跡しました。
恐怖のレトリックと安全への渇望に支えられて成長するビジネスですが、グレーゾーンがないわけではありません。 の発言を考えてみてください。 アーロン・アシュケナージ、Awz Ventures のマネージングパートナー。 昨年10月のエルサレム・ポストの社説で 同氏は、自分の基金がイスラエルに「邪悪なテロリストの追跡を阻止するための技術ツール」を提供していると書いた。これらのツールが何であるかは容易に想像できます。
お兄さんの側で
より一般的には、Corsight や他の同様の企業の使命は、世界的なビッグ ブラザーへの奉仕であると思われます。匿名性がもはや贅沢であり、プライバシーが防衛の祭壇で犠牲にされる選択肢となっている世界において、すべての顔を追跡可能、カタログ化可能、監視可能にする取り組み。
したがって、ここ数カ月の間にイスラエルの一部の病院でも Corsight アルゴリズムの使用を開始しました フォーブス誌が報じたように、外見を損なった患者を特定するためだ。明らかに人道的アプリケーションですが、この侵略的テクノロジーのより疑わしい使用への道を開くことになります。ガザでの出来事が示すように、そのリスクは、顔認識システムが悪者の手に渡って抑圧と差別の道具となることである。彼らは安全への権利を、匿名性や公正な裁判の権利をはじめとする他の基本的権利を侵害する口実へと変えていると。はっきりさせておきたいのは、これは顔認識自体を悪者にすることではなく、顔認識は医療からセキュリティまでさまざまな分野で前向きな応用が可能であるということです。しかし、その使用を明確かつ民主的な方法で規制し、潜在的な歪曲や乱用に制限を設けること。
これは人々をピクセルとパーセンテージに減らし、肌の色、顔の特徴、または社会的背景に基づいてラベルを付けます。これらのテクノロジーを開発し販売する人々の責任だけでなく、それらを購入し使用する人々の責任も確かに問われる悪夢です。
