欧州議会での水曜日の投票では、377人の議員 彼らは決議を支持した これは、法執行機関による顔認識の使用を制限します。 記録のために、248人が反対票を投じ、62人が棄権した。
「AIベースの識別システムは、すでに少数民族、LGBTIの人々、高齢者、女性をより高い割合で誤認しています。 これは、法執行機関と司法の監視の文脈で特に心配です」と議会の声明を読みます。
不透明なアルゴリズム、調査監視
これらのテクノロジーを使用する際に基本的な権利が尊重されるようにするには、アルゴリズムは透過的で追跡可能であり、十分に文書化されている必要があります。 可能であれば、公的機関はより透明性を高めるためにオープンソースソフトウェアを使用する必要があります。
EU議会声明
EUの政治代表のほとんどがこの評価を行ったことは朗報です。 公共の場での自動大量監視に顔認識を使用したくない人。 監視は、法律に違反したと思われる人だけに限定する必要があります。 などの民間企業によって蓄積されたデータセット クリアビューAI、市民を識別するために。 実のところ、警察官ができるシステムでさえも防ぐことは有用でしょう。 犯罪を予測する 人々の行動と背景から。
EU議会が顔認識と大量監視について述べたことは次のとおりです。
「基本的権利は無条件です」と彼は言います ピーター・ヴィタノフ、ブルガリア社会党を代表するMEP。 「この技術は効果がなく、差別的な結果につながることが多いため、監視および法執行の目的で顔認識システムの実装をモラトリアムすることを初めて求めています。」
私たちは、人工知能の使用や大量監視につながる生体認証データ処理に基づく予測警察に明らかに反対しています。 これは、すべての欧州市民にとって大きな勝利です。
ピーター・ヴィタノフ、MEP
投票は拘束力を持たないため、法改正に直接つながることはできません。 欧州議会の「脈動をとる」こと、およびメンバーがAI法などの今後の法律をサポートできるかどうかを理解することが促進されました。その意図の中には、ヨーロッパの旅行者を追跡するために国境管理で生体認証データを禁止することも含まれています。
まだ不完全な技術の失敗
これらの監視アルゴリズムの成長は非常に迅速に起こり、データセットが不完全なため、寛大でした。 顔認識の識別はその日の順序です(Facebookのアルゴリズムによって「サル」として識別された人を考えてください)。 現在、有色人種は、顔認識認証メカニズムによって誤認される可能性がはるかに高くなっています。 そして、それを調理して生で行うものがあります:それはUberアルゴリズムです。
顔認識システムが彼を識別できなかったために実行中の通話アプリによってブロックされた後に仕事を失った英国のブラックユーバードライバーは、ハイテク巨人に対して法的措置を取っています。 それは、手口の変更を要求するために24のストライキを要求した英国の独立労働者連合(IWGB)によってサポートされます。
「有色人種に効果のない顔認識アルゴリズムをUberが継続して使用していることは差別的です」と彼は言いました。 ヘンリーチャンゴロペス、IWGBの書記長。