オーストラリアのクイーンズランド州警察 (QPS) が人工知能 (AI) の試験を開始 将来のリスクを判断する 一部の報告された被験者が家庭内暴力に従事していること。
（以前の報告、前科などに基づいて）「リスクが高い」と特定された著者は、家庭内暴力がエスカレートして犯罪が行われる前に、警察が自宅を訪問します。
家庭内暴力：予防はより良いですが...
すぐに言いますが、家庭内暴力の被害者である女性の安全を改善するためのより良い方法を見つける必要があります. ただし、このコンテキストで AI テクノロジを使用すると、意図しない結果が生じる可能性があり、この提案された計画は、家庭内暴力事件の防止における警察の役割について深刻な問題を引き起こします。
このアプローチは、既存のデータから開発されたアルゴリズムに基づいています。 すべての統計アルゴリズムは、利用可能なデータに基づいてリスクを評価する必要があります。 これは、それらをサポートするデータと同じくらい「のみ」優れていることを意味します。 専門家が警察活動におけるデータベースのリスク評価ツールを批判し、分析された特定の種類のデータの透明性の欠如を指摘しているのは偶然ではありません。
「犯罪前」のプレイには注意してください
前述のように、最も一貫して取得される重要なデータは、警察が呼ばれた過去の状況に関する情報と犯罪歴に関するデータです。 この情報を使用して人工知能アルゴリズムをトレーニングすると、刑事司法制度における既存のバイアスが強化される可能性があります。 それは、警察と警察との接触が多い市民との間に、無限のフィードバックループ、行き止まりの悪循環を生み出す可能性があります。
民族差別も思い浮かぶなら、あなたは真実からそう遠くはありません。 たとえばオーストラリアでは、警察と最も接触するのはアボリジニです。 この新しい「反ドメスティック・バイオレンス」体制の下で、アボリジニが警察によってさらに訪問されることを想像するのは難しいことではありません。
警察は、このパイロットプロジェクトでは、AIモデルをトレーニングする前に、民族性と地理的位置の属性が削除されたと言いたがっています。 それにもかかわらず、アボリジニは警察とのあらゆる種類の接触で過大評価されているため、不釣り合いに標的にされ続ける可能性があります。
犯罪リスクは良いアプローチに基づいていますか？
これらの警察戦略の目標は、人工知能 それは、将来の犯罪のリスクを評価することにより、犯罪を防止または軽減することです。 理論的には、これは犯罪の発生を防ぐために警察が早期に介入することを意味します。 前述の「マイノリティ・リポート」の「犯罪前」を誰が覚えていますか？
このアプローチでは、警察がさえ危険を冒す可能性があると私は言います 犯罪を作成する。 このタイプの「予防」プログラムは、抵抗と回避のメカニズムを高める可能性があります。これが他の犯罪につながったとしても、私は驚かないでしょう。
要約すると、オーストラリア警察によって提案された計画には明らかなリスクがあります。 加害者と被害者（誤って加害者と特定される可能性があります）の両方の犯罪化のネットワークを拡大することです。どのように？ たとえば、自衛のために暴力を行使した被害者が、加害者の代わりに逮捕されることもありました。
それは家庭内暴力の犠牲者にさらなる害をもたらす可能性がありますか？
そのようなプログラムにおける被害者の役割も心配です。 加害者の監視を深めるプログラムは、被害者の監視も深めます。
被害者は、警察が自分たちの生活に介入することを常に望んでいるわけではありません。 場合によっては、この形式の積極的なポリシングは、助けというよりも精査の延長のように見えるかもしれません。 警察が訪問し、加害者と高リスクの被害者が再び一緒に住んでいることを発見するとどうなりますか？
リスクはそこにあります
被害者は、児童保護当局が関与しているのではないかと恐れ、自分がまだ加害者と一緒にいるという事実を隠さなければならないと感じるかもしれません。 また、一度嘘をつくことを余儀なくされた被害者は、次に警察の介入が必要になったときに、警察に通報するのをためらうかもしれません。 他のケースでは、加害者または被害者は、訪問した警察官の安全上のアドバイスに従わないことを決定する場合があります. 攻撃者に立ち去るように頼んだり、犠牲者を救出しようとしたりする状況で警察が何をするかは不明ですが、警察は拒否します.
家庭内暴力の介入の使命は、犠牲者の力を回復することです。 しかし、介入がすべての女性（または男性）を平等に助けるわけではないことを私たちは知っています。 人種や階級を含む構造的な不平等は、介入が異なる人々によって異なって経験されることを意味します。
