オーストラリアのクイーンズランド州警察（QPS）が人工知能（AI）の試験を開始 将来のリスクを判断する 一部の報告された被験者が家庭内暴力に従事していること。
（以前の報告、前科などに基づいて）「高リスク」と特定された犯罪者は、家庭内暴力がエスカレートして犯罪が発生する前に、警察が自宅を訪問します。
家庭内暴力：予防はより良いですが...
私はすぐにそれを言います：私たちは家庭内暴力の犠牲者である女性の安全を改善するためのより良い方法を見つける必要があります。 ただし、このコンテキストでAIテクノロジーを使用すると、意図しない結果が生じる可能性があり、この提案された計画は、家庭内暴力事件の防止における警察の役割について深刻な問題を提起します。
このアプローチは、既存のデータから開発されたアルゴリズムに基づいています。 すべての統計アルゴリズムは、利用可能なデータに基づいてリスクを評価する必要があります。 これは、それらがそれらをサポートするデータと「のみ」優れていることを意味します。 専門家が警察活動におけるデータベースのリスク評価ツールを批判し、分析された特定の種類のデータの透明性の欠如を指摘するのは偶然ではありません。
「犯罪前」のプレイには注意してください
前述のように、最も一貫して取得される重要なデータは、警察が呼び出された過去の状況に関する情報と犯罪歴に関するデータです。 この情報を使用して人工知能アルゴリズムをトレーニングすると、刑事司法システムの既存のバイアスを強化できます。 それは、警察と警察との接触が多い市民との間に、無限のフィードバックループ、行き止まりの悪循環を生み出す可能性があります。
民族差別も思い浮かぶなら、あなたは真実からそう遠くはありません。 たとえばオーストラリアでは、警察と最も接触するのはアボリジニです。 この新しい「反ドメスティック・バイオレンス」体制の下で、アボリジニが警察によってさらに訪問されることを想像するのは難しいことではありません。
警察は、このパイロットプロジェクトでは、AIモデルをトレーニングする前に、民族性と地理的位置の属性が削除されたと言いたがっています。 それにもかかわらず、アボリジニは警察とのあらゆる種類の接触で過大評価されているため、不釣り合いに標的にされ続ける可能性があります。
犯罪リスクは良いアプローチに基づいていますか？
に基づくこれらの警察戦略の目標人工知能 それは、将来の犯罪のリスクを評価することにより、犯罪を防止または軽減することです。 理論的には、これは犯罪の発生を防ぐために警察が早期に介入することを意味します。 前述の「マイノリティ・リポート」の「犯罪前」を誰が覚えていますか？
このアプローチでは、警察がさえ危険を冒す可能性があると私は言います 犯罪を作成する。 このタイプの「予防」プログラムは、抵抗と回避のメカニズムを高める可能性があります。これが他の犯罪につながったとしても、私は驚かないでしょう。
要約すると、オーストラリア警察によって提案された計画には明らかなリスクがあります。 加害者と被害者（加害者と誤って識別される可能性がある）の両方の犯罪化のネットワークを拡大すること。どのように？ たとえば、自衛のために暴力を振るった犠牲者は、加害者の代わりに逮捕されることがありました。
それは家庭内暴力の犠牲者にさらなる害をもたらす可能性がありますか？
そのようなプログラムにおける被害者の役割も心配です。 加害者の監視を深めるプログラムは、被害者の監視も深めます。
被害者は、警察が自分たちの生活に介入することを常に望んでいるわけではありません。 場合によっては、この形式のプロアクティブなポリシングは、助けというよりも精査の延長のように見えるかもしれません。 警察が訪問し、加害者と高リスクの被害者が再び一緒に住んでいることを発見するとどうなりますか？
リスクはそこにあります
被害者は、児童保護当局が関与していることを恐れ、彼らがまだ犯罪者と一緒にいるという事実を隠すことを強いられていると感じるかもしれません。 そして、被害者が嘘をつくことを余儀なくされると、次に警察の介入が必要になったときに警察に電話するのをためらうかもしれません。 他の場合には、加害者または被害者は、彼らが訪問する警察官の安全アドバイスに従わないことを決定するかもしれません。 警察が攻撃者に立ち去るか、犠牲者を救出しようと頼む状況で警察が何をするかは不明ですが、彼らは拒否します。
家庭内暴力の介入の使命は、犠牲者の力を回復することです。 しかし、介入がすべての女性（または男性）を平等に助けるわけではないことを私たちは知っています。 人種や階級を含む構造的な不平等は、介入が異なる人々によって異なって経験されることを意味します。
