2番目の 最新のレポート リビア内戦に関する国連の報告書では、その年の終わりに初めて自律型兵器システム、殺人ロボットが誰かを殺害したことが確認されました。 将来的には、私たちをひどく傷つける可能性のある新しい軍拡競争の出発点としてそれを思い出すかもしれません.
最近（13月17日からXNUMX日まで）La 特定の通常兵器に関する国連条約 1983年ごとに起こるように、主題について会った。 XNUMX年以来、この議会は対人地雷などの残酷な兵器を制限することを選択しました。 今回、彼はこれらの自律型兵器の禁止の可能性について話し合った。 そして、それらを制限することはコンセンサスに達していない。
それは壊滅的な間違いだったのかもしれません。
自律兵器システムは殺人ロボットです。 この投稿を通して、私が彼らを「キラー ロボット」と呼んでいるのをいつも耳にします。 これが私だからです。 単独で機能する武器を備えたシステム。 人々を殺すために、戦争のために作られたシステム。 世界各国の政府は、この傾向に多額の投資を行っています。
一方でもちろん、人道支援団体（そのうちのXNUMXつ、ストップ・ザ・キラー・ロボット、 あなたがここで見つけること）は、これらの武器の開発に関する規則と禁止事項を求めることに費やされています。 そして、彼らはうまくやっています。 自律型兵器の使用を制限しないと、非常に悲惨な結末を迎えます。 この分野の破壊的技術は、すべての軍事戦略を不安定にし、先制攻撃のリスクを高める可能性があります。 化学的、生物学的、核的なものを含みます。
キラーロボットの開発ペースを考えると、終わったばかりの国連会議は、 最後の機会のXNUMXつ 新たな軍拡競争を避けるために。 または最後のもの。
キラーロボットシステムに関しては、誰にでも明らかなXNUMXつの危険があります。
キラーロボットの最初の問題： 身元。
自律兵器は、敵対する兵士とおもちゃの銃を持った子供を常に区別できますか? XNUMX つのヒューマン エラー (これも可能性があります) と間違ったアルゴリズム設定の違いは、問題を信じられないほどの規模に拡大する可能性があります。 と呼ばれる自律型兵器の専門家 ポール・シャーレ メタファーを使用します。トリガーから指を離しても発砲し続ける、故障した機関銃のメタファーです。 そして、それはただの機械なので、弾薬がなくなるまで撃ちます。 彼は自分が間違いを犯していることを知りません。
人々が何と言おうと、人工知能はまだ独自の道徳を備えていません (おそらくそれを手に入れることは決してないだろうし、それを学ぶことも決してできないだろう).
問題はそれだけではありません AIでさえ間違っている、たとえば、喘息を要因として認識した場合 肺炎のリスクを軽減します、またはそれが色の人々を識別するとき ゴリラのように. それが間違っている場合、それを作成した人は、なぜそれが間違っていたのかを知りませんし、それを修正する方法も知りません。 これが、あらゆる種類の「道徳的」基準でキラーロボットが開発されることは不可能だと私が信じる理由です.
キラーロボットのXNUMX番目の問題：ローエンドの増殖。
自律兵器を開発している軍隊は、それらを封じ込めて制御できると想定しています。 これよりもばかげた考えを聞いたことがありますか? 兵器技術の歴史が私たちに教えてくれることが一つあるとすれば、ただ一つ、それは兵器が広まったということです。 この場合も それは非常に予測可能でした。
アサルトライフルであるカラシンコフで過去に起こったことは、非常に入手しやすくなり、最終的には誰の手に渡ってしまうかということですが、殺人ロボットについても同じことが言えます。 市場の圧力は、効果的で安価で、事実上止めることが不可能な自律型兵器の作成につながる可能性があります。 何よりも：広範囲に。 政府、狂気の馬、組織犯罪、テロリストグループの手に。
それはすでに起こっているかもしれません。 ザ カルグ-2、トルコの防衛請負業者によって作られた、無人機と爆弾の間のクロスです。 ターゲットを見つけて追跡するための人工知能を備えています。 彼は殺人ロボットであり、すでにリビア内戦の舞台で自律的に行動し、人々を攻撃しています。
キラーロボットのXNUMX番目の問題：ハイエンドの増殖。
次に、「ハイエンド」のリスクを考えると、Zenit に行き着きます。 各国は、ますます壊滅的なバージョンの自律兵器を開発するために競争する可能性があります。 化学兵器、生物兵器、放射線兵器、核兵器を搭載する . 武器の致死率をエスカレートさせることの道徳的危険性は、武器の使用をエスカレートすることによって拡大されます。
確かに、これらのキラーロボットには高価なものが付属する可能性があります 倫理的コントローラー 「外科的」攻撃の神話を追って、巻き添え被害を最小限に抑えるように設計されています。 要するに、世論だけの良いものです。 真実は、自律兵器は、戦争を計画する前に行う最も平凡な費用便益分析さえも変えるということです. それらは致命的なリスクのサイコロであり、あまり気にせずに転がすことができます。
競合する技術を欠いている国々によって地上で行われる非対称戦争は、より一般的になるでしょう。 非常に広範囲にわたる不安定性。
XNUMX番目で最後の問題：戦争の法則
キラー ロボット (彼らが増殖する場合、それは確実なことです) は、戦争犯罪と残虐行為に対する人類の最後の緩和手段である国際戦争法を弱体化させます。 最初から始まる条約で成文化されたこれらの法律 ジュネーブ諸条約、それらは私が想像することのできないさらに悪いものから戦争を分離する細い線です。
戦争法は、戦争を戦っている人々にも責任を課すため、基本的なものです。 スロボダン・ミロシェビッチは国の大統領であり、彼の行動に責任を負わなければなりませんでした。 彼は旧ユーゴスラビアの国連国際戦犯法廷で裁判にかけられ、 彼は自分のしたことに答えなければなりませんでした。
そしていま？ 戦争犯罪を犯したキラーロボットのせいですか？ 誰が試されるのですか？ 武器？ 兵士？ 兵士の指揮官？ 武器を作った会社？ NGO や国際法の専門家は、自律型兵器が死につながることを恐れています 負債ギャップ .
兵士は、自己完結型の武器を使用して犯罪を犯したことが示されなければなりません。 これを行うには、兵士が有罪行為を行い、またそうする特定の意図があったことを証明する必要があります。 キラーロボットの世界では、かなり複雑なダイナミクス。
キラーロボットの世界は、彼らが課すルールのない世界です 重要な人間の制御 武器について。 それは戦争犯罪が責任を問われることなく戦争犯罪が行われる世界です。 戦時国際法の構造は、その抑止力とともに、かなり弱体化するでしょう。
新しい世界的な軍拡競争
誰もが好きなときに好きな力をすべて使えると想像してみてください。 誰にとっても影響が少ない。 国内および国際的な軍事、反乱グループ、テロリストが、理論的に無制限の致命的な力を、選択した時間と場所で理論的にゼロのリスクで展開でき、結果として法的責任を負わない惑星を想像してみてください。
