ＡＩ兵器の禁止条約を～人の指示なく攻撃を判断

ＡＩ兵器の禁止条約を～人の指示なく攻撃を判断
人工知能（ＡＩ）が人間の指示を受けることなく攻撃を判断する自律型兵器＝殺人ロボットをめぐる議論が国連を舞台に行われています。ロボット工学の研究者で東海大学教授の小金澤鋼一さんに聞きました。（豊田栄光）

東海大学教授　小金澤鋼一さんに聞く
こがねざわ・こういち１９５６年生まれ。東海大学工学部教授。日本科学者会議所属。共著に『新しいロボット工学』『亡国の武器輸出』



米国防総省は自律型兵器について、機械がどの程度決定権を持っているかという観点から、「完全自律型」「監督下自律型」「準自律型」に分類しています。「完全自律型」はＳＦ映画「ターミネーター」のように、ひとたび人間が行動指令を与えた後は、機械が状況を把握し、実行を決定し、実行し、その間は人間とのコミュニケーションはありません。ターミネーターはある人物を殺害するには、彼を生む前のその母親を殺すのがよいと判断し、タイムスリップしました。
「完全自律型」は別に人型である必要はなく、戦闘機や戦車に多くのセンサーを付け、そこからの情報を分析し、ミサイルやマシンガンを発射します。それをＡＩが１０００分の１秒の超高速で判断するのです。
「監督下自律型」は機械が状況を観測し、判断し、実行しますが、人間が観察し、必要なら実行をとめます。「準自律型」は機械が収集した情報を人間が検証し、実行を指令します。この型の無人飛行機はすでに多く実戦配備されており、イラクなどで爆撃を行ったＭＱ１プレデターが有名です。
「監督下自律型」と「準自律型」は、制御段階で人間が介在できる仕組みですが、自律型兵器同士の戦争では、人間の判断速度をはるかに超える時間軸で複数の無人機同士の戦闘が想定されるため、人間の介在の余地はなくなると、私は考えています。だから米中など軍事大国は、「完全自律型」の開発にしのぎを削っているのです。
米国はＡＩを駆使した兵器の開発を「第３次オフセット（相殺）」と呼んでいます。敵国優位を相殺し、米国優位を確立します。第１次は核兵器、第２次は１９７０年代以降のレーザー誘導の精密兵器です。
第３次とそれ以前との決定的な違いは、これまでの兵器は主に破壊力や攻撃範囲を広げる新技術でしたが、ＡＩ兵器は人を介さず攻撃対象を定め、攻撃するか否かの判断をする能力を備えたものになる点です．

全会一致で採択　国際人道法適用
国連は８月、このような「自律型致死システム」に関する政府専門家会合を開き、兵器使用には人間が責任を持ち、自律型致死兵器システムも国際人道法が適用されるといった指針を米中ロなど軍事大国を含む全会一致で採択しました。
国際人権団体や多くの国は開発、製造、保有、使用などを禁止する法的拘束力のある条約制定を主張しています。指針には法的拘束力は入りませんでしたが、“人の殺傷をＡＩ、機械にまかせてはいけない”という理念は国際社会の共通認識になったと思います。
核兵器や地雷など、これまでも国連で兵器の禁止条約は採択されています。これらは兵器が存在してから禁止されましたが、自律型致死システム兵器は実在しない段階から法的に規制、禁止しようというのですから画期的です。法的拘束力のある条約の一日も早い実現を望みます。

平和利用貫いて研究開発できる
私の研究はモーターやセンサーをできるだけ使わずに、義足や義手を人間が発するエネルギーを使って動かそうというものです。数式も複雑で開発には費用も時間もかかりますが、このような研究を軍事に役立てようとする動きに警戒しなければなりません。
インターネットなどを例にあげ、よく軍事技術が民生用に利用されているのだからと、軍事研究を肯定する人がいます。私は最初から最後まで平和利用の観点を貫き開発はできると考えています。
民生技術から軍事に役立つ新技術を生み出すそうとする米国防総省の国防高等研究計画局（ＤＡＲＰＡ）の研究資金援助や日本の防衛装備庁の安全保障技術研究推進制度には応募すべきでないと呼びかけたい。

「しんぶん赤旗」日刊紙　2019年10月7日付掲載

無人偵察機や無人爆撃機などが人道的に問題視されていますが、これはまだ人間が遠隔操作しているものです。
ＡＩ兵器、特に「完全自立型」のＡＩ兵器は人道的に問題があると指摘。
「人を殺すかどうかを人間が責任を持つ」ってこと自体がどうかと思いますが、兵器の使用で、少なくとも人間の介在が必要だということです。