キラーロボット：国連は条約交渉を促進すべき
自律型兵器システムの対処には迅速な行動を必要とする
(New York, December 5, 2024) – The record number of countries voting in favor of the second-ever United Nations General Assembly resolution on lethal autonomous weapons systems, or “killer robots,” highlights the urgent need to open negotiations on a new treaty to ban them, Human Rights Watch said today.
(ニューヨーク、2024年12月5日) 国連総会での自律型兵器システムまたは「キラーロボット」に関する2度目の決議が、過去最多の賛成を得て採択されたことは、同システムを禁止する新条約に関して交渉を開始する緊急の必要性を明らかにしている、とヒューマン・ライツ・ウォッチ（以下HRW）は本日述べた。
On December 2, 2024, 166 countries voted in favor of Resolution 79/L.77 on lethal autonomous weapons systems, while 3 voted no, and 15 abstained. The resolution creates a new forum under UN auspices to discuss the serious challenges and concerns raised by autonomous weapons systems and what to do about them. These systems select and apply force to targets based on sensor processing rather than human input.
2024年12月2日、自律型兵器システムに関する決議A/C.1/79/L.77に166ヶ国が賛成票を、3ヶ国が反対票を、それぞれ投じ、15ヶ国が棄権した。決議は国連主催の下で新たなフォーラムを設置し、自律型兵器システムによって提起された深刻な課題と懸念、そして同システムについて何を行うのかを議論するというものだ。自律型兵器システムは人間による入力（指令）ではなく、センサーの処理に基づいて標的を選択し武力を加える。
“The wide and growing state support for the General Assembly resolution on autonomous weapons systems shows there’s strong appetite for tackling fundamental concerns that come with removing human control from the use of force,” said Mary Wareham, deputy crisis, conflict and arms director at Human Rights Watch. “The challenge now is for states to move from talking about this challenge to negotiating a new treaty that provides the necessary framework to prevent a future of automated killing.”
「自律型兵器システムに関する総会決議への支持が広がり増えているというのは、武力行使から人間によるコントロールを取除くことから来る、根本的な懸念に対処する強い意欲があることを示しています。各国にとって今の課題は、それについての話合いから、人を自動的に殺す未来を防止するために必要な枠組みを提供する、新たな条約の交渉に移ることです。」、とHRW危機＆紛争＆武器局副局長メアリー・ウェアハムは語った。
The 2024 General Assembly resolution acknowledges the “negative consequences and impact of autonomous weapon systems on global security and regional and international stability, including the risk of an emerging arms race, of exacerbating existing conflicts and humanitarian crises, miscalculations, lowering the threshold for and escalation of conflicts and proliferation, including to unauthorised recipients and non-State actors.”
「自律型兵器システムが、世界的な安全保障と地域的及び国際的な安定にもたらす、兵器開発競争を引き起こす危険、現存する紛争と人道危機を悪化させる危険、判断ミスの危険、紛争の閾値を低下・激化させる危険、不正取得や非国家主体などへ拡散する危険を含む、マイナスの結果と影響」を、2024総会決議は認めている。
The resolution also notes “the repeated calls by the [UN] Secretary-General to urgently conclude negotiations of a legally binding instrument with prohibitions and regulations for autonomous weapons systems.” The resolution does not mandate treaty negotiations because a small number of states, notably the United States, vigorously opposed doing so.
「自律型兵器システムの禁止と規制を盛り込んだ法的拘束力のある法律文書についての交渉に至急結論を出すようにという、緊急国連事務総長による再三の求め」にも、2024総会決議は言及しているが、少数の国、とりわけ米国が強硬に反対しているために、条約交渉を求めてはいない。
Instead, the resolution approves holding “open informal consultations” in New York during 2025 “to consider the report of the Secretary-General” and to “further the international community’s understanding of the issues involved.” UN Secretary-General António Guterres prepared the report requested by the first General Assembly resolution on the dangers of lethal autonomous weapons systems in December 2023. A total of 152 countries voted in favor of the first UN resolution on lethal autonomous weapons systems in December 2023, while 4 voted no, and 11 abstained.
しかし一方で2024総会決議は、2025年中にニューヨークで「公開非公式協議」を開催して、「事務総長の報告を検討する」と共に「関連問題への国際社会による理解を深める」ことを、承認している。2023年12月に自律型致死兵器システムの危険性に関する1回目の国連総会決議によって要請されていた報告書を、アントニオ・グテーレス国連事務総長は作成した。その自律型致死兵器システムに関する1回目の国連総会決議は2023年12月に152ヶ国の賛成、4ヶ国の反対、11ヶ国の危険で採択されている。
The secretary-general’s report, released in August 2024, addresses the challenges and concerns raised by autonomous weapons systems “from humanitarian, legal, security, technological and ethical perspectives.” It reflects 58 submissions from more than 73 countries, and another 33 submissions from the International Committee of the Red Cross and civil society groups, including Human Rights Watch.
2024年8月に公表された事務総長によるその報告書は、自律型兵器システムによってもたらされた課題と懸念に、「人道上、法律上、安全保障上、技術上、倫理上の観点から」対処しており、更に73ヶ国超からの提出書面58通と、赤十字国際委員会とHRWを含む市民社会からの提出書面33通が反映されている。
The UN General Assembly provides an inclusive forum in which any UN member state can contribute. The 2024 resolution specifies that the informal consultations will be open to the participation of all UN member states and observer states, international and regional organizations, the International Committee of the Red Cross, nongovernmental organizations, the scientific community, and industry.
如何なる国連加盟国も貢献できる包括的フォーラムを、国連総会は提供する。非公式協議には全国連加盟国とオブザーバー国、国際組織と地域組織、赤十字国際委員会、NGO、科学団体、産業の参加にも公開される見込みである旨、2024決議は明記している。
Tackling the autonomous weapons’ challenge under the General Assembly’s auspices would allow greater consideration of concerns that have been overlooked in discussions held to date, Human Rights Watch said. They include ethical perspectives, international human rights law, proliferation, and impacts on global security and regional and international stability, notably the risk of an arms race and a lower threshold for conflict.
国連総会後援の下でキラーロボットがもたらす課題に取組めば、今日まで行われて来た議論で見過ごされていた懸念により良い検討が加えられることになるだろう。それらには、倫理的視点、国際人権法、拡散、世界の安全保障と国際的地域的な安定への影響、とりわけ兵器開発競争と紛争への閾値（紛争勃発の抑止力）低下などがある。
Some autonomous weapons systems have existed for years, but the types of targets, duration of operation, geographical scope, and environment in which such systems operate have been limited. Yet, advances in artificial intelligence and emerging technologies are spurring the development of autonomous weapons systems that operate without meaningful human control, delegating life-and-death decisions to machines. The machine, rather than the human operator, would determine where, when, or against what force is applied.
一部の自律型兵器システムは既に何年も前から存在しているが、種類、運用期間、地理的範囲、運用環境は限られている。しかし技術進歩は、人間による意味のある制御なしで作動し、生死を分ける決定を機械に委ねる、自律型兵器システムの開発を加速している。人間のオペレータではなく機械が、何処に・何時・如何なる武力を加えるのか決定することになる。
Most treaty proponents have called for prohibitions on autonomous weapons systems that, by their nature, operate without meaningful human control or systems that target people, as well as for regulations that ensure all other autonomous weapons systems cannot be used without meaningful human control.
条約支持者の殆どは、人間による意味ある制御なしに作動する、あるいは人を標的にする自律型兵器に関する禁止と、他の全ての自律型兵器システムが人間による意味ある制御なしには使用できないことを保証する規制を求めている。
The countries voting against the 2024 resolution were: Belarus, North Korea, and Russia. Those abstaining were: China, Estonia, Fiji, India, Iran, Israel, Latvia, Lithuania, Nicaragua, Poland, Romania, Saudi Arabia, Syria, Türkiye, and Ukraine. Many of these states have been investing heavily in military applications of artificial intelligence and related technologies to develop air, land, and sea-based autonomous weapons systems.
2024決議に反対したのはベラルーシ・北朝鮮・ロシアで、棄権したのは中国・エストニア・フィジー・インド・イラン・イスラエル・ラトビア・リトアニア・ニカラグア・ポーランド・ルーマニア・サウジアラビア・シリア・テュルキエ・ウクライナである。
Austria put forward the 2024 resolution with 27 co-sponsoring states at the UN General Assembly’s First Committee on Disarmament and International Security, where it passed an initial vote on November 5, by 161 votes in favor, 3 against, and 13 abstentions.
オーストアが27の共同提案国を得て国際連合総会・軍縮と国際安全保障に関する第１委員会に、今回の2024決議を提出、同委員会は11月5日に最初の投票を行い、賛成１６１、反対3、棄権13で採択した。
Lethal autonomous weapons systems have been discussed in meetings of the Convention on Conventional Weapons (CCW) in Geneva since May 2014, but with no substantive outcome. The main reason for the lack of progress under the CCW is that its member countries rely on a consensus approach to decision-making, which means a single country can reject a proposal, even if every other country agrees to it. A handful of major military powers—notably India, Israel, Russia, and the United States—have exploited this process to repeatedly block proposals to negotiate a legally binding instrument.
「自律型致死兵器システム」は2014年5月以降、ジュネーブの特定通常兵器使用禁止制限条約（ＣＣＷ）会議で議論されてきたが、実質的な結果は出せないでいた。CCWの下で進展しない主な理由は、加盟国が意思決定に全会一致制をとっていて、一国だけでも提案の採択を阻止できるからである。一握りの軍事大国、特にインド・イスラエル・ロシア・米国が、それを利用し、法的拘束力のある法律文書の交渉提案を繰返し妨害してきた。
“Explicit new international rules are needed to safeguard humanity from the threats posed by removing human control from the use of force,” Wareham said. “Governments genuinely wishing to address the concerns raised by autonomous weapons systems should participate in the New York talks next year with the goal of adopting a legally binding treaty.”
「武力行使から人間のコントロールを排除することでもたらされる脅威から人類を守るには、明確な国際ルールが必要です。自律型兵器システムによって提起された懸念に対処することを本当に望む各国政府ならば、来年ニューヨークで開催される話合いに、法的強制力を持つ条約を成立させるという目標を持って参加するべきです」、と前出のウェアハムHRW危機＆紛争＆武器局副局長は語った。
Human Rights Watch is a cofounder of Stop Killer Robots, the coalition of more than 250 nongovernmental organizations across 70 countries that is working for new international law on autonomy in weapons systems.
「ストップ・キラーロボット」は兵器システムに関する新たな国際法の成立に向けて活動する、70ヶ国の250を超えるNGOからなる連合体であり、HRWはその共同設立団体である。
