キラーロボット：国連総会決議は条約制定に向けた行動に拍車
グテーレス事務総長は自律型兵器システムに取組むよう求めるべきだ
(New York, January 3, 2023) – Countries that approved the first-ever United Nations General Assembly resolution on “killer robots” should promote negotiations on a new international treaty to ban and regulate these weapons, Human Rights Watch said today. Autonomous weapons systems select and apply force to targets based on sensor processing rather than human inputs.
（ニューヨーク、2023年1月3日） 「キラーロボット」に関する史上初の国連総会決議を成立させた国々は、そのような兵器を禁止・制限する新国際条約に関する交渉を推し進めるべきだ、と本日ヒューマン・ライツ・ウォッチ（以下HRW）は述べた。自律型兵器システムは人間の入力ではなく、センサーの処理に基づいて標的を選択し交戦する
On December 22, 2023, 152 countries voted in favor of the General Assembly resolution on the dangers of lethal autonomous weapons systems, while four voted no, and 11 abstained. General Assembly Resolution 78/241 acknowledges the “serious challenges and concerns” raised by “new technological applications in the military domain, including those related to artificial intelligence and autonomy in weapons systems.”
2023年12月22日に152ヶ国が、自律型致死兵器システムの危険性に関する国連総会決議に賛成票を投じたが、4ヶ国が反対票、そして11ヶ国が棄権した。国連総会決議78/241は、「兵器システムにおける人工知能と自律性に関連した応用など、軍事分野における新たな工学的応用」によってもたらされる、「深刻な課題と懸念」を認めている。
“The General Assembly resolution on autonomous weapons systems stresses the urgent need for the international community to deal with the dangers raised by removing human control from the use of force,” said Mary Wareham, arms advocacy director at Human Rights Watch. “The resolution’s wide support shows that governments are prepared to take action, and they should move forward on a new international treaty without delay.”
「自律型兵器システムに関する国連総会決議は、武力行使から人間の制御を排除することでもたらされる危険性に、国際社会が対処することの緊急必要性を強調しています。決議が得た広い支持は、各国政府が行動を起こす準備を整えており、各国政府が遅滞することなく新たな国際条約に向かって前進すべきである、ということを示しています。」、とHRW武器アドボカシー局局長メアリー・ウェアハムは語った。
Some autonomous weapons systems have existed for years, but the types, duration of operation, geographical scope, and environment in which such systems operate have been limited. However, technological advances are spurring the development of autonomous weapons systems that operate without meaningful human control, delegating life-and-death decisions to machines. The machine rather than the human operator would determine where, when, or against what force is applied.
一部の自律型兵器システムは既に何年も前から存在しているが、種類、運用期間、地理的範囲、運用環境は限られている。しかし技術進歩は、人間による意味のある制御なしで作動し、生死を分ける決定を機械に委ねる、自律型兵器システムの開発を加速している。人間のオペレータではなく機械が、何処に・何時・如何なる武力を加えるのか決定することになる。
The resolution asks UN Secretary-General António Guterres to seek the views of countries and other stakeholders on ways to address the challenges and concerns raised by autonomous weapons systems “from humanitarian, legal, security, technological and ethical perspectives,” and reflect those views in a report to the General Assembly by September 2024.
この決議は、アントニオ・グテーレス国連事務総長に対し、自律型兵器システムによってもたらされる課題や懸念に「人道上、法律上、安全保障上、技術上、倫理上の観点から」対処する方法について各国や他の利害関係者の意見を求め、2024年9月の国連総会に提出される報告書にそれらの意見を反映するよう求めている。
The resolution adds an agenda item on “lethal autonomous weapons systems” to the provisional agenda of the UN General Assembly in 2024, providing a platform for states to pursue action to address this issue. The General Assembly provides an inclusive and accessible forum in which any UN member state can contribute. Tackling the killer robots challenge under its auspices would allow greater consideration of concerns that have been overlooked in discussions held to date, including ethical perspectives, international human rights law, proliferation, and impacts on global security and regional and international stability, including the risk of an arms race and lowering the threshold for conflict, Human Rights Watch said.
この決議は、2024年国連総会の暫定議題に「自律型致死兵器システム」に関する議題項目を付加、この問題に対処する行動を追及する機会を各国に提供している。国連総会は、全ての国連加盟国が寄与できる、包括的でアクセス可能な場を提供する。国連の下でキラーロボットの課題に取組むことで、倫理的観点、国際人権法、拡散、軍拡競争の危険と紛争の敷居の低下を含む、世界の安全保障や地域的・国際的な安定への影響など、これまでの議論で見落とされてきた懸念事項をより深く検討することが可能になる、とHRWは指摘した。
The countries voting against the resolution were: Belarus, India, Mali, and Russia. Those abstaining were: China, Iran, Israel, Madagascar, North Korea, Niger, Saudi Arabia, South Sudan, Syria, Türkiye, and the United Arab Emirates. Of these states, China, India, Iran, Israel, and Türkiye have been investing heavily in military applications of artificial intelligence and related technologies to develop air, land, and sea-based autonomous weapons systems.
決議に反対した国は、ベラルーシ、インド、マリ、ロシアで、棄権したのは中国、イラン、イスラエル、マダガスカル、北朝鮮、ニジェール、サウジアラビア、南スーダン、シリア、トルコ、アラブ首長国連邦だった。それらの国々の内、中国、インド、イラン、イスラエル、トルコは陸海空における自律型兵器システムの開発に向けて、人工知能の軍事的応用とその関連技術に、大きな投資をしてきている。
Austria put forward the resolution with 42 co-sponsoring states at the UN General Assembly’s First Committee on Disarmament and International Security, where it passed an initial vote on November 1, by 164 votes in favor, five against, and eight abstentions.
オーストリアがこの決議案を「国連総会の軍縮と国際安全保障に関する第一委員会（国連総会第一委員会）」に、42ヶ国の共同で提案し、第１回採決は11月1日に行われ、賛成164票、反対5票、棄権8票で可決された。
More than 100 countries regard a new treaty on autonomous weapons systems with prohibitions and restrictions as necessary, urgent, and achievable, and during 2023, many states and international organizations have reiterated their support for this objective.
100ヶ国超が自律型兵器システムに関する禁止と制限を備えた新条約を、必要で、差し迫っており、成し遂げられると見なし、2023年中に多くの国々と国際団体がその目的への支持をあらためて表明している。
In February, more than 30 countries from Latin America and the Caribbean endorsed the Belén Communiqué, acknowledging the need “to promote the urgent negotiation of an international legally binding instrument, with prohibitions and regulations with regard to autonomy in weapons systems.” In September, 15 Caribbean states endorsed a CARICOM declaration on the human impacts of autonomous weapons at a meeting in Trinidad and Tobago.
2023年2月にラテンアメリカとカリブ海地域の30ヶ国超が、「兵器システムの自律性を禁止し規制する、国際的な法的拘束力のある法律文書の緊急交渉を、促進する」必要性を認識しているベレン・コミュニケ賛同した。同年9月にカリブ海地域15ヶ国がトリニダード・ドバゴにおける会議で自律型兵器の人への影響に関するカリブ共同体宣言に賛同した。
On October 5, Secretary-General Guterres and International Committee of the Red Cross President Mirjana Spoljaric issued a joint appeal for UN member states to negotiate a new international treaty by 2026 to ban and regulate autonomous weapons systems.
同年10月5日に国連事務総長アントニオ・グテーレスと赤十字国際委員会（ICRC）総裁ミリアナ・スポリアリッチは国連加盟国に、自律型兵器システムの禁止・制限するための新条約を2026年までに交渉するようにという、共同アピールを出した。
Most treaty proponents have called for prohibitions on autonomous systems that by their nature operate without meaningful human control or that target people, as well as regulations that ensure all other autonomous weapons systems cannot be used without meaningful human control.
条約支持者の殆どは、人間による意味ある制御なしに作動する、あるいは人を標的にする自律型兵器に関する禁止と、他の全ての自律型兵器システムが人間による意味ある制御なしには使用できないことを保証する規制を求めている
Talks on lethal autonomous weapons systems have been held at the Convention on Conventional Weapons (CCW) in Geneva since May 2014, but have failed to deliver a substantive outcome. The main reason for the lack of progress under the CCW is that its member countries rely on a consensus approach to decision-making, which means a single country can reject a proposal, even if every other country agrees to it. A handful of major military powers have exploited this to repeatedly block proposals to negotiate a legally binding instrument.
「自律型致死兵器システム」に関する協議は2014年5月以降、ジュネーブの特定通常兵器使用禁止制限条約（ＣＣＷ）の場で行われてきたが、実質的な結果は出せないでいた。CCWの下で進展しない主な理由は、加盟国が意思決定に全会一致制をとっており、他の全ての国が同意しても、一国が提案を拒否することができるからである。一握りの軍事大国がそれを利用し、法的拘束力のある法律文書の交渉提案を繰返し妨害してきた。
On November 17, states at the CCW agreed to meet for up to 20 days across 2024 and 2025 to “consider and formulate, by consensus, a set of elements of an instrument, without prejudging its nature.” The agreement does not mandate states to negotiate and adopt a new CCW protocol.
2023年11月17日CCW締約国会議の最終日に、「法律文書における一連の要素を、予断を交えず、全会一致で、検討・策定」するために、2024年と2025年にわたり20日以内で協議を行うことに合意した。ただしこの合意は新たなCCW議定書への交渉・承認を各国に義務付けるものではない。
“Technological change is rapidly advancing a future of automated killing that needs to be stopped,” Wareham said. “To safeguard humanity, all governments should support the urgent negotiation of a new international treaty to prohibit and restrict autonomous weapons systems.”
「技術的変化は、殺人を自動化する未来に向かって、急速に前進していますが、それを止める必要があるのです。人道を守るために、全ての国家は自律型兵器システムを禁止・制限する新たな国際条約に向けた大至急の交渉開始を支持するべきです。」、と前出のウェアハムHRW武器アドボカシー局局長は語った。
Human Rights Watch is a cofounder of Stop Killer Robots, the coalition of more than 250 nongovernmental organizations across 70 countries that is working for new international law on autonomy in weapons systems.
「ストップ・キラーロボット」は兵器システムに関する新たな国際法の成立に向けて活動する、70ヶ国の250を超えるNGOからなる連合体であり、HRWはその共同設立団体である。
