2015-08-23 07:25:23 ARS TECHNICA (UK)
Elon Musk,Wozniak and Chomsky and others sign "AI weapon" oppositely.
Not man, but "machine" judges an aggressive target. Famous scientists expressed anxiety to such high "autonomous weapon system" to a hoe King doctor. "Not man, but a machine judges whom TEXTBY
SEBASTIAN ANTHONYIMAGE BY WIKIMEDIA COMMONSTRANSLATION BY
MAYUMI HIRAI, HIROKO GOHARA/GALILEOARS TECHNICA (UK) attacks. Enormous numerical celebrities in a
scientific technical field are
signing the open letter they ask to prohibit development of such autonomous weapon to a government of all the countries and stop "military AI weapon competition". The cosmopolitan holding this open letter
from July 25 to the 31st in Buenos Aires " It's expected to be an artisan intelligence meeting (IJCAI)" and be opened to (local time) on July 28.
A researcher of a large number of artificial intelligence (AI) and robotics is named on a signature space. Stephen hawking, Elon Musk, Noam Chomsky and WOZU fact Steve Wozniak and others.
This open letter is a seat in IJCAI, and a research center as "Future of Life Institute (FLI)" is going to submit it. Mr. mask made donate 10,000,000 dollars to this research center in January, 2015, and I became the topic of conversation.
When a person doesn't operate an open letter originally, it's worried that the robot which doesn't function and a cargo transport are re-formed in the smart autonomous weapon I make person's operation unnecessary for which. "For man to judge all marks", drawn by a cruise missile and remote steering can be permitted, but I'm insisting that a battle and killing have to pick development of an autonomous weapon inside the sprout in possible perfection without human intervention.
"Development competition of a AI weapon is begun by the world scale or." or today's human important problem is said to be "to prevent its origin or". When one of military powers move forward development of a AI weapon, worldwide weapon development competition isn't avoided first. And this technical development reaches, previous, for, it's clear. An autonomous weapon would be future "AK-47" (because it was cheap and excellent in the performance, the Avtomat Kalashnikova-47KARASHINIKOFU machine gun which spread over the whole world).
It's also pointed out about the remarkable similarity with the autonomous weapon, the chemical weapon and the war of biological weapons by an open letter.
Further Mr. Musk and Dr.Hawking are also warning about the danger about general AI as well as a weapon. Mr. Musk is stating that the potential danger of AI is bigger than a nuclear weapon (Japanese edition article). Dr. Hawkingis stating that AI is "threat to our existence".
An autonomous weapon and the main problem of reaching and being worried about about AI in general are to change rapidly. When making high AI in other words the weapon system that it can be judged by itself whom to attack once, recouping doesn't stick any more. It's no longer possible to seal gunpowder and a nuclear weapon. An autonomous weapon is also the same thing.
A companion piece: The cause of "stress" a U.S. Air Force drawn pilot holds
TAG
AIArstechnica UKArtificial IntelligenceAutonomousWeaponsRecommend
イーロン・マスク - Wikipedia
スティーヴン・ホーキング - Wikipedia
チョムスキー
|
エイヴラム・ノーム・チョムスキー（Avram Noam Chomsky、1928年12月7日 - ）は、アメリカ合衆国の哲学者[1][2]、言語哲学者、言語学者、社会哲学者、論理学者[3][4]。 彼は50年以上在籍するマサチューセッツ工科大学の言語学および言語哲学の研究所教授 (Institute Professor) 兼名誉教授である[5]。言語学者・教育学者キャロル・チョムスキーは彼の妻である。
彼の業績は言語学分野にとどまらず、戦争・政治・マスメディアなどに関する100冊以上の著作を発表している[6]。1992年のA&HCIによると、1980年から1992年にかけてチョムスキーは、存命中の学者としては最も多く、全体でも8番目に多い頻度で引用された[7][8][9][10]。彼は文化論における巨魁と表現され、2005年には投票で「世界最高の論客」 (world's top public intellectual) に選ばれた[11][12]。
|
ステファン・ゲーリー・ウォズニアック
Stephen Gary Wozniak | |
|---|---|
(2005年)
|
2015-08-23 07:25:23 ARS TECHNICA (UK)
攻撃対象を、人間でなく「機械」が判断する。ホーキング博士など著名な科学者たちが、こうした高度な「自律型の兵器システム」に対する懸念を表明した。「TEXTBY SEBASTIAN ANTHONY
IMAGE BY WIKIMEDIA COMMONS
TRANSLATION BY MAYUMI HIRAI, HIROKO GOHARA/GALILEO
ARS TECHNICA (UK)
誰を攻撃するかを人間でなく機械が判断する。世界各国の政府に対し、こうした自律型兵器の開発を禁止して、「軍事AI兵器競争」を防ぐよう求める公開状に、科学技術分野における膨大な数の著名人たちが署名している。
この公開状は、ブエノスアイレスで7月25日から31日まで開催中の「国際人工知能会議（IJCAI）」で、7月28日（現地時間）に公開される予定だ。
署名欄には、数多くの人工知能（AI）やロボット工学の研究者が名を連ねている。スティーヴン・ホーキング、イーロン・マスク、ノーム・チョムスキー、ウォズことスティーヴ・ウォズニアックらだ。
この公開状は、IJCAIの席で、「Future of Life Institute（FLI）」という研究所が提出することになっている。この研究所には、マスク氏が2015年1月に1,000万ドルを寄付（日本語版記事）して話題になった。
公開状は、本来は人が操作しなければ機能しないロボットや輸送機が、人の操作を不要とするスマートな自律型兵器につくり変えられることを懸念している。巡航ミサイルや、リモート操縦によるドローンは、「標的の判断はすべて人間が行う」ため許容できるが、人間の介入なしに戦闘や殺害が可能な完全に自律型の兵器の開発は、芽のうちに摘み取る必要があると主張している。
今日の人類の重要な問題は、「世界規模でAI兵器の開発競争を始めるのか」、あるいは、「その始まりを阻止するのか」ということだ。いずれかの軍事大国がAI兵器の開発を推し進めれば、世界的な兵器開発競争はまず避けられない。そして、この技術開発が行きつく先は明らかだ。自律型兵器は、将来の「AK-47」（安価で性能にすぐれていたため、全世界に広まったカラシニコフ自動小銃）になるだろう。
公開状では、自律型兵器と化学兵器・生物兵器戦争との著しい類似性についても指摘されている。
なお、マスク氏とホーキング博士は、兵器だけでなく一般的なAIに関しても、その危険性について警告している。マスク氏はAIの潜在的な危険は核兵器よりも大きい（日本語版記事）と述べている。ホーキング博士は、AIは「われわれの存在に対する脅威」だと述べている。
自律型兵器、およびAI全般について懸念される主な問題は、急速に変容することだ。いったん高度なAI、つまり誰を攻撃するかを自身で判断できる兵器システムをつくってしまえば取り返しがつかなくなる。火薬も核兵器も、もはや封じ込めることはできない。自律型兵器も同じことなのだ。
関連記事：米空軍ドローンパイロットが抱える「ストレス」の原因
TAG