2021-06-01 第204回国会 参議院 外交防衛委員会 第15号
○三浦信祐君 完全自律の致死型というのは、これは駄目だと思います。一方で、AIを活用して省人化に対応する自律型というのは極めて重要であります。その境目というのをどう見抜いていくかというのが、日本における重要な人材育成のポイントだというふうにも思います。
○三浦信祐君 完全自律の致死型というのは、これは駄目だと思います。一方で、AIを活用して省人化に対応する自律型というのは極めて重要であります。その境目というのをどう見抜いていくかというのが、日本における重要な人材育成のポイントだというふうにも思います。
次に、致死型完全自律兵器システム、LAWSについて質問いたします。 LAWSの規制に関する議論について、特定通常兵器使用禁止制限条約、CCWの政府専門家会合、GGEで行われてまいりました。コロナ禍により会合が数次にわたって延期をされてまいりましたけれども、今月、六月二十八日からCCW、GGEの開催が予定されていると承知をしております。若干流動的かもしれません。
いずれにしても、完全自律型で相手を殺傷するようなものについては、そこについてはしないということではございますけれども、私どもとしては、この無人AI、人工知能技術を使いまして、私どもであれば、自衛隊員のリスクを低減、できるだけ低減する、そういったような装備の具体化を目指していきたいというふうに思っております。
無人システムについては、国会等においても取り上げられておりますが、LAWSという国際的な動きがございまして、完全自律型、完全自律型で相手を攻撃、人を殺傷するということについては、我が国としてはそういったことは目指さないという姿勢でございます。
次に、両大臣に簡潔にお伺いをいたしますが、ここ数年、特定通常兵器使用禁止制限条約、いわゆるCCWの会合で集中的に議論されてきましたLAWS、これは自律型致死兵器システムでございますが、別名完全自律型AI兵器等とも呼ばれておりますが、日本政府の基本的な立場を確認したい。 これは、私の理解では、日本はLAWSを開発しないということを明言しているということであります。
○茂木国務大臣 今、岸防衛大臣の方からもありましたように、我が国として、完全自律型の致死性を有する兵器は開発しないとの立場であります。 一方、有意な人間の関与が確保された自律性を有する兵器システムにつきましては、ヒューマンエラーの減少、そして省力化、省人化といった安全保障上の意義を有しているものである、このように考えております。
佐藤参考人は、完全自律型の致死性兵器システム、いわゆるLAWSの御専門家でもいらっしゃいますけれども、私も委員会の中でも何回か質問をさせていただいておりまして、このLAWSというのは規制が必要であるというふうに考えております。
私どもとしては、国際社会が共通の認識を持つ、そしてその意味は、人間の意味のある形の関与、ちょっと直訳的で分かりにくいんですけど、例えば判断、選択、決定というような人間の関与というものがしっかりある形での自律型の装備については、これは開発又は運用していっていいと思っておりますが、完全自律型致死兵器と言われるものについてはやはりネガティブな考え方を持っております。
それからあと、例えばの話ですが、政府機関が他国からサイバー攻撃を受けた場合、自動的に反撃するシステムとかはこれ完全自律型に当たるのかなとか、様々なやはりこれケースを想定しながらやっていく必要もあるかと思います。 なので、現時点で完全自律型に当たるということには対応しないんでしょうけれども、今後の見通しも含めて現状をもう一度確認の上で、最後の質問とさせていただきます。どうぞ。
レベル4の自動運転ですとかドローンの宅配利用など、民間分野における技術革新が急速に進んでおりますが、我が国は、AI兵器につきまして、完全自律型を現時点では否定をしまして、人間の関与が必要としております。 しかし、例えばレベル4の自動運転が実用化された場合、ドライバーの運転ミスによる交通事故が減少するとも見込まれております。
○遠山委員 日本が、言葉をかえれば完全自律型のAI兵器、これは我が党としては、人道的な立場から、倫理的な立場から、その開発、実現は容認できないということを公言をした上で、いろいろと外務省の皆さんとやりとりさせていただいているわけですが、日本の政府が、今大臣御説明あったように、ルールづくりについて積極的な役割を果たしていただいていることに敬意を表したいと思いますし、これからも議論が継続してまいりますので
我が国としては、有意な人間の関与が必須であるとの立場を主張しており、人間の関与が及ばない完全自律型の致死性兵器の開発を行う意図は有していないとの立場を明確にしてきています。本件については、軍事面における技術革新や、それを踏まえた兵器システムのルールの在り方等の観点から、更に専門的な議論を深めていく必要があります。
また、委員から御指摘のありました点でございますが、防衛省といたしましては、これまでも表明してきたとおりでございますけれども、人間の関与が及ばない完全自律型の致死性兵器の開発を行う意図は持っておりません。また、当然のことながら、国際法や国内法により使用が認められない装備品の研究開発も行うことはございません。
○浅田均君 完全自律型の致死性の兵器は造らないということでございます。 それでは、三番目の高出力エネルギーに関しまして、先ほど、大臣、弾薬を使わないというようなことを御発言になりましたけれども、弾薬を使わない兵器というとレーザー兵器が想像されるわけでありますけれども、このレーザー兵器というのは具体的にどういう場合に使うということを想定されているんでしょうか。
我が国として、完全自律型の致死性を有する兵器の開発はしないということを明確にしているわけでございますが、他方、この自律性を有する兵器システムは、ヒューマンエラーを減少させる、あるいは省力化、省人化といったことにつながるという安全保障上の様々な意義があるのも事実でございます。
その上で申し上げれば、防衛省としては、人間の関与が及ばない完全自律型の致死性兵器の開発を行う意図はなく、また、当然のことながら、国際法や国内法により使用が認められない装備品の研究開発を行うことはないと考えております。
日本といたしましては、人間が有意に関与しない完全自律型の致死性兵器システムを開発する意図はないということは常々申し上げてきたとおりでございまして、その方針に何ら変わりはございません。他方、こうしたAIを活用したシステムというのは、部隊の省人化あるいは無人化等に寄与する可能性があるわけでございます。
これは確認になりますけれども、日本政府として、AIを搭載した完全自律型、すなわち人間の判断が介在せずに攻撃目標を捕捉、選定をして、実際に攻撃も実行する、英語でインゲージですけれども。
我が国としては、有意な人間の関与が必須であるとの立場であり、人間の関与が及ばない完全自律型の致死性兵器の開発を行う意図は有していないとの立場を表明してきています。
日本は、人間の関与が及ばない完全自律型の致死性兵器の開発を行う意図は有しておらず、兵器については人間の関与が必須であるという立場を表明をしてきているところでございますが、国際社会においてこのLAWSに関する共通認識が得られるよう、積極的かつ建設的に議論に参加をしてまいりたいと思います。
しかし、最近の日本の報道にもありますとおり、残念ながら、中国、韓国などアジア諸国の一部を含む複数の国々で、この完全自律型AI兵器、LAWSの開発が進んでいるという指摘があるわけであります。
人間が全く関与しない完全自律型の兵器の開発に制限を設ける一方、民生分野の技術開発の妨げにならないようなルールメーキングをどうやっていくのか、それに日本が積極的、建設的にどう関与していくのか、技術的あるいは法的などの専門的な分野を中心に議論を行いました。
この兵器というのは、要するに、人工知能、AIが攻撃目標の捕捉から破壊まで、人間の判断、関与なしで全て完全自律型でやることができる兵器ということで、予算委員会では、「スター・ウォーズ」とか「ターミネーター」という映画に出てくるような兵器がそろそろ現実のものになりそうだというお話でございます。
もちろん、外務省も防衛省も、国際会議の場で、このLAWSについては、定義が確立していないからなかなか特定の立場に立って物を言えない、また、どういう防止措置があるかということについてもこれから議論を続けていかなければいけないという立場をとっていることは私は理解をいたしますが、これは、私の予算委員会の質疑でも指摘をしたように、もし完全自律型、キラーロボットとも一部言われておりますが、これが完成しますと、
いろいろな可能性が議論されておりますが、我が国として人間が関与しない完全自律型の兵器の開発を行う意図はないということを、まず我が国はこれまで明確に申し上げてきております。
この特徴から、これを問題視しているNGOなどからは、完全自律型AI兵器とかキラーロボットとも呼ばれておりまして、二〇一三年、五年ほど前から、開発の禁止を求める運動が始められております。 国際NGOのヒューマン・ライツ・ウオッチによれば、米国、ロシア、イスラエル、韓国、中国、イギリスなどを含む十数カ国が開発中ということでございます。
今防衛大臣から御答弁ありましたように、人間が関与しない完全自律型の兵器の開発を我が国が行う意図は有しておりません。他方、AIなど民生分野における健全な発展が阻害されることがないよう冷静に議論する必要性も我が国としてCCWで指摘をしているところでございます。 こうした我が国の立場を踏まえつつ、国際的な議論に積極的かつ建設的に関与してまいりたいというふうに思っております。
我が国としても、科学技術の発展が安全保障や軍縮へ与える影響については十分認識しており、先般の政府専門家会合でも、人間が関与しない完全自律型の兵器の開発を行う意図は有していない旨を明らかにしております。一方で、ロボット技術あるいは人工知能技術において先進的な技術を擁する日本として、特にAIなど民生分野における健全な発展を阻害しないよう冷静に議論する必要性も指摘いたしました。
特に自動運転等については、これまで完全自律を目指していたところに大きなサポートを得ることにもなりますから、日本としては、一刻も早くこの分野においても世界に先駆けた技術革新をしていかなければならないということであります。もちろん、その意味も含めて、SIP事業等々でも努力をしておるところを御理解をいただきたいと思います。