画像: ドローンは自律飛行できる CC BY-SA 2.0

遊びで作ったはずのAIドローンの危険性に気づく

2024年3月2日、アメリカの起業家で技術者のルイス・ウェナス氏は、「遊び」目的で人を追いかけるAIシステムを小型ドローンに組み込んだと、「X」に投稿した。

We built an AI-steered homing/killer drone in just a few hours

I thought it would be fun to build a drone that chases you around as a game. It just uses an AI object detection model to find people in the frame, and then the drone is programmed to fly towards this at full speed… pic.twitter.com/p5ijBiHPxz

— Luis Wenus (@luiswenus) March 2, 2024

そして、彼はすぐに爆発物をドローンに積載できることに気がついた。

市販の小型ドローンに対し、わずか数時間の調整作業を行えば、ドローン単体で自律的にターゲットを追跡できるようになってしまうという。

ウェナス氏は、別の技術者ロバート・ルコシコ氏と協力し、物体検知モデルを使ってドローンに人を探知させ、最高速度で飛行できるよう調整したという。

彼らはさらに、最大10mの範囲で作動する顔認識機能もドローンに組み込んだ。

つまり、武装したAIドローンは特定の個人や集団を攻撃目標にできるのだ。

AIパワーにより、誰もがドローン兵器を作れる危険性

画像: 起業家で技術者のルイス・ウェナスは、人を最高速度で追跡できるように、AIと顔認識技術を小型ドローンに組み込んだ。 CC BY 2.0

これを作るのにかかった時間は、たったの数時間だったという。

もしAIドローンに小さな爆発物を取り付けて、100機を飛ばせば簡単に集団殺戮ができてしまう。
大々的なイベントや公共の場所には、爆発物や銃器のチェックはあるが、対ドローン対策はまだ存在していない。

AI研究者の中では「e/acc」と呼ばれる思想が広まっている。
これは、AI技術の発展によってもたらされる利益は、常に潜在的なリスクを上回るという思想で、AI研究はリスクがあっても可能な限り加速させるべきだという考えである。

つまり、「e/acc」を支持する人々は、AIがもたらす恩恵に期待を寄せる一方で、AIの発展に伴うリスクや倫理的懸念については二の次と考えているわけだ。

ウェナス氏も「e/acc」の支持者で、さらに「オープンソース絶対主義者」を自称しているが、今回の件については「いかなるコードも公開しない」と述べている。

さらに彼は「近い将来、このような技術を使ったテロ攻撃が起こりうる」と警告した。

このようなシステムの設計には技術的知識が必要だが、AIによるコーディング支援や、コードの自動生成の進化によって、今後はさらにソフトウェア開発が容易になるという。

さらにドローンを作るためのキットは世界中で販売されており、誰でもやる気さえあれば簡単に部品調達が可能で、独自のドローンを作ることができてしまう。

テロリストがこんなおいしいことを見逃すはずがない。

対ドローン対策の必要性

画像: レーダー CC BY-SA 2.0

ウェナス氏が警告するように、AIとドローン技術の進歩により、テロリストがこの種の兵器を比較的容易に入手・製作できるようになりつつある。

そのため、公共の場における「ドローン防御対策」は、早急に対応しなければならない課題となっている。

対策の一つとして、ドローンの探索・検知・追跡を行うレーダー、ドローンを無効化できる装置などの設置がある。

オランダのRobin Radar Systemsという会社の製品やサービスには、カメラ、音響センサー、レーダーでドローンを検知し、無線周波数ジャマー、GPSスプーファー、ネット銃、高出力レーザーなどの技術で妨害することができる製品群があるという。

しかし、こういった防御のための設備があったとしても、完璧に防ぐことは難しいと考えられるため、日本においてはドローンに対して厳しい規制が課せられている。

軍用ドローン技術の進化

画像: 軍用ドローン CC BY 2.0

ドローンを軍事目的で利用するための研究は、世界中で活発に行われている。

そして、直近の戦争では実際にドローンが使用されている。

たとえばウクライナ戦争では、ロシア軍の進路上空に偵察用のドローンを飛行させ、攻撃型ドローンにミサイル攻撃させる新たな活用法が注目を集めた。

近年ではスウォームという、数十機のドローン同士が通信をしながら、互いにぶつからないように群れを成して自律飛行、制御する技術が注目されており、日本やアメリカでも研究が進められている。

この多数のドローンの飛行を制御して一気に目標に向かわせる「スウォーム攻撃」が、今後の大きな脅威とされている。

対ドローン対策でも触れたが、防衛の観点でもドローンは非常に厄介な存在である。

戦闘機やミサイルと比べると機体が小型で速度が遅く、レーダーで捕捉しにくいため、これまでの防空システムが通用しない。
しかもコストが安いため、安い兵器で敵にダメージを与えることができるのだ。

ドローン大国の中国は、この技術で世界をリードしているといわれている。

軍としてのドローン対策としては、各国で技術開発が進められている。

ドローンの制御信号と同じ周波数の妨害電波を発生して無効化する電波探知・妨害技術や、不審なドローンに接近し網を放出して生け捕りにする技術、さらには高出力レーザーや高出力マイクロ波でドローンを撃墜する技術などだ。

このように軍事用ドローンの技術も進化を続けており、AIによって飛躍的な進化をとげることも予想される。

さいごに

科学技術の進歩は人類に多くの恩恵をもたらす一方で、悪用されるリスクも常にある。

AIやドローン技術が発達すればするほど、テロリストなどの悪意ある者による兵器化が容易になっていくことが予想される。

公共の場における対ドローン防御システムの早急な整備は、市民の安全を守るために必要不可欠な対策となるだろう。

AIが普及、浸透していくほど、世界のルールも変わっていく必要があるのだ。

参考 :
https://twitter.com/luiswenus/status/1763978511092478221
Bird & Drone Detection Radar Systems | Robin Radar