米AI企業アンソロピック（Anthropic）は9月10日（現地時間）に公表した脅威インテリジェンス報告書で、中国に関係する利用者が利用制限を回避して同社の対話型AI「Claude（クロード）」を使い、台湾の軍事目標を狙う電子戦用ソフトウェアを設計していたと明らかにした。生物兵器に関わる可能性のある研究にClaudeを利用していた例もあったという。
ある中国の利用者は、Claudeを用いて中国語仕様の電子戦ソフトウェア一式を設計し、繰り返し改良を加えていた。ソフトウェアは計16のモジュールで構成される。レーダーや防空ミサイル陣地、指揮所、通信ノードを分析して探知範囲や電子妨害の効果を算出するほか、目標の重要度や弱点に基づいて攻撃の優先順位を判定することもできる。地対空ミサイル「パトリオット」や高高度防衛ミサイル「THAAD（サード）」といった防空システムの迎撃範囲をシミュレートすることも可能だという。
プロジェクトの途中で、この利用者は想定する対象地域を台湾に切り替えた。早期警戒レーダー基地、指揮所、パトリオットおよび台湾製防空ミサイル「天弓」の陣地、主要な空軍基地、地域作戦司令部など12カ所を攻撃目標として列挙している。
Anthropicによると、この利用者は中国の国防・軍需産業の研究に従事している可能性があり、アカウント情報からは中国人民解放軍軍事科学院をはじめとする研究機関との関連がうかがえるという。
同社はさらに、生物兵器に転用されうる5件の事例を挙げた。研究の対象には、チクングニアウイルス、高病原性鳥インフルエンザのウイルス株、天然痘やエムポックス（サル痘）を含むポックスウイルス科のウイルス、動物由来の毒物や毒素などが含まれていた。
このうち1人は、Anthropicがサービスを提供していない地域に住む研究者で、VPNやVPS（仮想専用サーバー）を経由して数週間にわたりClaudeを利用し続け、鳥インフルエンザウイルスを哺乳類の宿主に適応させる実験を計画していた。同社は把握後ただちにアカウントを凍結し、この事例を踏まえてモデルの安全対策を強化したとしている。
ただしAnthropicは、これらの研究者が実際に他者に危害を加える意図を持っていたかどうかは断定できないとしており、関係する個人や研究機関の身元は公表していない。
報告書は、銃器やミサイル、武装ドローン、爆弾といった兵器や、その照準・制御システムの開発にClaudeを利用しようとする動きがあることも指摘している。
ロイター通信によると、Anthropicは中国、ロシア、北朝鮮などにはサービスを提供していない。それでも一部の中国の関係者は、中国のAIサービスを経由するなどして制限を回避し、Claudeを利用しているという。軍事や監視といった機微な用途に利用するだけでなく、米国製AIの回答を独自モデルの訓練にも使っており、その過程で本来は外部に出すべきでない内部資料まで入力しているとされる。
報告書は軍事利用に加え、中国の関係者がClaudeを「世論監視」に使っていることも指摘する。ある事例では、台湾や欧米メディアの報道を大量に収集したうえで、海外在住の華人、反体制派、少数民族、台湾の政治家を監視対象とし、いわゆる「政治的敏感度」に基づいて分類。政府内部向けの報告書にまとめていた。
Anthropicは、こうした活動は中国政府を顧客とする請負業者が実行した可能性が高いとみている。
（翻訳・文遠）