Anthropic、中国のハッカーが同社のClaude AIチャットボットをサイバー攻撃に使用と発表

サンフランシスコに拠点を置くAI企業Anthropicは木曜日、中国のハッカーが同社の人工知能チャットボットClaudeを悪用して大規模なサイバースパイ活動を行ったことを明らかにしました。これは、同社が考えるところによると、従来の人間のハッキング手法ではなく主にAI技術を用いて実行された初の大規模なサイバー攻撃です。攻撃者は技術企業、金融機関、化学メーカー、政府機関など約30の組織を標的にしました。\n\nAnthropicによると、ハッカーはClaudeを利用して被害者のデータベースからユーザー名とパスワードを抽出し、それを使って機密情報を盗み出しました。作戦の規模にもかかわらず、成功した試みはごく一部にとどまりました。同社はこの前例のない攻撃がほぼ自動化されており、人間の直接的な関与は最小限だったと強調しました。声明の中でAnthropicは攻撃の速度の速さを強調し、AIが1秒間に数千のリクエストを行ったことは人間のハッカーには真似できないと述べました。\n\nAnthropicは9月中旬にこの疑わしい活動を発見し、社内調査を開始しました。調査結果は、中国に拠点を置く国家支援のハッキンググループがこのスパイ活動の背後にいる可能性が高いことを示しました。ハッカーはClaudeを正当なサイバーセキュリティ企業が防御的なセキュリティテストを行っていると誤認させることで騙したとされています。痕跡を隠すために、攻撃者は作戦を多数の小さなタスクに分割し、全体の攻撃を検出・分析しにくくしました。\n\n従来のサイバー攻撃が人間のハッカーの協調に大きく依存しているのに対し、この作戦はAIがサイバー犯罪を自動化し大規模に拡大できることを示しました。同社は、AIエージェントが様々な分野で広く展開されるにつれて、AI駆動の攻撃がより頻繁かつ高度になる可能性があると警告しました。MITテクノロジーレビューを含む専門家は、AIが犯罪者にとってプロのハッカーよりも安価で高速かつ拡張性の高い代替手段を提供し、サイバーセキュリティに新たな課題をもたらしていると指摘しています。\n\nAnthropicはさらなるコメント要請に即答しませんでした。この話は最初にウォール・ストリート・ジャーナルによって報じられました。AI技術が進化し続ける中、サイバーセキュリティの状況は劇的に変化すると予想され、AI対応の脅威に対抗するための新たな戦略とツールが求められます。この事件は、AIが多くの利点を提供する一方で、従来の防御機構を凌駕する形で武器化される可能性があることへの警鐘となっています。