AIを悪用したサイバー脅威：ハッカーの一歩先を行く方法

私はJoe、東京を拠点とするサイバーセキュリティの専門家で、12年以上にわたり攻守の両面に立ってきました。この2年ほどの間に、私は人工知能（AI）が、ベンダーのスライドを飾る流行語から、攻撃者にとっての真の戦力増強手段へと変わっていく様子を目の当たりにしてきました。AI はまったく新しい攻撃を生み出すというより、従来の攻撃をより速く、より安く、そしてはるかに説得力のあるものに変えます。朗報は、同じ技術が防御側にとっても戦力を何倍にも高めてくれるということです。ただしそれは、AI がどこで役立ち、どこで自分たちに牙をむき得るのかを理解していればの話です。以下では、私が AI を悪用した脅威をどう捉え、チームが一歩先を行けるようどう支援しているかをご紹介します。

1. AIが作り出すフィッシングとディープフェイク

   拙い文法で詐欺を見抜ける時代は終わりました。攻撃者は今や言語モデルを使って、完璧でローカライズされたメールを作成し、生成ツールを使って数秒の音声から声を複製したり、見慣れた顔になりすましたビデオ通話を偽造したりします。私は、実際には行われなかった通話で「CEO」を名乗る相手から圧力をかけられる財務チームを目にしてきました。目に見えるもの、耳に聞こえるものは何でも合成され得ると想定し、見覚えや聞き覚えだけに頼らない検証の習慣を築いてください。

2. 自動化された偵察とエクスプロイト開発の高速化

   AI は攻撃のタイムラインを圧縮します。かつては熟練したオペレーターでも数日を要した作業、たとえば標的の情報収集、露出したデータの要約、標的に合わせた誘い文句の作成、さらにはエクスプロイトコードの下書きまでもが、いまや数分で完了します。脆弱性が公開されてから悪用されるまでの猶予は縮まり続けています。ですから私は、攻撃者は次のメンテナンス期間を待つよりも速く動く、という前提で防御を設計します。

3. 大規模言語モデル（LLM）の悪用

   闇のサービスは今や言語モデルを組み込み、マルウェアの亜種を生成し、ペイロードを難読化し、攻撃キャンペーンを完璧な地域方言へと大規模に翻訳しています。洗練された大量攻撃を仕掛けるための参入障壁は劇的に下がりました。これはパニックに陥るべき事態ではありませんが、検知においては、かつて頼りにできた「ほころび」ではなく、振る舞いと結果に着目しなければならないことを意味します。

4. 自社のAIへの攻撃：プロンプトインジェクションと敵対的機械学習

   AI 機能を導入するということは、新たな攻撃対象領域を開くことでもあります。プロンプトインジェクションは、アシスタントを騙してデータを漏えいさせたり、本来拒否すべき操作を実行させたりします。また、敵対的な入力はモデルの出力をひそかに操作します。私は、LLM を基盤とするあらゆるアプリケーションを、他の信頼できない入力を扱うシステムと同じように扱います。すなわち、権限を制限し、アクセスできる範囲を検証し、モデルの出力がチェックなしに機密性の高い操作を引き起こすことは決して許しません。

5. AIで守る：検知とトリアージ

   同じモデルは防御側にも力を貸してくれます。私は AI を使って、膨大なログにまたがるシグナルを相関分析し、人間ならスクロールで見過ごしてしまう異常を浮かび上がらせ、より迅速なトリアージのためにアラートを要約し、インシデントの初動タイムラインの下書きを作成します。これはアナリストを置き換えるものではなく、彼らを単調な作業から解放し、機械がいまだに誤る「判断」の部分に集中できるようにするものです。

6. ガバナンスと人による検証

   説得力のあるディープフェイクから守ってくれるのは、技術だけではありません。私は組織が、シンプルで揺るぎないルールを定めるのを支援します。支払いや認証情報の変更には帯域外（アウトオブバンド）での検証を行うこと、機密性の高い依頼にはあらかじめ取り決めた合言葉を用いること、そして公開 AI ツールに従業員が何を入力してよいかについて明確な方針を持つことです。既知の番号への30秒の折り返し電話は、AI を悪用したソーシャルエンジニアリングのほとんどを打ち破ります。

7. 一歩先を行く：AIを進化し続ける敵として扱う

   AI を悪用した脅威は、一度防げばあとは忘れてよい類いのアップグレードではありません。ツールは毎月のように変化します。ですから私は、変化を前提としたプログラムを構築します。現実的な事例を用いた継続的なトレーニング、ディープフェイクのシナリオを含めた定期的な机上演習、そして「いつもと違う」ことに疑問を持つ姿勢を評価する文化です。一歩先を行くとは、次のツールを予測することよりも、適応し続けることにあります。