こんにちは、市川です。SOCのセンター長として、日々セキュリティ脅威に対する監視分析サービス(Managed Security Service)を提供しています。私は自社サービスの強化を目的として、今年開催されたBlack Hat USA 2025に参加してきました。
米国ラスベガスで繰り広げられた本イベントで、私は単なる技術カンファレンスではなくAIがセキュリティ運用の「両刃の剣」として本格的に台頭する姿を体感しました。
二年前の2023年に同じくBlack Hat USAへ参加した当時の記憶と比較しながら、今回短い時間に詰め込んだハードスケジュールの中で見てきたことを、具体的なAIの活用状況を交えて皆さんにお伝えします。
なお別のブログでは、DEF CON 33の参加レポートも公開しています。そちらも併せてご覧ください。
「Black Hat USA 2025」基本情報
Black Hat USAは、世界トップクラスのサイバーセキュリティに関するイベントです。Black Hat USA 2025は、米国ネバダ州ラスベガス市のMandalay Bay Convention Centerで2025年8月2日から7日まで開催され、世界各国から約20,000人のセキュリティ関係者が参加しました。
プログラムは以下の通りです。
- Cybersecurity Trainings（8月2-5日）
- ハンズオンで最新技術を学びます。
- The AI Summit （8月5日）
- AIに特化したセッション群が集まりました。
- Briefings（8月6-7日）
- 研究発表とディスカッションが行われました。
- Arsenal
- オープンソースツールのデモが行われました。
- Business Hall
- 展示ブースでの製品紹介が開催されました。
イベントスポンサーにはCrowdStrike、Palo Alto Networks、Google Cloudなどの大手が名を連ね、出展スポンサー数は2024年を上回る425社以上になりました。また、AIに関連するセッションが多くを占め、Business Hallに出展される全体の約25%のブースでAIに関わる製品が出展されていました。
当社からも複数のメンバーが参加したDEF CON 33が連続した日程で開催されるため、ハッカー達の「夏合宿」感も醸し出す本イベントですが、セキュリティサービスに関わる企業人として実務に直結する情報も多く得ることができました。なお、イベントへの参加チケットはブリーフィング参加料込みだとUS$3,000前後かかり、円安物価高の現在、渡航費用を加えると高額な投資になります。しかし、新しい企業間の関係構築や入手する最新情報から創成されるビジネスの価値は参加費用を容易に上回ると考えます。
基調講演について
Black Hat USA 2025の基調講演ではBlack Hat創設者のJeff Moss氏が開会挨拶を述べ、WithSecure社のMikko Hypponen氏が登壇しAIとサイバーセキュリティに関する講演を行いました。
Jeff Moss氏の挨拶ではAIの急速な進化がグローバルな政治や社会構造を根本的に変える力を持つことで、世の中を混乱させるリスクの可能性を指摘しました。その上で、人間同士のつながりを生かしたコミュニティによる回復力を活用することで、これからの課題を乗り越えようと提案していました。また、Mikko Hypponen氏はサイバーセキュリティ30年の歩みを振り返り、歴史的なマルウェア事例をユーモアを交えて紹介しつつ、将来の新たな脅威として地政学的混乱下でのドローン攻撃の話などを挙げ、最後に自身のキャリア移行を発表していました。
どちらの講演も会場からの大きな拍手で締めくくられ、特にMikko氏の話は自分自身の職務とも関りの深い話であったことから満足感の高い基調講演となりました。
「AI for Security」と「Security for AI」の目覚ましい進化
今年のBlack Hat USA 2025では「AI for Security」と「Security for AI」が際立っていた印象を受けました。
AI for Securityとは
AI for Securityとは、「AIを利用してセキュリティを担保する」アプローチです。AIの強みである大量データ処理とパターン認識を活用し、従来の人間中心のセキュリティ運用を大幅に効率化、高品質化します。
AI for Security 活用の具体例
- SOCへのAI採用により、セキュリティアラートの解析を自動化し脅威の原因や状況をレポーティング
- AIがログやネットワークトラフィックをリアルタイムで解析、異常行動を検知
- 脅威分析をAIが自動化し、セキュリティアナリストが「調査」から更に高度な業務へシフト など
AIがヒューマンオペレーションの限界を超え、スケーラブルな防御を実現する点が強調されていました。
例えば、AIが多数のイベントから本物の脅威を抽出するデモや、セキュリティアラートを起点にして侵害の原因や影響を人間と同様に解析し詳細な結果をアウトプットするデモはSOCの負担軽減を体現するものだと感じました。
Security for AI とは
Security for AIは、「AI自体を守る」ためのセキュリティです。AIが攻撃対象となり、モデル操作やデータ汚染で悪用されるリスクが高まっているため、AIシステムの保護が急務となっています。
Security for AIが必要になる具体例
- プロンプトインジェクション：生成AIに巧妙な入力を与え、機密情報漏えいや誤動作を誘発する
- モデル盗難：学習済みモデルが盗まれ、攻撃側に悪用される（モデル抽出攻撃）
- サプライチェーンリスク：オープンソースモデルやクラウドAIサービスに依存する企業が増え、第三者リスクが拡大する
「AIは強力な武器だが、弱点も多い」との指摘も目につきました。Security for AIのセッションが増えており、ディープフェイク（動画、テキスト、画像、音声で他人を擬態するもの）やAIエージェントの脱獄攻撃もホットトピックとなっていました。
AI活用観点から見たBlack Hat USA 2023と2025の違い
Black Hat USAはサイバーセキュリティのトップイベントとして、AIの台頭を反映した議論が年々進化しており、セキュリティ技術の進化を映す「鏡」としての側面があると考えています。
2023年はChatGPTブームの直後で、生成AIの可能性と利用時のリスク（例: プロンプトインジェクション、幻覚、バイアスなど）に焦点が当てられていました。一方、2025年はAIが「便利なツール」から「セキュリティの基盤」へシフトし、Agentic AI（自律型AI）による脅威検知対応やAI攻撃の成熟が目立ちました。AIがセキュリティの実装を検討する際のメインテーマになったと驚きを受けました。
AIの位置づけ：ツールから基盤へ
- 2023年
- ChatGPT登場直後、AIは「新技術」として大きく注目され、生成AIの可能性と利用時のリスク（幻覚、バイアスなど）が話題になっていました。
- 2025年
- 「セキュリティの基盤」として扱われ、Agentic AIが主流で検知・対応・攻撃の全てに関与できるようになりました。
脅威の成熟度：理論から実践へ
- 2023年
- プロンプトインジェクションやAIの倫理的問題が「可能性」として議論されていました。
- 2025年
- 0-click攻撃、AIエージェントの脱獄（jailbreak）、NVIDIAのGPUスタック脆弱性など、インフラレベルでのAI攻撃がデモされました。
防御の進化：人間依存からAIとのハイブリッドへ
- 2023年
- AIはあくまでも「補助的なツール」で、人間が運用を主導し、AIはデータ解析を支援する存在でした。
- 2025年
- AI-vs-AIの戦いが始まっています。AIが自律的に脅威の分析・ハンティング・修復を行い、人間は「文脈判断・最終承認」に特化する考え方が主流になりつつあります。
展示・メーカートレンド：AIデビューから統合へ
- 2023年
- 個別のAIツール（例: LLM脆弱性スキャナ）や Microsoft Copilot による運用への活用が紹介されていました。
- 2025年
- 統合プラットフォーム（XDR＋AI、SASE＋AIエージェント）が主流となり、メーカーからは実際のPoC（製品検証）提案が活発化し、AIを中心とするセキュリティエコシステムの構築が加速しています。
これからのAIとセキュリティについて（まとめ）
Black Hat USA 2025は、「AI for Security」と「Security for AI」の両面が紹介、議論され、AIがこれからのセキュリティ基盤を再定義したことを示したイベントだと思います。AIはセキュリティ運用の対応力を飛躍させる優位性があるものの、それ自体がセキュリティ攻撃の被害を受ける対象になるという側面もあるため、これからのセキュリティ対策はAIの導入とその防御を常にセットで考えることになると考えています。
生成AIにより作成された多量のフィッシングメールやソーシャルエンジニアリング攻撃に対応するため、AIエージェントによる自動脅威ハンティングが活用されるなど、攻撃側も防御側もAIを駆使したハイレベルな対決が日夜繰り広げられています。そこに人間が今まで培ってきた経験値や洞察力を加えることで、企業のサイバーレジリエンス（回復力）を高めることが可能だと信じています。
これからのセキュリティ運用は人間とAIが共創していくもの。これが本イベントから私が受け取ったメッセージです。
