IPA（情報処理推進機構）が候補を選出し、研究者、企業の実務担当者からなる約250名のメンバーの審議・投票を経て決定する「情報セキュリティ10大脅威」に今年、「AI利用をめぐるサイバーリスク」が初選出されました。上位に「ランサム攻撃による被害」（11年連続11回目）、「サプライチェーンや委託先を狙った攻撃」（8年連続8回目）などのおなじみの顔ぶれが並ぶ中、初登場ながら3位にランクインしたことからも注目度の高さがうかがえます。
では「AIの利用をめぐるサイバーリスク」とは、何を指しているのでしょう。IPAのプレス資料によると、リスクは多岐にわたり、まさにその点こそが上位にランクインした理由であることが示唆されています。そこでまずは、AI自身にそのリスクを訊ねてみました。

「AIの利用をめぐるサイバーリスクを教えて」という質問へのAIの回答は以下のようなものでした。
① 意図しない情報漏えい
・入力内容が学習に使われる設定だと、第三者に再利用される危険がある。
・特に企業の内部文書・顧客情報・ソースコードが漏れると、競争力や信用を失う。

② プロンプトインジェクション
・悪意あるユーザーがAIに裏指示を埋め込み、意図しない情報を引き出す攻撃。

③ AIを悪用した攻撃の高度化
・フィッシングメールの自動生成・高精度化
・マルウェア作成の効率化
・ソーシャルエンジニアリングの巧妙化

④ 誤回答（ハルシネーション）による業務リスク
・顧客対応チャットボットが誤情報を返し、炎上や信用失墜につながる事例が報告。
・AIの回答を検証せず鵜呑みにすること自体がリスク。

⑤ 権利侵害（著作権・プライバシー）
・AIが生成した内容に他者の著作物が混入する可能性。
・個人情報を含むデータを誤って学習させると、プライバシー侵害につながる。

⑥ サプライチェーンリスク
・外部AIサービスやライブラリの脆弱性を突かれ、自社システム全体が危険にさらされる。

AI利用のリスクは大きく二つに分けられます。一方は上記AIの回答の「①意図しない情報漏えい」や「④誤回答（ハルシネーション）による業務リスク」、「⑤権利侵害（著作権・プライ氏―）」に代表される、企業のAI利用にともなうリスクです。
そしてもう一方が、AIによる攻撃の高度化やAIシステム自体への攻撃による新たなリスクです。セキュリティ対策の観点で特に注目したいのが、後者のAIによる攻撃の高度化、多様化です。特に「③AIを悪用したサイバー攻撃の高度化」は、すでに大きな問題として浮上しつつあります。その一例が、AIによる日本語翻訳の進化によるフィッシングメールの精度向上です。またAIによるマルウェア生成の自動化は、変種の自動展開による検知回避やゼロデイ攻撃のこれまで以上の高速化に大きな役割を果たすとみられています。

AIが指摘する通り、AI利用をめぐるリスクはそれだけではありません。それがAIシステム自体をターゲットにする攻撃です。一例が、AIに与える指示（プロンプト）を悪用し、想定していない動作をAIに行わせる「②プロンプトインジェクション」です。AIを操り、誤情報の拡散や情報漏えいに導くというのがその具体的な攻撃方法。「⑥サプライチェーンリスク」にも注目が必要です。AIシステムはLLM（大規模言語モデル）やそのトレーニングに利用する「学習データ」のほか、APIによる天候データなどの外部データやライブラリ、クラウド基盤などさまざまな要素から成り立つことが一般的です。サプライチェーンリスクとは、それに伴う攻撃の入り口の多様さを指す言葉です。特に情報漏えいの観点から、AI PCやプライベートAIサーバーによるローカルLLM運用が注目されていますが、それによって利用リスクが完全に回避できるわけではない点には注意が必要です。

ネットワーク内部に侵入後、状況に応じて攻撃手法を最適化するAI駆動型マルウェアが2025年に初検知されるなど、AIを利用した攻撃は進化を続けています。こうした中、改めて注目されているのがマルウェア侵入を許した後の対応です。UTMによる入口・出口対策に対し、侵入したウイルスの動きを検知して被害拡大を抑止する仕組みは内部対策と呼ばれます。ネットワーク内をモニタリングし、不審な通信を検知、遮断しアラートを通知する内部対策は、ウイルス被害を最小限に抑える上で大きな意味を持ちます。
内部対策の具体的ソリューションとしてまず挙げられるのが、「セキュリティスイッチ」や「セキュリティアクセスポイント」と呼ばれるセキュリティアプライアンスの導入です。サブゲートのSubGateシリーズは国内出荷実績が10万台を超える、定評ある高性能な内部対策製品群です。エンドユーザー様に安心して提案できる内部対策ソリューションになると考えられます。


参考資料
情報セキュリティ10大脅威 2026
https://www.ipa.go.jp/security/10threats/10threats2026.html

初のAI駆動型ランサムウェアをESETが発見
https://www.eset.com/jp/blog/welivesecurity/first-known-ai-powered-ransomware-uncovered-eset-research-jp/



ライター：滝本一帆