LLMの脆弱性とは？代表的なリスクと対策をわかりやすく解説

LLM導入したし、あとは走らせるだけ！

教習も仮免もなしで路上に出す気？

勢いで何とかなるでしょ

事故るの待ってるようなものだよ。

今回は「LLMの脆弱性とは？代表的なリスクと対策」について説明するよ

LLMの脆弱性とは？従来のWebアプリケーションとの違い

LLMを組み込んだアプリケーションでは、従来のWebアプリケーションとは異なる視点でセキュリティ対策を講じる必要があります。
その理由は、システムの動作を決定する仕組みに「自然言語特有の曖昧さ」が関わるためです。
従来のWebアプリケーションは、あらかじめ定義されたプログラムコード（決定論的なルール）に基づいて動作します。
そのため、不正なコードや想定外の入力を検知・遮断する仕組み（WAFなど）を導入することで、多くの攻撃リスクを低減することが可能でした。
一方、LLMはユーザーから入力された自然言語を確率的に処理し、文脈に応じて最も適切と判断した内容を生成します。
自然言語は表現の幅が非常に広く、入力パターンをあらかじめ網羅することが困難です。
そのため、従来の静的な入力チェックやブラックリスト方式だけでは十分に対応できないケースがあります。
このような自然言語特有の性質が、LLMにおける新たなアタックサーフェス（攻撃対象領域）を生み出しているのです。

LLMで注意すべき代表的なリスク

LLMを活用したシステムにおいて、特に理解しておきたい代表的なリスクが、プロンプトインジェクションとハルシネーションです。
それぞれ発生の仕組みや影響が異なるため、適切な対策を講じるには、まず特徴を正しく理解することが重要です。

プロンプトインジェクション（命令の乗っ取り）

プロンプトインジェクションとは、攻撃者が悪意のあるプロンプト（命令）を入力し、LLMに設定された指示や制約を上書き、または無効化することで、意図しない動作を引き起こす攻撃です。
主に次の2つの手法があります。

ハルシネーション（もっともらしい誤情報の生成）

ハルシネーションとは、LLMが事実に基づかない情報や誤った内容を、あたかも正しい情報であるかのように生成してしまう現象です。
LLMは、情報の真偽を検証したうえで回答しているわけではなく、文脈に基づいて確率的に最も適切と判断した単語を生成しています。
そのため、存在しない論文やURLを引用したり、誤った数値や法令を提示したりする場合があります。
ハルシネーションを放置すると、次のようなリスクにつながる可能性があります。

「OWASP Top 10 for LLM Applications 2025」から見るLLMアプリケーションの主要リスク

LLMを組み込んだシステムを開発・運用するうえでは、国際的なリスク評価指標である「OWASP Top 10 for LLM Applications 2025」を理解することが重要です。
2025年版では、AI技術の進化を踏まえ、個々の攻撃手法ではなく、リスクの根本原因に着目した分類へと見直されました。
特に、AIエージェントの普及を背景に、権限管理や外部システムとの連携に起因するリスクが重視されています。
代表的なリスクカテゴリと、それぞれが組織やシステムに与える影響は次のとおりです。

これらのリスクは単独で発生するだけでなく、複数のリスクが組み合わさることで被害が拡大する可能性があります。
そのため、LLMを組み込んだシステムの開発・運用では、「OWASP Top 10 for LLM Applications 2025」を活用し、リスクを体系的に把握したうえで、適切な対策を講じることが重要です。

LLMの脆弱性に対する主な対策

LLMの脆弱性に対処するためには、単一のセキュリティ対策だけでは十分ではありません。
技術的な対策と組織的な対策（ガバナンス）を組み合わせた、多層防御の考え方が重要です。

技術的アプローチ：LLMガードレール

LLMガードレールとは、LLMへの入力や出力を監視・制御し、不適切な処理や情報漏えいを防ぐための仕組みです。
代表的なガードレールには、次のようなものがあります。

例えば、重要な操作の前に人による承認を必須とするヒューマン・イン・ザ・ループ（Human-in-the-Loop）を導入することで、AIエージェントによる意図しない動作や過剰な権限行使を防止します。

組織的アプローチ：セキュリティガイドラインの整備

技術的な対策を講じていても、利用ルールが整備されていなければ、シャドーAIの利用や人的ミスによる情報漏えいを防ぐことはできません。
そのため、情報処理推進機構（IPA）のガイドラインなどを参考に、実効性のある社内ルールを整備することが重要です。

LLM／AIプロダクトの品質を支えるQA（品質保証）とセキュリティテスト

技術的なガードレールを実装し、組織的な利用ルールを整備しても、それらの対策が実際の攻撃に対して有効に機能することを保証できるわけではありません。
LLMは確率的に応答を生成するため、想定外の入力や利用環境によって、設計時には予測できなかった挙動を示す場合があります。
そのため、システムを本番環境へ安全に展開・リリースするためには、攻撃者の視点から疑似攻撃を行うAIレッドチーミング（疑似攻撃によるセキュリティ・安全性評価）や、体系的な品質保証（QA）プロセスによる検証が重要になります。

まとめ

AIやLLMを活用したシステムでは、従来のソフトウェアテストに加え、AI特有のリスクを考慮した品質保証が求められます。
株式会社GENZでは、多様なシステム・サービスの第三者検証で培った品質保証のノウハウを基に、AIプロダクトに適したテストソリューションを提供しています。
さらに、サーバーやネットワークなどのインフラに対する脆弱性診断サービスも提供しており、AIシステム全体の品質とセキュリティを総合的に支援いたします。

インフラに対しての脆弱性診断

品質向上や安全なリリースをご検討の際は、ぜひお気軽にご相談ください。

この記事をシェアする