ユーザーからの質問内容によっては、顧客情報や社内情報、システムプロンプトなどの機密情報が回答として出力されてしまう可能性があります。
本診断では、ユーザープロンプトに対するフィルタリングやガードレール設定を検証し、外部に公開してはいけない情報が出力されないかを確認します。
実運用を想定した生成AIシステムにおける挙動の逸脱とそれに伴うリスクを評価
生成AIを活用したシステムに対し、テキスト生成AIへの不正なプロンプト入力による、LLM（Large Language Model）の誤作動や情報漏洩のリスクを徹底検証。その評価結果を通じて、安全なAI運用のための的確な判断材料を提供するセキュリティ診断サービスです。
LLM特有リスクに
特化した診断
プロンプトインジェクションやガードレール回避など、従来のWebアプリ診断では対象外となりがちなLLM特有のリスクにフォーカスして検証します。
業界標準に基づく
信頼性の高い診断
「OWASP LLM Top 10」などの主要なセキュリティ基準をもとに診断項目を設計。客観的かつ体系的な評価により、安心して生成AIをご活用いただける環境づくりを支援します。
対策につながる
分かりやすい報告
検証結果はリスクの内容だけでなく、想定される影響と改善の方向性を整理してご報告します。 セキュリティ専門でなくても判断しやすい内容です。
セキュリティエンジニアが実運用を想定しプロンプトインジェクションを含む入力操作を用いて生成AIシステムにおける挙動の逸脱と、それに伴うリスクを評価します。
| 診断区分 | 診断項目 |
|---|---|
| 指示操作や制約の回避 | 安全性ガードレールの無効化 |
| 文脈を利用した制約回避 | |
| 架空シナリオによる制約回避 | |
| 多段階対話による回避と文脈シフト | |
| 入力フィルターのバイパス | |
| 機密情報漏洩 | 内部仕様・ルールの漏洩 |
| 学習データからの機密情報漏洩 | |
| 特定データの学習使用 | |
| 可用性・リソース消費 | 高負荷タスクによるリソース枯渇 |
| 大量入出力によるリソース枯渇 | |
| 不適切な出力や処理 | 攻撃コード・ペイロード生成 |
| LLM環境でのコード実行 | |
| モデルの健全性・倫理的違反 | 事実に基づかない情報（ハルシネーション）の誘発 |
| バイアス・不公平な出力 | |
| 有害・不適切なコンテンツの生成 |
AIセキュリティ関連のガイドラインに基づいた診断項目で、安心してご利用いただける高品質な診断サービスを提供しています。
| 基準・ガイドライン名 | 概要 |
|---|---|
| OWASP LLM top10 | セキュアなアプリケーションの開発・購入・運用を推進するために作られた、オープンコミュニティ。 世界各国のセキュリティ専門家が参加し、先進的な研究を行っており、世界的なセキュリティ基準として参考とされております。 |
| 経済産業省 AI事業者ガイドライン（第1.1版） | AIの開発・提供・利用に当たって必要なセキュリティの観点を含む基本的な考えを示したガイドライン。 日本国内のAI開発において、重要な指針を示したものであり、様々なガイドラインなどでも参照されております。 |
| AISI AIセーフティに関する評価観点ガイド | IPAに設定された、安全・安心で信頼できるAIの実現に向けて様々な取り組みを行っている機関。 セキュリティの観点を含む安全なAIを実現するために重要なAIセーフティの考え方が整理されております。 |
| AISI AIセーフティに関するレッドチーミング手法ガイド | AIセーフティの中でも、セキュリティに特化して具体的なセキュリティの確認方法や対策をまとめたガイドライン。プロンプトインジェクションとDoS攻撃によるサイバー攻撃を中心にまとめられております。 |
CASE01
機密情報が生成AIから出力されてしまうリスク
ユーザーからの質問内容によっては、顧客情報や社内情報、システムプロンプトなどの機密情報が回答として出力されてしまう可能性があります。
本診断では、ユーザープロンプトに対するフィルタリングやガードレール設定を検証し、外部に公開してはいけない情報が出力されないかを確認します。
CASE02
不適切な回答や誤情報を生成してしまうリスク
生成AIがヘイトスピーチや誤情報、フィッシングメールの生成など、不適切な回答を行ってしまうケースがあります。
本診断では、システムプロンプトや出力フィルタリングの設計を検証し、意図しない不適切な回答が生成されないかを確認します。
CASE03
権限のないユーザーに情報を提供してしまうリスク
生成AI機能をユーザー向けサービスとして提供している場合、ユーザーの権限や利用プランによって回答内容を制御しているケースがあります。
本診断では、ユーザー権限やシステム仕様と生成AIの応答制御が適切に連携しているかを検証し、本来は回答されないはずの情報が返されないかを確認します。
エグゼクティブサマリーとして、レベルを数値化。誰でも同じ指標でレベルが分かります。さらに注意点と対策まで記入しているため、診断後の対応もスマートに取り掛かれます。
※自社顧客満足度アンケート結果
| 項目 | 内容 | ||
|---|---|---|---|
| 1 | エグゼクティブサマリー | 総評、リスク、対策指針などをまとめます。 | |
| 2 | 診断結果 | セキュリティランク | サイトごとの総合スコアを記述します。 |
| 脆弱性一覧 | サイトごとに検出された脆弱性の一覧を記述します。 | ||
| 3 | 脆弱性詳細 | 検出された脆弱性ごとに対策や検出例を記述します。 | |
| 4 | 診断概要 | 診断対象の一覧などを記述します。 | |
製品をご検討中の方から、ユーザー様まで
お気軽にご連絡ください
お電話でのお問い合わせはこちら
事前ヒアリングから、診断中に危険度の高い脆弱性が発見された場合の緊急連絡、診断終了後には詳細な報告書をもとにした結果のご報告まで、きめ細やかなサービスを提供します。診断終了後、1年の問い合わせサポート付きです。
経験豊富な専門家による
信頼の診断
経験豊富な専門家による信頼の診断
エムオーテックスは、20年の実績と12,000件以上の診断経験を持つ国家資格保有者が多数在籍しています。これにより、高度な技術力と信頼性の高い診断を提供し、開発者とセキュリティ管理者のニーズに応えます。
柔軟で効率的な
サービス提供
柔軟で効率的なサービス提供
エムオーテックスは、ビジネスニーズと予算に合わせた脆弱性診断プランを提案し、コスト効率を最大化します。納期や診断対象も柔軟に調整できるため、スケジュールに合わせた迅速な対応が可能です。
分かりやすい報告書と
具体的な対策
分かりやすい報告書と具体的な対策
診断後には、具体的な対策を含む分かりやすい診断報告書を提供します。これにより、開発チームが迅速に脆弱性を修正できるよう支援し、効果的なコミュニケーションで迅速な問題解決をサポートします。
製品をご検討中の方から、ユーザー様まで
お気軽にご連絡ください
お電話でのお問い合わせはこちら
セキュリティに関する
お問い合わせ
サイバーセキュリティのさまざまな領域に対し、
セキュリティプロフェッショナルの知見を活かした
「脆弱性診断」と「セキュリティ製品・ソリューション」で、巧妙化するサイバー攻撃などのリスクから組織を守ります。
ヘルプデスクサポート
平日 9:30 - 12:00、13:00 - 17:30
（祝祭除く）
