Written by WizLANSCOPE編集部
目 次
近年、ChatGPTやGemini、Copilotをはじめとする生成AIの普及により、文章作成や要約、コーディングなど、さまざまな業務の効率化が進んでいます。
生成AIを業務に取り入れる企業も増え、業務効率化や生産性向上を目的とした活用が広がる一方で、利用方法によっては機密情報や個人情報の漏洩につながるリスクがあります。
また、生成AIを悪用したサイバー攻撃や、生成AIを標的とした新たな攻撃手法も登場しており、企業における情報セキュリティ対策の重要性はこれまで以上に高まっています。
生成AIを安全に活用するためには、情報漏洩が起こる仕組みや原因を正しく理解し、適切な対策を講じることが重要です。
そこで本記事では、生成AIで情報漏洩が起こる仕組みや主な原因、情報漏洩を防ぐための対策について解説します。
▼本記事でわかること
- 生成AIで情報漏洩が起こる仕組み
- 生成AIで情報漏洩が起こる主な原因
- 生成AIにおける情報漏洩対策
「生成AIの業務利用を検討している」「生成AIの情報漏洩リスクについて理解を深めたい」という企業・組織のご担当者は、ぜひご一読ください。
【AIサービスガイドライン付き】
生成AI活用におけるセキュリティリスクとは？
生成AI利用におけるリスクやインシデントと、Webセキュリティの専門家である徳丸浩氏 監修によるAIサービスの利用ルールや注意点をまとめたガイドラインをご紹介します。
生成AIで情報漏洩が起こる仕組みとは？
生成AIの急速な普及に伴い、プライベート・ビジネス問わずに、さまざまな人がさまざまな用途で生成AIを使うようになっています。
文章作成や要約、議事録作成などを短時間で行えることから、日常業務の効率化を目的に利用している方も少なくないでしょう。
一方で、生成AIの仕組みや利用時の注意点を十分に理解しないまま活用すると、意図せず情報漏洩につながる可能性があります。
生成AIで情報漏洩が起こるきっかけの一つが、機密情報や個人情報などを生成AIへ入力することです。
生成AIは、ユーザーが入力した情報をもとに回答を生成する仕組みであるため、入力した情報は生成AIサービス側で処理されます。
そのため、顧客情報や会議資料、契約書などの機密情報を安易に入力すると、情報の取り扱いや管理状況によっては情報漏洩につながるリスクがあります。
また、生成AIサービスへの不正アクセスやシステム障害などが発生した場合には、保存された情報が漏洩する可能性も考えられます。
このように、生成AIは非常に便利なツールである一方で、入力する情報によっては情報漏洩リスクを伴うため、利用する際には十分な注意が必要です。
近年、業務に生成AIサービスを活用している企業が増えていますが、このような情報漏洩リスクを十分に理解しないまま利用しているケースも見受けられます。
企業・組織においては、意図しない情報漏洩を防ぐためにも、適切な利用方法を社内で共有するとともに、入力情報が学習に利用されない設定・プランを活用するなど、適切な対策を講じることが重要です。
生成AIで情報漏洩が起こる主な原因
生成AIで情報漏洩が起こる主な原因として、以下の4つが挙げられます。
- 生成AIへの機密情報の入力
- アカウント管理・権限管理の不備
- 生成AIツール側の脆弱性や設定不備
- 生成AIを狙ったサイバー攻撃
それぞれの原因について詳しく解説します。
生成AIへの機密情報の入力
前述の通り、生成AIは、ユーザーが入力した情報をもとに回答を生成します。
この仕組みにおいては、情報の種別を問わず、入力した情報は生成AIサービス側で処理されます。また、サービスによっては、AIモデルの学習や品質向上に利用される場合があります。
そのため、機密情報や個人情報などを入力すると、情報の取り扱いや管理状況によっては情報漏洩につながるリスクがあります。
さらに、情報の取り扱いはサービスによって異なり、一度入力した情報は、後から削除や利用停止ができない場合があります。
特に、学習に利用された場合には、特定の情報だけを取り除くことは容易ではありません。
アカウント管理・権限管理の不備
Microsoft 365 Copilot など、社内システムと連携する生成AIサービスでは、ユーザーに付与されたアクセス権限をもとに、AIが必要な情報を検索・参照します。
そのため、ユーザーに必要以上のアクセス権限が付与されていたり、生成AIが参照できる範囲が適切に制御されていなかったりすると、本来閲覧すべきではない機密情報まで回答に含まれる可能性があります。
例えば、本来は生成AIから参照できないはずのデータに誤ってアクセス権限が付与されている場合、AIがその情報を参照し、回答の一部として生成してしまう恐れがあります。
このような情報漏洩は、生成AI自体の問題ではなく、利用環境における権限設定やアクセス管理の不備が原因となるケースが少なくありません。
そのため、定期的な権限の見直しや適切なアカウント管理を行うことが重要です。
生成AIツール側の脆弱性や設定不備
利用者が適切に生成AIを利用していても、サービス側の脆弱性や設定不備が原因で情報漏洩が発生するケースがあります。
実際に、ChatGPTでは過去にシステムのバグにより、一部利用者のチャット履歴のタイトルが、ほかの利用者に誤って表示されるトラブルが発生しています。
また、生成AIツールを Microsoft 365 や Google Workspace などのクラウドサービスと連携して利用している場合、共有範囲や公開設定に不備があると、本来公開されるべきではないデータが外部から閲覧できる状態になる恐れがあります。
このように、生成AIサービスそのものの脆弱性や設定不備が原因で情報漏洩が発生する可能性もあるため、利用者側の対策だけでなく、サービスのセキュリティ対策や設定状況にも注意を払うことが重要です。
生成AIを狙ったサイバー攻撃
生成AIの業務利用が広がるにつれて、生成AIを標的としたサイバー攻撃も増えています。
その代表例として、「プロンプトインジェクション」が挙げられます。
プロンプトインジェクションとは、生成AIに対して巧妙に設計されたプロンプトを入力し、本来設定されている指示や制約を回避させることで、不正なコンテンツを生成させたり、本来公開されるべきではない情報を引き出したりする攻撃手法です。
特に、社内データベースや外部APIと連携している生成AIツールにおいて、この攻撃が成功すると、顧客情報や社内文書、過去のチャット履歴など、機密性の高い情報が漏洩する恐れがあります。
生成AIに関連するセキュリティインシデント事例
ここでは、生成AIに関連する情報漏洩・セキュリティインシデントの事例を3つ紹介します。
情報漏洩は、利用者による機密情報の入力だけでなく、サービス側の不具合やサイバー攻撃など、さまざまな要因によって発生する可能性があります。
それぞれの事例を通して、情報漏洩やインシデントが発生した原因を確認していきましょう。
大手電子機器メーカーの従業員が生成AIに機密情報を入力した事例
ある大手電子機器メーカーでは、社内で生成AIツールの利用を認めたところ、従業員が機密情報を生成AIツールに入力してしまう事案が、約20日間で少なくとも3件発生しました。
入力された情報には、以下のようなものが含まれていました。
- 半導体製造設備のデータ管理に使うソフトウェアのソースコード
- 製造ラインの歩留まりを管理するプログラムのソースコード
- 社内会議の録音データを文字起こしした文書
この事案を受け、同社は生成AIサービスの利用を事実上禁止する対応を取りました。
開発元システムのバグによって個人情報が漏洩した事例
ChatGPTの開発元であるOpenAIのシステムのバグにより、有料プラン「ChatGPT Plus」の一部利用者の個人情報が表示される事案が発生しました。
漏洩した情報には、以下のようなものが含まれていました。
- 氏名
- メールアドレス
- 住所
- クレジットカード番号の下4桁
- カードの有効期限など
一部の利用者に、別の利用者の個人情報が表示される状態となっており、サービス側の不具合による情報漏洩事例として広く知られています。
インフォスティーラーによって生成AIサービスの認証情報が漏洩した事例
2025年2月には、OpenAIユーザーの認証情報が情報窃取型マルウェア（インフォスティーラー）によって盗み出され、ダークWeb上で販売されていたことが報告されました。
セキュリティ調査企業の分析によると、認証情報はインフォスティーラーに感染した利用者の端末から窃取されたものであり、生成AIサービス自体が不正アクセスを受けたわけではないことが判明しています。
この事例は、生成AIサービスのセキュリティ対策だけでなく、利用する端末のマルウェア対策やアカウントの適切な管理も重要であることを示しています。
生成AIによる情報漏洩を防ぐための対策
生成AIによる情報漏洩を防ぐためには、技術的な対策だけでなく、ガイドラインの整備や従業員教育などの組織的な対策も欠かせません。
ここでは、企業・組織が実施すべき主な対策を5つ紹介します。
| 技術的対策 | ・生成AIへの入力内容の監視・制限 ・オプトアウト設定の実施 ・法人向けプランの利用 |
|---|---|
| 組織的対策 | ・生成AIガイドラインの整備・運用 ・従業員へのセキュリティ教育の実施 |
情報漏洩リスクを低減するためには、これらの対策を組み合わせて実施することが重要です。
例えば、ガイドラインが整備しても従業員に十分浸透していなければ適切な運用は期待できません。
また、技術的な対策を講じていても、従業員のセキュリティリスクが低いままでは、情報漏洩につながる恐れがあります。
安全に生成AIを活用するためにも、対策内容について詳しく確認していきましょう。
生成AIへの入力内容の監視・制限
従業員による生成AIへの不適切な情報の入力を防ぐには、入力内容や利用履歴をログとして記録・管理できるセキュリティツールの導入が有効です。
ログを取得・管理する体制を整えることで、管理者は生成AIの利用状況を把握しやすくなり、不適切な利用の早期発見につながります。
また、「自分の行動が記録されている」という意識が生まれることで、従業員の慎重な利用を促す効果も期待できます。
さらに、ツールによっては、あらかじめ用意されたプロンプトの定型文から選択して利用できる機能を備えているものもあります。
このような機能を活用することで、従業員が独自の判断で機密情報を含む内容を入力・送信するリスクを抑えられます。
学習利用を防ぐオプトアウト設定の実施
生成AIの中には、ユーザーが入力した内容をモデルの学習に利用するものがあります。
この学習への利用を停止する機能を「オプトアウト」と呼びます。
オプトアウトを有効にすることで、万が一機密情報などを入力してしまった場合でも、その内容がモデルの学習に利用されるリスクを低減できます。
ただし、オプトアウトはあくまでも学習への利用を停止する機能であり、AIサービス提供者のサーバーへのデータ送信や保存を防ぐものではありません。
そのため、オプトアウト設定をしていても、入力したデータはサービス提供者側で一定期間保存される場合があります。
つまり、機密情報や個人情報は入力しないことを基本とし、オプトアウトはあくまでリスクを低減するための対策のひとつと考えることが重要です。
法人向けプランの利用
生成AIサービスの中には、セキュリティや管理機能を強化した法人向けプランを提供しているものがあります。
例えば、入力内容がデフォルトでモデルの学習に利用されない仕様になっていたり、データが暗号化された状態で保存されたりするなど、一般向けプランよりもセキュリティ面が強化されている場合があります。
また、サービスによっては管理コンソール機能が提供されており、従業員のアカウントを一元管理できるほか、利用状況の把握やアクセス権限の設定などを行えます。
このように、法人向けプランは情報漏洩リスクの低減に役立つだけでなく、組織全体での生成AIの管理・運用を効率化できる点もメリットです。
社内で生成AIを本格的に活用する場合は、法人向けプランの導入も検討するとよいでしょう。
生成AI利用ガイドラインの整備・運用
「生成AIガイドライン」とは、生成AIの利用・運用における倫理的、技術的、法令遵守などのルールやベストプラクティスを定めた指針のことです。
生成AIの業務利用を許可していても、組織全体で統一されたルールが整備されていなければ、従業員ごとの判断で利用される場面が増え、機密情報の入力や不適切な利用による情報漏洩リスクが高まります。
そのため、企業・組織においては、生成AIの利用に関するガイドラインを整備し、適切に運用することが重要です。
ガイドラインに含める内容の例としては、以下のようなものが挙げられます。
- 禁止される利用方法（脱獄行為を含む）
- 入力してよい情報・入力してはいけない情報
- 不適切な出力やインシデントが発生した場合の報告フロー
- アカウント管理・権限管理のルール
ガイドラインを策定する際は、デジタル庁や経済産業省などの公的機関が公表している生成AIガイドラインを参考にするとよいでしょう。
なお、エムオーテックス株式会社（以下、MOTEX）では、AIサービス業務利用時の注意点・確認事項をわかりやすくまとめた「AIサービス利用ガイドライン」を提供しています。
ぜひダウンロードしてご活用ください。
生成AIの社内利用ルール、どう決める？
【AIサービス利用ガイドライン】を公開！
MOTEXが社内向けに作成したAIサービス利用ガイドラインをダウンロードできます。ChatGPT をはじめ、各種 AI サービスの業務利用ルール策定の参考に活用いただけます。
従業員への情報セキュリティ教育の実施
生成AIを安全に活用するためには、実際に利用する従業員のセキュリティ意識を高めることも欠かせません。
従業員が生成AIのリスクや適切な利用方法を十分に理解していない場合、機密情報を入力してしまったり、不適切な利用によって情報漏洩やセキュリティインシデントにつながったりする恐れがあります。
そのため、生成AIに関する情報セキュリティ教育を定期的に実施し、情報漏洩リスクや適切な利用方法への理解を深めることが重要です。
教育内容は、対象者の知識や利用状況に応じて設計することが推奨されます。
生成AIに不慣れな従業員には、基本的な仕組みや利用時の注意点を中心に教育し、日常的に活用している従業員には、最新の攻撃手法や新しいサービスの特徴、セキュリティリスクなどを共有するとよいでしょう。
また、実際に発生した情報漏洩・セキュリティインシデントを題材にしたケーススタディを取り入れることも有効です。
具体的な事例を通じて、情報漏洩が発生する要因や適切な対応を学ぶことで、リスクを自分ごととして捉えやすくなるでしょう。
安全な生成AI活用を支援する「LANSCOPE エンドポイントマネージャー」
生成AIの利用に関するガイドラインを策定・周知しても、実際に従業員がルールを理解し、適切に運用できていなければ、十分な効果は期待できません。
そのため、企業・組織には、生成AIの利用状況を可視化し、ガイドラインに沿った利用が行われているかを継続的に把握できる環境の整備が求められます。
そこで本記事では、従業員が利用するWebサービスやAIツールの利用状況を可視化できるIT資産管理・MDMツール「LANSCOPE エンドポイントマネージャー クラウド版」を紹介します。
例えば、インストールアプリの一覧を確認する機能や操作ログ取得機能を活用することで、どのアプリやWebサービスを利用しているかを可視化し、社内における生成AIの利用実態を把握することが可能です。
また、ログ検索機能でChatGPTやGeminiのURLを検索キーワードに設定すると、対象の操作ログが表示され、誰がいつ利用したのかを確認できます。
なおChatGPTの場合、書き込み内容（プロンプト）を、管理者側が操作ログとして取得・閲覧することが可能です。※
さらに、特定の生成AIサービスへのアクセスを制限・禁止することも可能です。
指定したWebサイトへのアクセス時には、ポップアップで警告を表示できるため、利用を制限したい生成AIサービスがある場合にも有効です。
他にも、機密情報などの不適切な入力があった場合は、管理者へアラートが通知されるため、早期発見・迅速な対応にもつなげられます。
「LANSCOPE エンドポイントマネージャー クラウド版」の詳細については、ぜひ下記のページをご覧ください。
※エンドポイントマネージャー クラウド版はGoogle Chrome・Microsoft Edge・Firefox、エンドポイントマネージャー オンプレミス版はGoogle Chrome・Microsoft Edge上で「https://chat.openai.com/」「https://chatgpt.com」にアクセスし、書き込んだ内容を取得できます。
※オンプレミス版・クラウド版ともに、Windows PCのみ対応しています。
MOTEXが提供する「AIガイドライン」
MOTEXでは、 Webセキュリティ専門家でEGセキュアソリューションズ取締役CTOの徳丸 浩氏が監修したAIサービス業務利用時の注意点・確認事項をまとめた「AIサービス利用ガイドライン」を提供しています。
ChatGPTをはじめとする生成AIを、企業・組織で安全に業務利用するためには、従業員に対して、生成AIの利用方法やセキュリティリスクを適切に理解させる必要があります。
また生成AIは、「プロンプトインジェクション」をはじめ、従来のサイバー攻撃とは異なるセキュリティリスクも潜んでいるため、生成AIに特化したセキュリティ対策を実施することが重要です。
「AIガイドライン」では、AIサービスを業務で利用する際の注意点・確認事項を、生成AIならではの注意点や事例も交え、専門的な視点で分かりやすくまとめています。
AIサービスの業務利用を検討されている方、社内の指針・ルールの策定や従業員への注意喚起にお悩みのセキュリティ担当の方は、ぜひご活用ください。
生成AIの社内利用ルール、どう決める？
【AIサービス利用ガイドライン】を公開！
MOTEXが社内向けに作成したAIサービス利用ガイドラインをダウンロードできます。ChatGPT をはじめ、各種 AI サービスの業務利用ルール策定の参考に活用いただけます。
まとめ
本記事では、「生成AIの情報漏洩」をテーマに、情報漏洩が起こる仕組みや原因、防ぐための対策について解説しました。
本記事のまとめ
- 生成AIサービスでは、入力した情報がAIモデルの学習に利用される場合があるため、機密情報を入力すると情報漏洩につながる恐れがある
- 生成AIで情報漏洩が発生する主な原因には、「生成AIへの機密情報の入力」「アカウント管理・権限管理の不備」「生成AIツール側の脆弱性や設定不備」「生成AIを狙ったサイバー攻撃」などがある
- 生成AIによる情報漏洩を防ぐには、「生成AIガイドラインの整備・運用」や「従業員へのセキュリティ教育」に加え、「生成AIへの入力内容の監視・制限」などの技術的・組織的な対策を組み合わせて実施することが重要
生成AIサービスへ入力した情報は、サービスによってはAIモデルの学習に利用されたり、一定期間保存されたりする場合があります。
そのため、機密情報や個人情報は入力しないことを基本とすることが重要です。
また、業務で生成AIの利用を認めている場合は、生成AIガイドラインを整備し、入力してはいけない情報や利用ルールを明確に定めることが欠かせません。
公的機関が公表しているガイドラインなどを参考に、自社に適したガイドラインの整備を目指しましょう。
ただし、ガイドラインを策定・周知するだけでは、セキュリティリスクを十分に低減することはできません。
そのため、企業・組織においては、生成AIの利用状況を継続的に把握し、ガイドラインに沿った利用が行われているかを確認できる環境を整備することが重要です。
本記事で紹介した「LANSCOPE エンドポイントマネージャー クラウド版」では、操作ログを活用して生成AIサービスの利用状況を可視化できるほか、必要に応じて利用を制限・禁止することも可能です。
生成AIの情報漏洩対策を強化したい企業・組織の方は、ぜひ「LANSCOPE エンドポイントマネージャー クラウド版」の導入をご検討ください。
【AIサービスガイドライン付き】
生成AI活用におけるセキュリティリスクとは？
生成AI利用におけるリスクやインシデントと、Webセキュリティの専門家である徳丸浩氏 監修によるAIサービスの利用ルールや注意点をまとめたガイドラインをご紹介します。
おすすめ記事
