昨今、生成AIは急速に成長・普及し、サイバー攻撃に悪用される事例も報告されるようになりました。

たとえば、AIが作成した自然な文面を利用したフィッシングメールなどが報告されています。

本記事では、サイバー攻撃にAIが悪用された場合のリスクや悪用された例、また、反対に防御にAIを活用する方法を解説します。

「AIが悪用された場合、どのような危険性があるのか」を理解し、今後の対策に役立てたい方はぜひご一読ください。

また、本記事では、AIを悪用したサイバー攻撃への対策に有効な「LANSCOPE サイバープロテクション」についても紹介します。

3分で分かる！
LANSCOPE サイバープロテクション

2種類の次世代AIアンチウイルスを提供する「LANSCOPE サイバープロテクション」について、ラインナップと特長を紹介します。

資料をダウンロードする

セキュリティ強化を目指す企業・組織の方は、ぜひご確認ください。

サイバー攻撃にAIが悪用された場合のリスク

AIは私たちの暮らしやビジネスを便利にする一方で、悪意ある目的で利用された場合は、さまざまなリスクをもたらす危険性もあります。

とくに懸念されているのが、AIを悪用することで、専門知識がない人でも時間や手間をかけずにサイバー攻撃を実行できてしまうことです。

たとえば、多くの生成AIは、「マルウェアの作成方法を教えて」や「フィッシングメールの文面を作って」といった不正目的の質問には回答しない設計となっています。

これは倫理的ガイドラインに基づく保護措置です。

しかし、質問の仕方を工夫すれば、不正なコードや詐欺メールの文面例が出力されてしまうケースも報告されています。

さらに問題なのは、「WormGPT」といったそもそも倫理的な制限が設けられていないAIツールの存在です。

効率的なサイバー攻撃を支援するために設計されたAIツールが登場することで、サイバー攻撃の実行ハードルが下がり、今後ますますサイバー攻撃が増加する危険性があります。
そのため、個人・企業ともにAI由来の脅威に備えるセキュリティ対策が求められています。

サイバー攻撃におけるAIの悪用例

サイバー攻撃においてAIがどのように悪用されるのか、一部実例も用いて解説します。

詐欺メールの文面作成

詐欺メールの文面作成にAIを悪用するケースがあります。

海外の攻撃者が日本語で詐欺メールを作成する場合、以前までは自動翻訳ツールなどを使用していたため、不自然な日本語になっているケースが多く、だまされるユーザーは限定的でした。
しかし、生成AIを活用することで、自然で違和感のない文面が作成できるようになっています。

さらに、「大手銀行のカスタマーサポート風に」「社内通達メールとして」「役員から部下に送るメール形式で」などとプロンプト（指示）を与えるだけで、ターゲットにあわせた、より巧妙な文面を作成することも可能です。

自然な文面が送られるようになると、偽の送金指示を信じて会社の資金を振り込んでしまったり、偽のWebサイトにIDやパスワードを入力して情報を抜き取られたりといった被害の増加が懸念されます。

マルウェアや不正なスクリプトの作成

生成AIは、マルウェアや不正なスクリプトの作成に悪用される危険性もあります。
実際、日本国内でも生成AIを用いて作成したプログラムが犯罪に利用された事例が報告されています。

この事例では、生成AIを利用して作成したプログラムで携帯電話会社の通信回線の契約を自動的に繰り返し、不正に回線を契約、そしてその回線を転売したことにより、およそ750万円相当の暗号資産を得ていました。

また、サイバー攻撃には使用されなかったものの、「非公式版のChatGPT」を利用してランサムウェアのソースコードを作成した男が逮捕される事例も報告されています。

ディープフェイクによるなりすまし

ディープフェイクとは、AIを使って、人物の顔や声を合成し、本物そっくりの偽映像や音声を作成する技術のことです。

本来は、映像制作の効率化などを目的に使用されるものですが、特別な技術を持たない人でも高精度な映像・音声の生成が可能になることから、サイバー攻撃に悪用される事例が増えています。

たとえば海外では、ディープフェイクによる偽の音声を使って企業のCEOになりすまし、送金を指示して約22万ユーロ（約2,600万円）をだまし取るという事件が発生しました。

電話を受けた部下によれば、「声の調子がCEOのものだった」としており、偽音声の精巧さを物語っています。

メディア露出が多い人の場合、音声データを収集しやすく、サイバー攻撃に悪用されるリスクも高まるでしょう。

AIを狙ったサイバー攻撃とは

生成AIの普及により、AI自体を標的とした「プロンプトインジェクション」と呼ばれるサイバー攻撃も登場しています。

プロンプトインジェクションとは、不正なプロンプト（AIに与える指示）を用いて、AIに本来意図されていない動作をさせる攻撃手法です。

これにより、以下のような被害が生じる可能性があります。

プロンプトインジェクションは、LLM（大規模言語モデル）が「システムプロンプト（開発者からの指示）とユーザーからの入力を明確に区別できない」という、設計上の脆弱性を悪用しておこなわれます。

攻撃者は、下記のようにAIが事前に設定されたルール（システムプロンプト）を無視し、不正な指示を実行するよう誘導するのです。

プロンプトインジェクションの仕組みについてより詳しく知りたい方は、下記の記事をあわせてご確認ください。

防御のAI活用とは

AIの悪用によってサイバー攻撃が高度化・増加する中、防御側もAIを活用し、セキュリティ対策を強化することが求められています。

たとえば、従来のアンチウイルスソフトは既知のウイルス定義に基づいて検出をおこなうため、新種や亜種のウイルスを検知することができませんが、AIを活用することで、未知のマルウェアやゼロデイ攻撃であっても、高い精度で検知・対応することが可能になります。

また、AIを搭載したセキュリティソリューションは、大量のログデータや通信パターンをリアルタイムで分析し、異常をいち早く検知することが可能です。

これにより、セキュリティ担当者がすべてのアラートを手動で確認する必要がなくなり、本来注力すべき業務に人的リソースを割くことができるようになります。

攻撃側にAIが使われる時代だからこそ、防御側もAIを効果的に取り入れ、脅威に先回りして備えることが重要です。

AIを使った次世代型アンチウイルス製品「LANSCOPE サイバープロテクション」

前述した通り、AIは年々進化しており、サイバー攻撃に悪用されるケースも報告されています。
たとえば、マルウェアは毎日100万個作られていると言われており、その寿命はたった58秒、2度発見されることはほぼないとされています。

つまり、従来のパターンマッチング方式では、未知・亜種のマルウェアを防ぐことは難しく、AIを悪用したサイバー攻撃に対策するには、防御側もAIを活用していく必要があります。

「LANSCOPE サイバープロテクション」では、未知のマルウェアを検知・ブロックする、2種類のAIアンチウイルスを提供しています。

AIアンチウイルスを活用することで、攻撃者が作成したばかりの、まだ使われていないマルウェアであっても、ファイルの特徴から判定し、99%の高い検知率※で企業をセキュリティリスクから守ることができます。

2種類のアンチウイルスソリューションについて、詳しく解説します。
※Aurora Protect：2024年5月Tolly社のテスト結果より
※Deep Instinct：Unit221B社調べ

専門家が24時間365日監視するMDR「Aurora Managed Endpoint Defense」

「LANSCOPE サイバープロテクション」では、EDRのマネージドサービス「Aurora Managed Endpoint Defense」を提供しています。

「Aurora Managed Endpoint Defense 」は、アンチウイルスとEDRを併用し、エンドポイントを内外から保護するセキュリティソリューションです。

高度なエンドポイントセキュリティ製品を導入しても、適切に運用できなければ意味がありません。

「Aurora Managed Endpoint Defense」は、下記の2種類のセキュリティソリューションの運用を、お客様の代わりにセキュリティのスペシャリストが実施するMDRサービスです。 

セキュリティのスペシャリストが徹底したアラート管理をおこなうため、お客様にとって本当に必要なアラートのみを厳選して通知することが可能になり、不要なアラートに対応する必要がなくなります。

また、緊急時にはお客様の代わりにサイバー攻撃へ即時で対応するため、業務負荷を減らし、安心して本来の仕事へ集中していただけます。

「Aurora Managed Endpoint Defense」についてより詳しく知りたい方は、下記のページをご確認ください。

各種ファイル・デバイスに対策できるNGAV「Deep Instinct」

「LANSCOPE サイバープロテクション」では、 AI（ディープラーニング）を活用した次世代ウイルス対策ソフト「Deep Instinct」を提供しています。

下記のようなセキュリティ課題をお持ちの企業・組織の方は、 検知率99％以上のアンチウイルス製品「Deep Instinct」の利用がおすすめです。※

• 未知のマルウェアも検知したい
• 実行ファイル以外のファイル形式（Excel、PDF、zipなど）にも対応できる製品が必要
• 手頃な価格で高性能なアンチウイルスを導入したい

近年の攻撃者は、セキュリティ製品から検知を逃れるため、実行ファイルだけでなくExcelやPDF・zipなど、多様な形式のマルウェアを仕掛けてきます。

「Deep Instinct」は、形式を問わずにさまざまなファイルに対応しているため、多様な形式のマルウェアを検知可能なセキュリティソリューションです。

また「Deep Instinct」は、手ごろな価格設定も魅力です。詳細は以下よりご覧ください。
※Unit221B社調べ

「LANSCOPE サイバープロテクション」の2種類のアンチウイルス

「LANSCOPE サイバープロテクション」では、前述した2種類のアンチウイルスを提供しています。

ぜひ自社に要件に合ったアンチウイルスを活用し、セキュリティ強化を目指してください。

「LANSCOPE サイバープロテクション」についてわかりやすくまとめた資料もご用意しています。

ぜひダウンロードして、導入をご検討ください。

まとめ

本記事では「AIとサイバー攻撃」をテーマに、サイバー攻撃にAIが悪用された場合のリスクや悪用例、AIを活用したサイバー攻撃の防御方法などを解説しました。

AIによって簡単にマルウェアや詐欺メールの文面の作成ができてしまうと、サイバー攻撃の増加・高度化が懸念されます。

時代にあわせてサイバー攻撃の手法も進化するため、守る側もAIを取り入れながら最新の攻撃手法に対抗できる体制を整えていきましょう。

本記事で紹介した「LANSCOPE サイバープロテクション」のアンチウイルスは、99%の高い検知率※で企業をセキュリティリスクから守ります。

お客様の用途に応じて適切なソリューションを選択することができるため、ぜひ、高度化・巧妙化が見られるサイバー攻撃への対策として、導入をご検討ください。

3分で分かる！
LANSCOPE サイバープロテクション

2種類の次世代AIアンチウイルスを提供する「LANSCOPE サイバープロテクション」について、ラインナップと特長を紹介します。

資料をダウンロードする