【2025年版】生成AIのセキュリティとリスク6つ、それぞれの対策を紹介！
「生成AIは情報漏洩のリスクがあるって聞いたけどホント？活用したいけど不安だな」
「生成AIを使って業務を効率化したいけど、どんなセキュリティ対策をすれば安全？」
近年、業務効率化を目的に生成AIを導入する企業が増えていますが、その際にセキュリティ対策が欠かせません。
使い方によっては情報漏洩や、誤った情報によってトラブルの原因になる可能性があるからです。
この記事では生成AIのセキュリティ対策について紹介します。具体的な事例も紹介するので、安心して生成AIを活用したい人は参考にしてみてください。
企業が生成AIを活用する際のセキュリティリスク
企業は生成AIを活用する際のセキュリティリスクは以下が考えられます。
-
社内情報の漏洩
-
ハルシネーション
-
著作権侵害などの権利侵害
-
プロンプトインジェクション
-
生成AIの過信によるミス
以下で詳細を解説します。
1. 社内情報の漏洩
生成AIに機密情報を入力すると、他の人の回答に使われる可能性があるため、社内情報が漏洩するリスクがあります。生成AIは学習された情報を元に回答を作成するため、入力する情報の取り扱いに注意しなければなりません。
また、チャットボットではユーザーがボットに提供した情報を、不正アクセスにより外部に漏れる原因になることもあります。
生成AIやチャットボットを活用するときはデータの暗号化や、アクセス制限などを行い、情報漏洩のリスクを減らすことが大切です。
2. ハルシネーション
ハルシネーションとは、AIが学習データに存在しない情報をあたかも正しいかのように生成する現象のことです。
学習情報が少なかったり、曖昧なプロンプト入力により、AIが不完全な情報に基づいて回答を作り出してしまいます。ハルシネーションにより誤情報を拡散してしまうと、企業の信用を損ねる原因になりかねません。
AIの出力内容を専門知識を持つ人が確認することや、信頼性の高いデータを入力するなどの対策が必要でしょう。
3. 著作権侵害などの権利侵害
生成AIの回答に他者の作品が使われ、著作権を侵害してしまうケースもあります。生成AIサービスで「商用利用可」とされていても、出力された情報が他の人の権利を侵害していないことを保証しているわけではありません。
AIが生成したものに手を加えたり、自身の作品を大量に学習させたモデルを使うなどの工夫が必要です。
4. プロンプトインジェクション
プロンプトインジェクションとは、「生成AIに誤作動を起こさせるような指示を入れ、出力を禁止している情報を生成させること」です。
攻撃者がシステムの制御を奪ったり、機密情報を盗んだりするリスクがあります。また、犯罪に使用するケースもあるため、企業のイメージを損なうリスクもあるため対策が欠かせません。
対策としては、表示すべきでない情報は学習させないようにしたり、明らかに悪意のある入力をブロックするようにプログラムしておくとよいでしょう。
5. 生成AIの過信によるミス
生成AIは生産性を向上できるツールですが、万能ではないことを理解する必要があります。生成AIは人間の論理感覚や判断能力はないため、提供する情報が必ず信頼できるものとは限りません。
あくまでも補助として活用し、生成された回答は人の目でチェックを行うなど、慎重に活用する姿勢が重要です。
生成AIのセキュリティ不足で起きたトラブル
ここでは生成AIのセキュリティ不足で起きた以下のトラブルについて紹介します。
-
サムスン電子社のChatGPT への情報流出
-
対話型生成 AI のサイバー犯罪への利用
-
OpenAIを著作権侵害で提訴
詳しく見ていきましょう。
サムスン電子社のChatGPT への情報流出
サムスン電子会社のあるエンジニアが社内の気密ソースコードをChatGPTに入力し、情報流出した事例がありました。
設備情報や会議内容がChatGPTを導入してわずか20日の間に漏洩したため、サムスンは緊急措置を行い対策を行っています。このトラブルにより、企業では従業員のChatGPTの使用を制限する動きが増えました。
▼スパイクスタジオ担当者からのコメント
①どんなセキュリティ不足でトラブルが生じたか？
- この事例では従業員のリテラシー不足が原因で、従業員が外部AIツールの使用に伴うリスクを十分に理解していなかったことが原因です。また、明確なガイドラインの欠如も原因であり、機密情報を外部サービスに入力する際、具体的な指針や制限が設けられていなかった可能性があると考えられます。
②トラブルから学ぶセキュリティ管理は？
- 従業員教育の強化が対策となります。外部AIツールの使用に関するリスクと適切な利用方法について、定期的なトレーニングを実施するとよいでしょう。機密情報の取り扱いに関する明確なポリシーを制定し、外部サービスへの入力を制限または禁止する措置などガイドラインの策定も効果的です。加えて、特定の外部サイトやサービスへのアクセスを制限するフィルタリングシステムを導入し、情報漏れのリスクを減らすことができます。
出典サムスン、ChatGPTの社内使用禁止 機密コードの流出受け
対話型生成 AI のサイバー犯罪への利用
生成AIを使用してマルウェア(悪意のあるソフト)を作成し、逮捕された事例もあります。この事件は、生成AIの悪用が新たなサイバー犯罪の手段になりえることを示した一件となりました。
容疑者は特別なITの知識を持っていなかったため、技術に詳しくない人でも悪用できる可能性があることが示されました。
▼スパイクスタジオ担当者からのコメント
①どんなセキュリティ不足が原因でトラブルが生じたか？
- この事例では、AIの悪用可能性への認識不足がトラブルの原因です。AI技術の進歩に伴い、悪用リスクへの対応が追いついていない状況といえるでしょう。また、検出・対策技術の遅れも原因であり、新たなAIを用いたサイバー攻撃手法に対する検出技術や防御策の開発が遅れていることが問題となっています。
②トラブルから学ぶセキュリティ管理
- 対策としては、AI倫理とセキュリティの研究推進が考えられます。AIの悪用を防ぐための倫理的ガイドラインの策定や、セキュリティ対策の研究の強化が必要でしょう。ディープフェイクや、AI生成のフィッシングメッセージを識別する技術の開発と導入を進めるための検出技術の開発も必要です。また、AIを悪用した犯罪に対する法的枠組みの整備と、国際的な情報共有・協力体制の構築など、法的整備と国際協力が重要といえるでしょう。
OpenAIを著作権侵害で提訴
ジョージ・R・R・マーティンやジョン・グリシャムを含む10人以上の作家は、ChatGPTが人気作家の著作物を使用して学習されたとしてOpenAIを提訴しました。
ニューヨークの連邦裁判所に提出された書類によると、許可も対価もなく作家の作品をコピーし、そのコンテンツがChatGPTなどの限度モデルの学習に使用したと主張しています。
OpenAIでは、「私たちは作家協会を含む世界中の多くのクリエイターと、生産的な対話をしている。そうした人たちのAIに関する懸念を理解し、議論しようと協力している」と述べており、今後の動きに注目を集めています。
出典『ゲーム・オブ・スローンズ』原作者らがOpenAIを著作権侵害で提訴
スパイクスタジオ担当者からのコメント
①どんなセキュリティ不足が原因でトラブルが生じたか？
- データ収集時の権利確認の不備が原因と考えられます。学習データとして、使用するコンテンツの著作権やライセンスに関する確認が十分でなかったことが原因でしょう。また、著作権者からの明確な許諾を得ずにデータを使用した可能性があり、適切な使用許諾の欠如が考えられます。
②トラブルから学ぶセキュリティ管理
- 学習データとして、使用するコンテンツの著作権やライセンスを厳密に確認し、データ使用のコンプライアンス強化を行い必要な許諾を取得することが必要。また、データ提供者と正式なライセンス契約を結び、データ使用に関する権利関係を明確するとよいでしょう。著作権侵害のリスクがあるデータを除外し、合法的に使用可能なデータのみを学習に使用する体制を整えデータベースのクリーン化に努めることが大切です。
【企業向け】リスクを減らす生成aiの6つのセキュリティ対策
生成AIを活用するときのセキュリティ対策を紹介します。
-
生成AIを活用するシーンを決める
-
社員の生成AIのリテラシーを底上げする
-
オプトアウト設定をする
-
ハルシネーション対策を行う
-
DLPを意識する
-
セキュリティの高い生成AIを活用する
以下で詳細を解説します。
1. 生成AIを活用するシーンを決める
生成AIは得意不得意な業務があり、全ての業務をこなすことは困難です。
生成AIはコンテンツ生成、テキスト系、データ分析など型に当てはまった業務は得意です。しかし、学習データが不足している分野では、誤った回答を作成してしまう可能性があるため苦手といえるでしょう。
そのため、活用する範囲を人が適切に定めることで、トラブルを最小限に抑えることに繋がりります。
2. 社員の生成AIリテラシーを底上げする
企業が生成AIを安全に活用するには、社員のAIリテラシーの向上が欠かせません。AI技術に関する社内研修や、ツールやマニュアルの作成を行い、社員に生成AIを浸透させるシステムの構築が必要です。
また、社員教育の中に生成AIのリスクについての教育も必要です。生成AIに社内情報を記入しないなど、情報漏洩への対策などのセキュリティ指導も企業のプライバシーの保護に繋がるでしょう。
3. オプトアウト設定をする
オプトアウト設定とはユーザが自ら入力したデータをAIに学習させない機能です。
機密情報に不正アクセスされたり、漏洩リスクを大幅に減らすことができます。特に金融取引やビジネス商品の先行情報などを扱う際に有効といえるでしょう。
しかし、オプトアウト設定で全ての情報漏洩を防ぐことはできないため、その他のセキュリティ対策と併用が必要です。
4. ハルシネーション対策を行う
ハルシネーション対策は、生成AIが指定された情報のみで回答を作成する「グラウディング」がおすすめです。
生成AIの情報源を指定したり、作成された回答を確認したりすることでハルシネーションを対策できるでしょう。
5. DLPを意識する
DLP（データ損失防止）とは、保護すべき機密情報を自動で識別し、検出した際にアラートの通知やブロックを行う仕組みです。
機密情報と思われるデータが移動する前に警告を出したり、動作を制限することで情報漏洩を防ぐことができます。DLPには以下のような種類があるため、場面に合わせて選ぶとよいでしょう。
-
ネットワークDLPメール、webサイトのアップデートなどで情報が移動する前に情報が漏洩しないか確認する
-
ストレージDLPサーバーやストレージなどデータが保管されている場所で不正アクセスなどを防ぐ
-
エンドポイントDLP個々のデバイスでのデータ使用や送信時に漏洩しないか確認する
DLPで大切な企業のデータを守りながら、生成AIを活用する方法も検討してみましょう。
出典生成AIのセキュリティリスクとは？企業が直面する課題と対策
6. セキュリティの高い生成AIを活用する
生成AIの活用は業務効率や生産性向上に大きく貢献しますが、その一方でリスク管理とセキュリティ対策が不可欠です。
安全性を確保しながら生成AIの利点を最大限活かすために、慎重かつ計画的な導入と運用を心がけましょう。
企業で安全に生成AIを活用したい場合、専門家に依頼することをおすすめします。専門家の知識や経験は生成AIのリスク管理を行いつつ、効率の良い企業の発展に貢献するでしょう。
企業での生成AI活用はスパイクスタジオにお任せください
企業での生成AI活用はスパイクスタジオにお任せください。
生成AIを安全に活用するには適切なセキュリティ対策が重要です。セキュリティ対策では専門的な知識や経験が必要であるため、プロの支援が欠かせません。
スパイクスタジオにはAI黎明期から携わっている専門家が在籍しています。企業で安全に生成AIを導入したい場合は、ぜひスパイクスタジオにご相談ください。