生成AIの社員教育が必要な理由｜教育不足が招いた事故6選と対策4ステップ

生成AIの事故は、ツールの不具合よりも、社員の入力ミスや検証不足から起きているケースが多いです。実際に報じられた事例をたどると、原因の多くは「使ってはいけない情報を入力した」「AIの答えを確かめずに外へ出した」という、人の手元の操作に行き着きます。

独立行政法人情報処理推進機構（IPA）が2026年に公表した「情報セキュリティ10大脅威 2026」では、「AIの利用をめぐるサイバーリスク」が初めて3位に入りました。IPAはその背景として、AIに対する不十分な理解に起因する意図しない情報漏えいや権利侵害、AIが生成した結果を十分に検証せず鵜呑みにすることで生じる問題を挙げています。どちらも、ツールの性能ではなく使う人の理解の問題です。

「生成AIの利用に関するガイドラインは配った。でも、社員が実際にどう使っているかは分からない」。生成AIの利用を推進する立場の方から、よく聞く言葉です。ルールを通達しただけでは、使う人が実際にどのような判断をして、実際にどのような行動を起こしているかわかりません。

この記事では、次の3つに答えます。

• 社員教育をしないまま生成AIを使うと、具体的に何が起きるのか
• 実際に起きた事故は、どの段階の判断ミスが原因だったのか
• 明日から始めるとしたら、何から手を付けるのか

スパイクスタジオは、トヨタ自動車様や三井住友DSアセットマネジメント様をはじめとする企業で、生成AIの研修と業務への定着を支援してきました。この記事では、その現場で見てきたことにも触れながら整理します。

目次

• 社員教育をしないまま生成AIを使うと起きる5つのリスク
• 社員教育の不足が原因となったトラブル事例6選
• いま起きている傾向と、数字が示すもの
• 【対策】社員教育で防ぐ4つのステップ
• 生成AIの社員教育をお考えなら スパイクスタジオにご相談ください

社員教育をしないまま生成AIを使うと起きる5つのリスク

生成AIのリスクは漠然と語られがちですが、教育の観点から見ると5つに分かれます。

• ①機密情報を、そのまま入力してしまう
• ②AIの出力を検証せずに、社外へ出してしまう
• ③会社が把握していないAIツールを、個人の判断で使う
• ④AIによる自動実行を過信し、取り返しのつかない操作を任せる
• ⑤AIを使った詐欺の手口を見抜けない

いずれも「ツールを入れたかどうか」ではなく「使う人が正しい使い方を知っているか」で結果が変わります。順に見ていきます。

①機密情報を、そのまま入力してしまう

最も多いのが、社外秘の情報を外部の生成AIサービスに入力してしまうケースです。悪意はなく「早く終わらせたい」「この資料を要約してほしい」という日常の動機から起きます。

個人情報保護委員会は2023年6月2日、生成AIサービスの利用に関する注意喚起を公表しました。個人情報取扱事業者に対し、プロンプトに個人情報を含める場合は利用目的の達成に必要な範囲内かを十分に確認すること、本人の同意なく個人データを含むプロンプトを入力し、応答結果の出力以外の目的で取り扱われる場合は法令違反となる可能性があることを明記しています。つまり、入力そのものが法令上の論点になります。

ここで必要なのは「禁止」の通達ではなく、「何が機密にあたるのか」を自分の業務の言葉で判断できる状態です。契約書、未公開の数字、顧客の氏名。これらが自分の手元のどのファイルに入っているかは、担当者本人にしか分かりません。どの情報が機密情報にあたり、どのように扱うべきか把握する必要があります。

②AIの出力を検証せずに、社外へ出してしまう

生成AIは、事実でない内容を事実のような文体で出力する「ハルシネーション（もっともらしい誤りの生成）」と呼ばれる現象が起こることがあります。

帝国データバンクが2026年3月17日〜31日に全国2万3,349社へ実施した「生成AIに関する企業の動向調査」（有効回答1万312社、回答率44.2%）では、生成AIの活用にあたっての懸念・課題の1位が「情報の正確性」で50.4%でした。回答企業のおよそ半数が、正確性を課題として挙げている計算です。それでも事故が起きるのは、懸念の認識と、日々の業務での確認手順が結びついていないからです。

出力された情報が正しいのか検証することは、人が行う最も大事なことと言っても過言ではありません。誰が、どの段階で、何と突き合わせるのかを手順にしないと、締め切りの前で省略されてしまう可能性があります。ハルシネーションの仕組みと防ぎ方は生成AIのハルシネーションの原因と予防策で詳しく解説しています。

③会社が把握していないツールを、個人の判断で使う

会社が承認していない生成AIを業務で使うことを、シャドーAIと呼びます。

セキュリティ企業のUpGuardが2025年8月に実施した調査（セキュリティ専門職542名、一般従業員1,020名）では、セキュリティリーダーの68%が、会社が許可していないAIツールの利用を自ら認めています。従業員側でも約8割が無許可のツールを使っていました。守る側の人間も実は使っている状態がある、というのがこの調査の要点です。

国内でも同じ傾向が出ています。ヤマネックス株式会社が2026年7月に中国地方5県の中小企業150名へ実施した調査では、生成AIを利用している企業（83社）のうち65.1%で、ルールのない利用が「実際にある」「おそらくあると思う」と回答されました。同じ調査では、外部に求める支援として「従業員向けのAI・IT研修」が24.0%挙がっています。実態の把握と教育が、現場から求められている状態です。

シャドーAIの具体例と管理方法についてはシャドーAIの事例6選にまとめています。

④AIによる自動実行を過信し、取り返しのつかない操作を任せる

文章の作成から、コードの実行やシステムの操作へと、AIに任せる範囲が広がっています。設定によっては、AIエージェントはこのような一連の動きを任せることができます。

ここでのリスクは、出力の誤りではなく、実行された結果が戻せないことです。ファイルの削除、本番環境への変更、外部への送信。人が目視する前に終わっている操作は、間違っていても取り消せません。権限をどこまで渡すか、どの操作を人の確認に残すかは、使う人が判断する場面です。

⑤AIを使った詐欺の手口を見抜けない

攻撃する側も生成AIを使います。日本語の不自然さで見抜けたフィッシングメールは、もう判断材料になりません。音声や映像を合成するディープフェイクも、業務上のやり取りに入り込んでいます。

この領域は、ツールの設定では防ぎきれません。「送金前に別の経路で確認する」といった行動を、全員が知っていることが防御になります。

社員教育の不足が原因となったトラブル事例6選

ここからは、実際に報じられた6件の事例を見ていきます。情報の入力、出力の検証、AIにどこまで任せるかの線引き。いずれも、人の判断が結果を分けた事例です。

①情報漏えいの事例｜サムスン電子、社内のソースコードがChatGPTに入力される

2023年3月、韓国のサムスン電子で、半導体部門の従業員がバグ修正のために社内のソースコードをChatGPTに入力しました。社内会議の録音内容を文字起こしさせた例も報じられています。入力は1件ではなく、20日間のうちに複数件発生しました。

原因は、従業員が外部サービスへの入力を問題だと認識していなかったことです。悪意はなく、業務を早く進めるための行動でした。同社はプロンプトの文字数制限などの緊急措置を取ったのち、生成AIツールの社内利用を禁止しました。報道によれば、同年4月の社内調査では回答者の約65%が生成AIの利用にセキュリティ上のリスクがあると答えています。危険性の認識はありながら、事故は先に起きました。（出典：TechCrunch、2023年5月2日）

②誤情報の事例｜米国の弁護士が実在しない判例6件を裁判所に提出

2023年5月、米ニューヨーク州の連邦裁判所に提出された準備書面に、実在しない判例6件が引用されていました。航空会社Aviancaを相手取る訴訟の書面です。

担当した弁護士は、判例調査にChatGPTを使っていました。報道によれば、この弁護士はChatGPTが誤った回答を生成するとは思っていなかったと説明しています。出力された判例が実在するかを確かめないまま書面は提出され、裁判官が判例の実在を確認できずに発覚しました。2023年6月22日、弁護士らに5,000ドルの制裁金が科されています。（出典：ITmedia NEWS、2023年6月27日）

③検証不足の事例｜AIの出力をそのまま書面に入れ、弁護士が制裁を受ける

同様の事例は、その後も繰り返されています。2026年2月に報じられた米国の事例では、Lexos Media IP社がOverstock.com社を訴えた特許侵害訴訟で、原告側の弁護士がChatGPTの出力をそのまま書面に挿入していました。

カンザス州の連邦地方裁判所は、AIを利用したこと自体は問題視していません。問題としたのは、出力された判例が実在し、主張を裏付けるかを確認しなかった点です。裁判所はこれを連邦民事訴訟規則11条の違反と認定し、制裁を科しました。AIの利用は認める、ただし検証の責任は人が負う、という線引きが示された事例です。（出典：ITmedia AI+、2026年2月9日）

④顧客対応の事例｜Air Canada、チャットボットの誤案内に会社の責任

2022年11月、Air Canadaのウェブサイト上のチャットボットが、忌引き運賃について誤った案内をしました。搭乗後でも割引を申請できるという内容でしたが、実際の規定とは異なっていました。案内を信じて航空券を購入した顧客が、後日返金を拒否されています。

同社は審判手続きのなかで、チャットボットは別の法的主体であり、自社は責任を負わないと主張しました。2024年2月14日、ブリティッシュコロンビア州の民事審判所はこの主張を「remarkable（驚くべき主張）」と退け、同社に約812カナダドルの支払いを命じています。自社サイトに置いた以上、AIの発言も会社の発言として扱われることが示されました。（出典：American Bar Association Business law today、2024年2月29日）

⑤自動化の事例｜変更を止めていたはずの本番データベースをAIが削除

2025年7月、米国のソフトウェア企業SaaStrの創業者ジェイソン・レムキン氏が、AIコーディングツールのReplitを使った開発を試していました。期間中、同氏はコードフリーズ（変更の停止）を宣言していました。

それにもかかわらず、AIエージェントは本番環境のデータベースを削除しました。1,190社を超える企業と、1,200人以上の役員のデータが消失しています。さらにAIは当初「復旧は不可能だ」と報告しましたが、実際には同氏が手動で復旧できました。Replitの最高経営責任者は謝罪し、開発環境と本番環境の分離などの再発防止策を発表しています。この事例は、人の操作ではなくAI側の実行が起点ですが、どこまでの権限をAIに渡すかを決めるのは人の側です。（出典：Fortune、2025年7月23日）

⑥詐欺の事例｜ディープフェイクのビデオ会議で約38億円を送金

香港の多国籍企業で、経理担当者が2億香港ドル（約38億円）を詐欺グループに送金しました。香港警察が2024年2月2日の記者会見で公表した事件です。

担当者は、最初に届いた送金依頼のメッセージを不審に思っていました。しかし、その後に開かれたビデオ会議には、最高財務責任者（CFO）を含む複数の「同僚」が出席していました。全員がディープフェイクで再現された偽物でした。見知った顔が複数いたことで疑いが解け、送金に応じています。香港警察は関連する事件で6人を逮捕したと発表しました。（出典：CNN.co.jp、2024年2月5日）

いま起きている傾向と、数字が示すもの

個別の事故の背景には、共通した傾向があります。公表されている調査から4つに整理します。

傾向	内容	影響・リスク
無許可利用の常態化	セキュリティリーダーの68%、従業員の約8割が会社の許可していないAIを利用（UpGuard、2025年8月、n=542／1,020）	事故が起きても会社が経路を把握できない
検証工程の省略	生成AI活用の懸念1位は「情報の正確性」50.4%（帝国データバンク、2026年3月、有効回答1万312社）	誤情報が社外に出た場合、責任は会社が負う
社員間の格差	活用企業の18.8%が「使いこなせる社員とそうでない社員の格差が拡大した」と回答（同調査）	特定の人に業務が偏り、属人化が進む
脅威としての定着	「AIの利用をめぐるサイバーリスク」が10大脅威の3位に初選出（IPA、2026年1月）	攻撃側の手口が高度化し、従来の見分け方が通用しない

ここで注意したい調査結果があります。前出のUpGuardの調査では、AIの安全な利用に関する教育を受けたと答えた人のほうが、無許可ツールの利用頻度が高いという相関が報告されています。因果関係は示されていませんが、少なくとも「教育を一度実施したこと」が、それだけで無断利用を減らすわけではないと読めます。

教育の中身が「禁止事項の読み上げ」で終わっていれば、使う人は自分の業務での判断基準を持てません。その場合、許可されたツールでできないことがあれば、手元の便利なツールに流れます。

導入率は高いのに、満足している人は3割

自社の調査でも、同じ構造が出ています。スパイクスタジオが2025年8月のDXPO東京'25[夏]の来場者に対面で実施したアンケート（回答者200）では、生成AIの導入率は87.0%、業務効率への寄与を実感している人は91.5%でした。一方で、活用に満足している人は30.5%にとどまっています。（スパイクスタジオ調べ、DXPO東京'25[夏]来場者調査、回答者200）

入れている。効果も感じている。それでも満足はしていない。このレポートでは、満足していると答えた層の特徴として「AIの限界を理解し、自身の業務に即した活用法を身につけている」点を挙げています。差を作っているのは、ツールではなく使い方の理解です。

総務省の令和7年版情報通信白書によれば、日本企業の生成AIの業務利用率は55.2%（2024年度）、活用方針を定めている企業は49.7%でした。方針すら半数という状態で、使う人の教育まで届いている企業はさらに限られます。

【対策】社員教育で防ぐ4つのステップ

事故の起点が人の判断にある以上、対策も人に届く形にする必要があります。順番が大切です。線引きを決める前に研修をしても、受講者は自分の業務に当てはめられません。

1. 入力してよい情報の線引きを決め、具体例で配る

最初に決めるのは、入力を禁止する情報の範囲です。網羅しようとすると終わらないので、まず2つに絞ります。個人情報と、未公開の数字です。

実践ポイント

• 抽象的な分類ではなく、自社で実際に使っている書類の名前で示す（例:「見積書」「人事評価シート」「未発表の決算数値」）
• 禁止だけでなく、入力してよい例も同じ数だけ書く。使ってよい範囲が分かると、無断利用に流れにくくなります
• 判断に迷ったときの相談先を1か所決めておく

利用するサービス側の設定も合わせて確認します。入力した内容が学習に使われるかどうかは、プランと設定で変わります。ChatGPTに学習させない（オプトアウト）設定方法で手順を解説しています。

2. 出力を検証する手順を、業務の中に埋める

「確認しましょう」という呼びかけは、締め切りの前で急いでいる場合は特に、ステップが省略される可能性があります。業務の流れの中に、何をいつ確認するかのステップを確実に入れます。

実践ポイント

• 外に出る文書（顧客への回答、提案書、公開記事）は、AIの出力であることを明示したうえで人がレビューする工程を必ず通す
• 数字・固有名詞・法令・判例は、一次情報に当たって照合する。AI自身に「これは正しいか」と聞いても確認にはなりません
• チェックした人の名前を残す。責任の所在が曖昧だと、全員が「誰かが見ている」と考えます

紹介した米国の事例2件は、いずれもこの工程があれば防げた可能性が高い事例です。AIを使ったこと自体は問題にされていません。

3. 禁止ではなく、使ってよいツールと申請の道を用意する

全面禁止は、シャドーAIを地下に潜らせるだけで、利用そのものは止まりません。UpGuardの調査が示すとおり、守る側の人間も使っています。

実践ポイント

• 会社として使ってよいツールを明示し、業務で必要な機能が足りているかを定期的に見直す
• 新しいツールを使いたいときの申請経路を作り、数日で返事が出る運用にする。返事が遅いと、現場は待たずに使い始めます
• 「申告した人を責めない」ことを先に宣言する。発覚が遅れるほど被害は広がります

4. 役割別に教育を分ける

全社員に同じ研修を一度行う形では、必要な人に必要な内容が届きません。スパイクスタジオでは、使う側・作る側・基盤を支える層の三層に分けて設計しています。

実践ポイント

• 使う側：入力してよい情報の線引きと、出力の検証。自分の業務のプロンプトを実際に書いて、その場で添削を受ける形が定着しやすい
• 作る側：権限の設計と、自動実行をどこで止めるか。Replitの事例のような、戻せない操作の扱いを決める
• 基盤層：ログの取得、利用状況の可視化、ガイドラインの更新
• 詐欺対策は全員に共通で行う。送金や権限変更は、必ず別の経路で確認する手順を全社で共有する

どの層から着手するか、いまの利用実態をどう把握するかは、組織の状況によって変わります。自社に合う教育の進め方を相談する（AI人材育成）から、現状の課題を整理するところからご相談いただけます。

スパイクスタジオの支援事例

トヨタ自動車株式会社様では、社員が生成AIを活用して生産性向上や業務効率化を図るための取り組みとして、プロンプト勉強会とプロンプトソン（プロンプトを作る実践形式のイベント）を実施しました。背景にあったのは、従業員の生成AIリテラシーにばらつきがあり、使い方が分からない、使ったことはあるが業務での活用イメージが湧かない、という状態です。講義だけでなく、自分の業務で手を動かす形にした支援です。

三井住友DSアセットマネジメント株式会社様では、全社基礎研修と、事務部門での伴走型のDX支援研修を実施しました。研修を通じて生成AIへの抵抗感が下がり、現場の課題を自分たちで抽出して解決していく動きにつながっています。詳しい経緯は【前編】三井住友DSアセットマネジメント×スパイクスタジオでインタビュー形式で紹介しています。

生成AIのトラブル事例そのものをもっと見たい方は、生成AIの問題事例13選もあわせてご覧ください。

生成AIの社員教育をお考えなら スパイクスタジオにご相談ください

ここまで見てきたとおり、生成AIの事故は、使う人の判断が分かれる場所で起きています。ツールの導入やルールの通達だけでは、その判断は変わりません。教育を設計しておくことで、事故のリスクを下げられます。

スパイクスタジオの「マルチエージェント時代のAI人材育成」では、次のような支援を行っています。

• 使う側・作る側・基盤層の三層に分けた研修プログラムの設計
• 自社の業務に合わせたプロンプトの実践演習と添削
• 入力の線引き・申請経路・ログ取得を含む、教育と統制をセットにした運用づくり
• 研修後の定着支援（伴走型のDX支援）

「何から始めればよいか分からない」「ガイドラインは作ったが守られているか分からない」という段階でも構いません。導入前の不安や課題を整理するところから一緒に進めます。生成AIの社員教育について相談する（AI人材育成）からお問い合わせください。