生成AI活用のセキュリティガイドライン：最低限守るべき項目

生成AIの業務活用は生産性向上に有効ですが、情報管理リスクを伴います。私がこれまで支援してきた企業でも、「ChatGPTに顧客情報を入力していた」「契約書のドラフトをそのまま貼り付けていた」など、リスク認識の甘さが散見されました。

特に、入力データの取り扱いが曖昧なまま利用を拡大すると、機密情報漏洩や誤情報配信など重大な問題につながります。安全に使うためには、技術設定より先に運用ルールを明確化することが必要です。生成AI導入チェックリストと併せて、準備段階からセキュリティ要件を組み込むことが重要です。本記事では、中小企業が最低限整備すべきセキュリティガイドラインを、実例とともに解説します。

生成AI利用で発生しうるセキュリティリスク

まず、どのようなリスクがあるかを具体的に把握します。

1. 機密情報の意図しない外部流出

• 学習データへの取り込み: 無料版や設定不備のツールでは、入力内容が学習データとして使われる可能性があります。
• プロンプト履歴の漏洩: 共有アカウントを使うと、他の利用者が過去のプロンプト履歴を閲覧できる場合があります。
• クリップボード経由の情報漏洩: コピー&ペースト操作で、意図せず機密情報を含むテキストを入力してしまう。

2. 誤情報・不正確な出力による業務リスク

• ハルシネーション（虚偽情報生成）: もっともらしい嘘の情報を生成し、それを事実として扱ってしまう。
• 法令・規則の誤認識: 最新の法改正情報が反映されておらず、古い情報で判断してしまう。
• 文脈の誤解釈: 曖昧な指示に対して、意図と異なる出力を生成する。

3. アクセス権限の不備

• 共有アカウントの乱用: 誰が何を入力したか追跡できず、責任所在が不明確。
• 退職者のアクセス残存: 異動・退職後もアカウントが削除されず、アクセス可能な状態が続く。
• 権限過多: 全員に管理者権限を付与し、設定変更や履歴削除が無制限にできる状態。

4. 監査・ガバナンスの欠如

• 利用ログが残らない: 誰がいつ何を入力したか記録がなく、問題発生時に追跡できない。
• 利用実態の把握不足: どの部門がどの用途で使っているか把握できず、リスク評価ができない。
• インシデント発生時の対応手順未整備: 情報漏洩や誤情報配信が起きた時の初動対応が定まっていない。

実際に起きたインシデント事例

ここでは、私が支援先で遭遇した、または耳にした実際のインシデント事例を紹介します（社名・詳細は匿名化）。

事例1: 顧客情報を含むメール文案の流出

企業プロフィール: IT企業60名、営業部門でChatGPT無料版を使用

インシデント内容:

• 営業担当者が、顧客名・案件名・金額を含むメール文案をChatGPTに入力
• 無料版は学習データとして利用される設定だったため、理論上は他ユーザーの回答に影響する可能性があった
• 他社の営業担当が類似のプロンプトで同じ顧客名が出力される事象が発生（未確認だが社内で懸念が拡大）

発覚経緯: 社内情報セキュリティ部門が利用状況調査を実施し、プロンプト履歴を確認

影響:

• 該当顧客への報告と謝罪（実害なしだが、信頼低下）
• 全社員への緊急研修実施
• 無料版の利用禁止、有料版（学習利用オフ設定）への切り替え

損害額: 約50万円（顧客対応工数、研修費、ツール切替費）

事例2: 契約書ドラフトの誤情報による法的リスク

企業プロフィール: 製造業80名、法務担当がAIで契約書レビュー補助

インシデント内容:

• 法務担当者が、取引基本契約書のレビューをAIに依頼
• AIが「この条項は民法改正後は無効」と誤った解釈を出力
• 担当者がそれを鵜呑みにし、重要条項を削除した契約書を取引先に提示
• 取引先の法務から指摘を受け、社内の法的知識不足を露呈

発覚経緯: 取引先からの指摘

影響:

• 契約交渉の遅延（2週間）
• 社内での信頼低下、法務プロセスの見直し
• 外部弁護士への確認費用増加

損害額: 約30万円（弁護士相談費、契約遅延による機会損失）

事例3: 共有アカウントによる履歴漏洩

企業プロフィール: 小売業40名、マーケティング部門で共有アカウント使用

インシデント内容:

• マーケティング部の共有アカウントで生成AIを使用
• 担当者Aが競合他社の分析結果を入力し、戦略案を生成
• 後日、別の担当者Bが履歴を閲覧し、未公開の戦略情報を知ってしまう
• Bが異動後、他部門でその情報を言及し、情報管理の問題が発覚

発覚経緯: 部門横断会議での発言内容から情報源を追跡

影響:

• 社内の情報管理体制への不信感
• 共有アカウントの即時廃止、個人アカウント化
• 全社的なアクセス管理ルールの再整備

損害額: 約20万円（アカウント再設定、管理工数）

事例4: 退職者アカウントの放置

企業プロフィール: サービス業50名、管理部門でAIツール使用

インシデント内容:

• 退職した従業員のアカウントが削除されず、3か月間アクセス可能な状態が継続
• 退職者が個人的な調べ物で過去のアカウントにログインし、現在の社内プロジェクト情報にアクセス
• 退職者が同業他社に転職していたため、情報漏洩リスクが顕在化

発覚経緯: アクセスログの定期監査で不自然なログイン履歴を発見

影響:

• 退職者への連絡と状況確認（幸い情報利用はなし）
• 全ての退職者アカウントの棚卸しと削除
• 退職時のアカウント削除フローを明文化

損害額: 約15万円（監査・対応工数、フロー整備費）

まず定義すべき基本ルール

導入初期に必ず決めるべき項目は以下です。

1. 入力禁止情報の明確化

具体的に「何が禁止か」を例示することで、現場判断のばらつきを減らします。

入力禁止情報（例）:

• 氏名、住所、電話番号、メールアドレスなどの個人情報
• 顧客企業名、案件名、契約金額などの取引情報
• 製品の設計図、ソースコード、技術仕様などの知的財産
• 未公開の経営計画、人事情報、M&A検討情報
• パスワード、APIキー、アクセストークンなどの認証情報

入力可能情報（例）:

• 一般的な業務知識の質問（「請求書の記載事項は？」）
• 公開情報のみを含む文書作成（プレスリリースの下書き等）
• 匿名化・加工済みのサンプルデータ

2. 出力結果の分類と承認フロー

AIの出力をそのまま使ってよい範囲と、必ず人手確認が必要な範囲を定義します。

用途	例	承認要否	承認者
社内限定・参考情報	会議のアジェンダ案	不要	-
社内公式文書	社内規程の改定案	必要	上長
対外共有・公開前	プレスリリース、提案書	必要	管理職 + 法務（必要時）
法的拘束力のある文書	契約書、利用規約	必要	法務 or 外部弁護士

3. 利用可能なツール・アカウント種別

どのツールを、どの設定で使うかを統一します。

推奨設定:

• 無料版の利用禁止（学習データ利用オフにできる有料版のみ）
• 企業向けプラン（SSO対応、ログ保存、管理者権限あり）
• 個人アカウント禁止、会社管理のアカウントのみ使用

4. データ保存先と保持期間

プロンプト履歴やAI生成物をどこに保存し、いつまで保持するかを決めます。

例:

• プロンプト履歴: ツール内に90日間保存、それ以降は自動削除
• AI生成物（最終版）: 社内ドキュメント管理システムに保存、保管期限は文書種別による
• 個人のローカル保存禁止（情報漏洩リスク）

5. インシデント発生時の報告経路

問題が起きた時の初動対応を明確にします。

報告フロー:

1. 利用者が異常を発見 → 即座に上長へ報告
2. 上長が情報システム部門へ連絡
3. 情報システム部門が影響範囲を調査
4. 必要に応じて経営層・法務・顧客へ報告

報告すべき事象:

• 機密情報を誤って入力した
• AI出力に重大な誤りがあり、それを基に業務判断した
• 他ユーザーの履歴が閲覧できる状態になっている
• 不正アクセスの疑いがある

データ分類マトリクス

情報の機密度と入力可否を一覧化すると、現場での判断がしやすくなります。

データ分類	定義	入力可否	条件
公開情報	自社Webサイト、プレスリリース等	○ 可	そのまま入力可
社内限定情報	社内報、一般的な業務手順	△ 条件付	個人・企業名を削除すれば可
部門限定情報	部門の戦略、未公開プロジェクト	△ 条件付	匿名化・要約化すれば可
機密情報	顧客情報、契約書、財務情報	× 不可	入力禁止
極秘情報	M&A、人事評価、未発表製品	× 不可	入力禁止

運用のコツ: 迷ったら「機密情報」として扱う

部門別の利用ルール例

部門ごとに業務特性が異なるため、共通ルールに加えて部門別の補足ルールを設定します。

営業部門

主な用途: 提案書作成、メール文案、議事録要約

特有のルール:

• 顧客名・案件名は入力禁止（「A社案件」等の匿名表記に置き換え）
• 金額情報は入力禁止（「大型案件」等の抽象表現に置き換え）
• AI生成した提案書は、必ず上長がレビューしてから顧客へ送付

推奨プロンプト例:

× 悪い例:
「〇〇株式会社向けの△△システム導入提案書を作成してください。予算は500万円です。」

○ 良い例:
「中堅製造業向けの生産管理システム導入提案書の構成案を作成してください。想定規模は中規模です。」

開発部門

主な用途: コード生成・レビュー、技術調査、ドキュメント作成

特有のルール:

• 自社製品のソースコードは入力禁止（アルゴリズムの概念説明は可）
• 顧客固有のカスタマイズコードは入力禁止
• 生成されたコードは必ずレビュー・テスト後に採用

推奨プロンプト例:

× 悪い例:
「この顧客データベースのSQLクエリを最適化してください。[実際のテーブル構造を貼り付け]」

○ 良い例:
「Postgresで1000万件規模のユーザーテーブルからアクティブユーザーを抽出する最適なクエリパターンを教えてください。」

法務・総務部門

主な用途: 契約書レビュー補助、規程作成支援、法令調査

特有のルール:

• 契約書の全文入力は禁止（条項の一般的な解釈確認は可）
• AI出力は必ず外部弁護士または法務担当者が最終確認
• 法令情報は必ず一次情報（e-Gov等）で再確認

推奨プロンプト例:

× 悪い例:
「この秘密保持契約書をレビューしてください。[契約書全文を貼り付け]」

○ 良い例:
「秘密保持契約書の損害賠償条項で一般的に記載される内容を教えてください。」

人事部門

主な用途: 求人票作成、研修資料作成、FAQ作成

特有のルール:

• 個人名・評価情報は入力禁止
• 給与・賞与情報は入力禁止
• 求人票は必ず人事担当者が最終確認（法令遵守チェック）

推奨プロンプト例:

× 悪い例:
「Aさんの人事評価結果をもとに、来期の育成計画を作成してください。」

○ 良い例:
「営業職の中堅社員向けに、マネジメント能力向上を目的とした育成計画のテンプレートを作成してください。」

入力データ管理で押さえるポイント

1. 最小入力の原則を徹底する

必要な要素だけ入力し、不要な文脈を含めないことで漏洩リスクを下げられます。

NG例: 顧客とのメール履歴全文を貼り付けて要約依頼 OK例: 議論のポイントのみを箇条書きで整理して要約依頼

削減効果:

• 入力文字数を50%削減 → 漏洩リスクを50%低減
• 前後の文脈を省くことで、誤情報生成のリスクも低減

2. プロンプトテンプレートを配布する

安全な入力例をテンプレート化すると、個々の判断差を減らせます。詳細はプロンプト設計の基本も参照してください。

テンプレート例（提案書作成）:

【目的】
[業種]の[規模]企業向けに、[ソリューション名]の提案書構成案を作成

【前提条件】
- 課題: [一般的な課題（個社情報は含めない）]
- 期待効果: [一般的な効果]
- 予算感: [レンジ表記。例: 100〜300万円]

【出力形式】
1. 提案書の目次案
2. 各章の記載内容（箇条書き）
3. 想定ページ数

3. 入力前チェックリスト

プロンプトを送信する前に、以下を確認する習慣をつけます。

• 個人名・企業名が含まれていないか
• 金額・数値が具体的すぎないか
• 未公開情報が含まれていないか
• 最小限の情報だけに絞られているか
• このプロンプトが他ユーザーに見られても問題ないか

アクセス管理と権限設計

基本方針

• 業務単位で最小権限を付与する: 全員に管理者権限を与えない。閲覧・利用・管理の3段階で権限を分ける。
• 共有アカウントの利用を避ける: 必ず個人アカウントを使い、誰が何をしたか追跡可能にする。
• 退職・異動時に権限を即時削除する: 退職日当日にアカウント停止。異動時は権限を見直し。
• 管理者権限の付与理由を記録する: 誰が、いつ、なぜ管理者権限を持っているかを台帳管理。

権限レベルの例

権限レベル	付与対象	できること
利用者	全社員	プロンプト入力、出力閲覧、自分の履歴のみ閲覧
部門管理者	部門長	部門内の利用状況確認、ログ閲覧
システム管理者	情報システム部門	全社の利用状況確認、アカウント作成・削除、設定変更

権限棚卸しの頻度

• 退職時: 即時削除
• 異動時: 異動日に権限見直し
• 定期: 四半期ごとに全アカウントの棚卸し

棚卸しチェック項目:

• 退職者のアカウントが残っていないか
• 長期未使用アカウントはないか（3か月ログインなし等）
• 権限過多のアカウントはないか（業務に不要な権限を持っていないか）

ログ運用と監査の実務

記録すべきログ項目

• 利用日時: いつ利用したか（タイムスタンプ）
• 利用者: 誰が利用したか（個人ID）
• 入力内容: 何を入力したか（プロンプト本文）
• 出力内容: 何が出力されたか（AI生成物）
• 利用目的: なぜ使ったか（業務内容の簡易記録）

異常パターンの定義

以下のような利用パターンを異常として検知します。

異常パターン	検知条件	対応
大量出力	1日に50回以上の利用	利用目的を確認
深夜利用	22時〜6時の利用	業務外利用の可能性を調査
長文入力	5000文字以上の入力	機密情報入力の可能性を確認
特定キーワード検知	「顧客名」「契約」「秘密」等	即座に内容確認

監査の実施頻度と方法

月次サンプル監査:

• 全利用ログから無作為に5%抽出
• 入力内容に禁止情報が含まれていないか確認
• 異常パターンに該当する利用がないか確認

四半期全数監査:

• 全ての異常パターンログを精査
• 部門ごとの利用傾向を分析
• 監査結果を経営層へ報告

監査結果の運用ルールへの反映

監査で発見した問題を、ルール改善に活かします。

改善サイクル:

1. 監査で問題事例を発見
2. 問題の原因を分析（ルール不明確、教育不足、ツール設定不備等）
3. ルール・手順・研修内容を改定
4. 改定内容を全社員へ周知
5. 次回監査で改善効果を確認

監査チェックリスト

四半期ごとの監査で確認すべき項目を一覧化します。

アカウント管理

• 退職者のアカウントが削除されているか
• 3か月以上未使用のアカウントはないか
• 共有アカウントが存在しないか
• 管理者権限が過剰に付与されていないか

利用状況

• 異常パターン（大量出力、深夜利用等）の発生件数
• 禁止キーワードを含む入力の有無
• 長文入力（5000文字以上）の内容確認
• 部門別の利用頻度（極端に少ない・多い部門はないか）

セキュリティ設定

• 学習データ利用がオフになっているか
• SSO（シングルサインオン）が有効か
• ログ保存期間が適切に設定されているか（90日以上推奨）
• 二要素認証が有効化されているか

教育・周知

• 全社員が年1回以上のセキュリティ研修を受けているか
• 新入社員にオンボーディング時に教育しているか
• 最新のガイドラインが社内ポータルで閲覧可能か
• 問い合わせ窓口が明示されているか

インシデント対応

• 過去四半期にインシデントが発生していないか
• 発生した場合、報告・対応が適切に行われたか
• 再発防止策が講じられたか
• 類似インシデントの発生はないか

出力品質と安全性を両立する方法

生成AIの出力は、もっともらしい誤情報を含む可能性があります。社外公開資料や顧客向け文書では、必ず人手レビューを通してください。

レビューが必須の文書

• 法的拘束力のある文書: 契約書、利用規約、プライバシーポリシー
• 対外公開文書: プレスリリース、Webサイトコンテンツ、広告文
• 顧客提出文書: 提案書、見積書、報告書
• 社内公式文書: 規程、マニュアル、方針文書

レビューのポイント

• 事実確認が必要な箇所を明示する: 数値、固有名詞、法令引用、引用元情報などは必ず一次情報で確認
• 参照元が不明な情報は再検証する: AIが「一般的には〜」と出力した内容は、信頼できる情報源で裏取り
• 重要文書は二重レビュー体制にする: 作成者以外の第三者が確認（四つ目の原則）

ハルシネーション検出のコツ

以下のような出力は、ハルシネーションの可能性が高いため要注意です。

• 具体的すぎる数値（「調査によると73.4%の企業が〜」等）
• 存在しない文献・URL（「〇〇研究所の2024年レポートによると〜」）
• 曖昧な表現の連続（「一般的には」「多くの場合」の多用）
• 質問に対して過度に詳細な回答（聞いていないことまで答える）

社内定着を進める運用ステップ

ガイドラインを作るだけでは不十分で、現場に定着させる仕組みが必要です。

Phase 1: ガイドライン策定（1か月）

1. 現状調査: 誰が、どの部門で、どのツールを使っているかを把握
2. リスク評価: 業務内容ごとのリスクレベルを評価
3. ルール策定: 本記事で紹介した項目を参考に、自社用のガイドラインを作成
4. 経営層承認: ガイドラインを経営層・法務がレビュー・承認

Phase 2: 初期展開（1か月）

5. 全社説明会: ガイドラインの背景・内容を説明（60分程度）
6. 部門別研修: 部門特有のルール・プロンプト例を共有（30分程度）
7. 質問窓口開設: Slackチャンネルやメールで問い合わせを受付
8. FAQ作成: 初月の問い合わせ内容をもとにFAQを整備

Phase 3: 定着・改善（継続）

9. 週次で問い合わせを収集: よくある質問・迷いやすいポイントを把握
10. 誤入力・誤出力事例をナレッジ化: 実際の失敗例を匿名化して共有
11. 月次で利用状況をレビュー: ログ監査結果を確認、問題があれば個別フォロー
12. 四半期ごとにルールを更新: 新しいツール、新しい用途に対応してガイドライン改定

ルールが現場とかけ離れていると守られません。実際の利用ケースを収集し、運用可能な粒度に継続調整することが重要です。

利用ガイドライン1ページ版（例）

全社員に配布する簡易版ガイドラインの例です。

---

生成AI利用ガイドライン（簡易版）

1. 入力禁止情報

• 個人情報（氏名、住所、電話番号、メール）
• 顧客情報（企業名、案件名、金額）
• 機密情報（未公開情報、契約内容、ソースコード）

2. 利用可能ツール

• 会社支給のアカウントのみ使用（無料版・個人アカウント禁止）

3. 出力の扱い

• 対外文書は必ず上長が確認
• 事実確認が必要な情報は一次情報で裏取り

4. 困った時

• 入力して良いか迷ったら、情報システム部門へ相談（Slack: #ai-support）

5. インシデント報告

• 誤入力・誤出力に気づいたら、即座に上長へ報告

---

コスト試算

セキュリティ対策の導入コストを試算します（80名規模の企業想定）。投資対効果の詳細な計算方法は業務自動化のROI計算も参照してください。また、生成AIコスト管理でランニングコストの最適化手法も確認できます。

初期費用

項目	内容	金額
ガイドライン策定	調査・策定・承認（外部コンサル支援）	30万円
全社説明会・研修	資料作成、実施工数	15万円
ツール切替	無料版 → 有料版、アカウント設定	10万円
合計		55万円

年間運用費

項目	内容	金額
ツール利用料増分	有料版への切替による増額	月3万円 × 12 = 36万円
監査工数	月次サンプル監査、四半期全数監査	月5時間 × 3,000円 × 12 = 18万円
教育・問い合わせ対応	新入社員研修、日常の質問対応	月3時間 × 3,000円 × 12 = 11万円
合計		65万円

リスク回避効果（推定）

リスク	発生確率	損害額	期待損失
情報漏洩インシデント	20% → 2%	500万円	90万円削減
誤情報による業務ミス	30% → 5%	50万円	12.5万円削減
法的リスク顕在化	10% → 1%	200万円	18万円削減
合計期待損失削減			120.5万円

ROI

年間効果: 120.5万円
年間コスト: 初期55万円 + 運用65万円 = 120万円
ROI: (120.5万円 - 120万円) / 120万円 × 100 = 0.4%

初年度はほぼ収支トントンですが、2年目以降は初期費用が不要なため、ROIは大幅に向上します。

2年目ROI: (120.5万円 - 65万円) / 65万円 × 100 = 85%

また、情報漏洩による信頼失墜、取引停止などの重大リスクを回避できる保険的効果 を考慮すると、投資価値は十分にあります。

まとめ

生成AIのセキュリティは、技術対策だけでなく運用設計が中核です。入力管理、権限統制、ログ監査、品質レビューの4点を最初に整えれば、安全性と生産性を両立しながら利用範囲を拡大できます。

中小企業が最低限実施すべき対策をまとめます。

1. ガイドライン策定: 入力禁止情報、出力の扱い、利用ツールを明文化（1ページ版を全社配布）
2. データ分類: 公開・社内限定・機密・極秘の4段階で情報を分類し、入力可否を定義
3. 部門別ルール: 営業・開発・法務など、部門特有のリスクに応じた補足ルールを設定
4. アクセス管理: 個人アカウント化、退職時の即時削除、四半期ごとの権限棚卸し
5. ログ監査: 月次サンプル監査、四半期全数監査、異常パターンの検知
6. 品質レビュー: 対外文書は必ず人手確認、ハルシネーション検出、二重レビュー体制
7. 継続改善: 問い合わせ収集、事例共有、四半期ごとのガイドライン更新

50〜100名規模の企業であれば、初期費用50〜80万円、年間運用費60〜100万円で実現可能です。情報漏洩リスクを回避しながら、生成AIの生産性向上効果を最大化するために、まずは本記事の内容を参考にガイドライン策定から始めてください。

関連記事

• 生成AI導入のチェックリスト：中小企業向け実践ガイド
• 生成AIコスト管理：予算超過を防ぐ運用設計と最適化手法
• ビジネス向けプロンプト設計の基本と実例集