生成AIと個人情報の関係とは｜押さえるべき2つの論点
生成AIにおける個人情報の論点は、AIを開発する側とAIを業務で使う側の2層に分かれます。日本企業の実務で問われるのは、ほぼ後者です。
論点は「入力する側」と「学習する側」に分かれる
1つ目は、AIベンダーがモデルを学習させる段階の問題です。Web上の情報を大量に収集する過程で、本人の同意なく個人情報が学習データに取り込まれるのではないかという論点で、規制当局が主に注視してきた領域にあたります。
2つ目は、企業が生成AIを業務で使う段階の問題です。顧客リストや問い合わせ履歴、社員の評価情報などをプロンプト（AIへの指示文）に入力する行為が、自社が負っている個人情報保護法上の義務に反しないかという論点です。社内で「生成AIに個人情報を入れてよいか」が議題に上がるとき、実際に問われているのはこちらです。
この2つは規律の主体が違います。前者はAIベンダーの責任、後者は入力する企業自身の責任として問われます。ベンダーが安全性を謳っていても、入力する側の義務が自動的に免除されるわけではありません。
個人情報・個人データ・要配慮個人情報の違い
法令上の要件を読むときは、3つの語を区別する必要があります。混同すると、必要のない場面まで一律に禁止したり、逆に規制が及ぶ場面を見落としたりします。
- 個人情報：氏名や生年月日など、特定の個人を識別できる情報。名刺1枚に書かれた氏名もこれにあたります
- 個人データ：個人情報をデータベース化し、検索できる状態にしたもの。顧客管理システムの一覧や問い合わせログが該当します
- 要配慮個人情報：信仰、病歴、犯罪歴など、差別や偏見につながりうる情報。取得そのものに本人の同意が必要です
生成AIの利用で最も規律が厳しくなるのは、個人データと要配慮個人情報です。顧客リストをそのまま貼り付ける行為は個人データの取り扱いにあたり、健康相談の内容や採用選考のメモには要配慮個人情報が紛れ込みやすくなります。
生成AIで個人情報が漏れる仕組み｜5つのリスク経路
生成AI経由の情報漏洩は、1つの経路で起きるとは限りません。「学習に使われるかどうか」だけを見て安心すると、残る4つの経路が手つかずのまま残ります。
経路1｜プロンプトが学習データになる
入力したテキストがモデルの学習に使われ、将来の応答として第三者に出力される可能性がある経路です。最も広く知られている一方で、2026年時点では法人向けプランの多くが既定で学習利用をオフにしており、契約と設定によって成否が分かれます。
経路2｜学習に使われなくても事業者側に保存される
学習に使われない場合でも、入力データは事業者のサーバーに保存されます。保存期間や人によるレビューの有無は各社で異なり、たとえば Anthropic は商用プランでも、利用者が応答に👍👎のフィードバックを送った場合は関連する会話が最大5年間保存され、モデルの改善に使われる可能性があると説明しています（Anthropic Privacy Center）。学習の可否と保存期間は別の論点として確認する必要があります。
経路3｜AIが誤った個人情報を出力する
生成AIは確率的な相関関係にもとづいて文章を作るため、実在する人物について誤った経歴や属性を出力することがあります。個人情報保護委員会も注意喚起のなかで、応答結果に不正確な内容の個人情報が含まれるリスクを明示しています。これは入力側の対策では防げず、出力を社外に出す前の確認体制で対処する領域です。
関連記事：ハルシネーションとは？意味・原因・対策と生成AIを安全に使うコツ
経路4｜AIの権限が横断的にデータへ届く
AIを社内システムやファイル共有サービスと連携させると、人間よりも速く広範囲に情報を横断できるようになります。プロンプトに何を書いたかとは無関係に、AIに渡した権限の範囲でデータへ到達してしまう経路です。AIエージェント（複数の工程を自動で進めるAI）を業務に組み込む段階では、この経路の比重が上がります。
経路5｜従業員が個人アカウントで持ち出す
会社が契約していないアカウントで、従業員が業務データを入力してしまう経路です。管理部門が把握しないままAIが使われる状態は、シャドーAIと呼ばれます。2023年初頭には複数の大手企業が、社内での外部生成AIサービスの利用を一時的に制限する措置を取ったと報じられました。技術的な制御と判断基準の明文化を、両方そろえないと塞げません。
個人情報保護法は生成AI利用をどう定めているか
法令の条文を読む前に押さえておきたいのは、監督官庁である個人情報保護委員会が「個人情報の入力を禁止していない」という事実です。
個人情報保護委員会が求めているのは「禁止」ではなく「確認」
個人情報保護委員会は2023年6月2日、「生成AIサービスの利用に関する注意喚起等」を公表しました（個人情報保護委員会）。企業向けに示された注意点は2つです。
1つ目は、個人情報を含むプロンプトを入力する場合、特定された利用目的を達成するために必要な範囲内であることを十分に確認することです。2つ目は、本人の同意なく個人データを含むプロンプトを入力し、そのデータが応答結果の出力以外の目的で取り扱われる場合は法に違反する可能性があるため、事業者が機械学習に利用しないこと等を十分に確認することです（個人情報保護委員会 別添1）。
条文の形は「確認義務」であり、「入力禁止」ではありません。学習に利用されないことが契約や設定で確認できていれば、入力そのものが直ちに違法になるわけではないと読めます。
条文で見る規律
生成AIの利用で関係する規律は、大きく4つに整理できます。利用目的の特定（法第17条）、要配慮個人情報の取得制限（法第20条第2項）、第三者提供の制限（法第27条）、外国にある第三者への提供の制限（法第28条）です。
実務上の分岐は、生成AIへの入力を「第三者提供」と「委託」のどちらで構成するかにあります。データ処理契約を結んで委託と位置づけられれば、本人の同意は不要です。海外ベンダーの場合は法第28条の対象ですが、基準適合体制を整えれば同意なしに提供できます。
2026年7月公布の改正法で何が変わるか
「個人情報の保護に関する法律等の一部を改正する法律」は2026年7月10日に成立し、同年7月17日に公布されました（個人情報保護委員会）。施行は原則として公布から2年を超えない範囲内で政令により定められます。
改正の方向は2つに分かれます。1つは利活用の緩和で、統計情報等の作成にのみ利用される場合に、個人データの第三者提供と公開された要配慮個人情報の取得について本人同意を不要とする特例が設けられました（第30条の2、第31条の3）。この「統計情報等の作成」にはAI開発が含まれます。もう1つは制裁の強化で、重大な違反があった場合に、違反行為で得た財産的利益に相当する額の課徴金納付を命じる制度が新設されました（第148条の3から第148条の17、改正法の概要）。
この特例は主にAI開発事業者を想定した規定です。担保として一定事項の公表や提供元と提供先の書面合意が求められ、業務で生成AIに顧客情報を入力する場面はこの枠組みの外にあります。
入力した個人情報を学習させない設定の使い方｜ChatGPT・Gemini・Copilot・Claude
社内で最初に決めるべきは「どのツールのどのプランを使うか」です。同じ名前のサービスでも、契約と設定によって入力データの扱いは変わります。
| ツール | 法人プランの既定 | 消費者向けプランでの設定 | 注意点 |
|---|---|---|---|
| ChatGPT | Business / Enterprise / Edu / API は既定で学習に不使用 | Settings → Data Controls →「Improve the model for everyone」をオフ | フィードバック送信への明示的な同意は例外 |
| Gemini | Workspace 版は許可なくドメイン外の学習に不使用 | 「Gemini アプリ アクティビティ」をオフ | 個人版はオフにしても最長72時間保存される |
| Microsoft 365 Copilot | 職場アカウントでの利用は基盤モデルの学習に不使用 | 個人アカウントは保護の対象外 | 職場アカウントでのサインインが前提 |
| Claude | Team / Enterprise / API は既定で学習に不使用 | 設定でモデル改善への利用をオフ | フィードバック送信時は最大5年保存 |
4つに共通しているのは、法人契約なら既定で学習に使われない一方、フィードバック送信や個人アカウントでの利用が抜け道になる構造です。
ChatGPT｜法人プランは既定でオフ、個人プランは Data Controls
OpenAI は、ChatGPT Business、Enterprise、Healthcare、Edu、for Teachers、および API プラットフォームのビジネスデータについて、ユーザーが明示的にオプトインした場合を除きモデルの学習に使用しないと明記しています（OpenAI、2026年1月8日更新）。例外はフィードバック機能などを通じてデータ共有に同意した場合です。
保持期間も契約で変わります。API では最大30日間保持し、要件を満たせばゼロデータ保持を申請できます。
個人向けプランで学習利用を止めるには、プロフィールアイコンから Settings を開き、Data Controls で「Improve the model for everyone」をオフにします（OpenAI Help Center）。オフにしても会話は履歴に残りますが、学習には使われません。
Gemini｜Workspace 版と個人アプリ版で扱いが違う
Google Workspace の Gemini は、組織のプロンプトや Workspace 上のコンテンツを、許可なくドメイン外で生成AIモデルの学習に使用しないとされています。プロンプトや生成された回答が人によるレビューの対象になることもありません（Google Workspace 生成 AI プライバシー ハブ）。管理者は会話履歴の保持期間やサービスごとの有効・無効を設定できます。
一方、個人アカウントで使う Gemini アプリは既定の挙動が異なります。入力内容はモデルのトレーニングを含む目的で処理され、Google のサービスプロバイダーがチャットの一部をレビューします。
学習利用を止めるには「Gemini アプリ アクティビティ」をオフにします。以降のチャットはモデルの学習にも人によるレビューにも使われなくなりますが、サービス提供や安全性確保のため最長72時間はアカウントに保存され、この期間は設定では消せません（Gemini アプリのプライバシー ハブ）。
Microsoft 365 Copilot｜職場アカウントでの利用が条件
Microsoft 365 Copilot と Copilot Chat の利用は、データ保護補遺と製品条項の対象になります。プロンプトと応答は Exchange のメールや SharePoint のファイルと同じ契約条件で保護され、基盤モデルのトレーニングには使用されません（Microsoft Learn）。
分岐点は、組織のライセンスで職場アカウントとしてサインインしているかどうかです。同じ Copilot でも、個人アカウントでの利用はこのデータ保護の対象外です。
Claude｜商用は既定でオフだがフィードバックが例外
Anthropic は、Claude for Work や Anthropic API などの商用製品について、既定でユーザーの入力と出力をモデル学習に使用しないとしています。例外は経路2で触れたフィードバックです。
組織単位で止める場合は、Team / Enterprise / API のオーナーが Organization settings → Data and Privacy の「Rate chats」でメンバーのフィードバック送信を無効化できます。消費者向けプラン（Free / Pro / Max）は扱いが異なり、2025年9月以降は設定でオフにしない限り学習に利用されます。
全国8,000人調査で、AI活用方法によって生産性向上に約3.8倍の差が生まれることが判明。
個人情報を扱う社内ルールの作り方｜入力の線引きとガイドライン策定の事例
設定を整えても、日々の判断は現場に委ねられます。何を入れてよいかが言語化されていないと、慎重な人は使わなくなり、無頓着な人は入れてしまいます。
GiftX が2026年6月に実施した「ビジネス職生成AI活用実態調査2026」でも、この停滞は数字に表れています。個人が感じる課題の第1位は「どこまでAI活用していいか判断できない」でした。組織側の課題では、制限の強さとルールの不在がほぼ同じ規模で並びます。
| 課題 | 区分 | 該当率 |
|---|---|---|
| どこまでAI活用していいか判断できない | 個人の課題（第1位） | 27.7% |
| セキュリティ制限でツールが使えない | 組織の課題（第3位） | 19.6% |
| 利用ルール・ガイドラインがない | 組織の課題（第4位） | 19.1% |
いずれも複数回答による設問です。ルールがないから判断できない層と、ルールが厳しすぎて使えない層が、同じ規模で並存していることが読み取れます。片方だけを見て制限を強めても、もう片方の停滞は解消しません。詳細な調査データは「ビジネス職生成AI活用実態調査（2026年版）」にてご覧ください。
入れてよい情報・注意が必要な情報・入れてはいけない情報
迷いを減らす最短の方法は、情報を3段階に分けて例示することです。抽象的な基準ではなく、自社で実際に扱う書類名まで落とすと現場が動けるようになります。
- 入力してよい情報：プレスリリース、公開済みの製品資料、報道記事、特許公報など、すでに社外に出ている情報
- 加工すれば入力してよい情報：社内限定の資料や未確定の数値。氏名を伏せる、企業名を「大手小売A社」に置き換えるなどの処理をしたうえで使う
- 入力してはいけない情報：顧客の氏名や連絡先を含むリスト、秘密保持契約の対象となる数値、健康情報や採用選考の評価など要配慮個人情報に該当しうるもの
判断に迷ったときの問いも決めておきます。すでに公開されているか、社内限定か、個人を特定できるか、契約上の守秘義務があるか、外に出た場合に困るか。この5つで整理し、確信が持てないものは加工するか使わない、という順序にしておくと現場の判断がぶれにくくなります。
社内ルールに書いておく項目
ガイドラインを厚くするほど読まれなくなります。まず次の項目を1枚に収め、運用しながら足していく進め方が続きます。
- 使ってよいツールとプランの一覧：会社が契約しているアカウントを明示し、個人アカウントでの業務利用を対象外とする
- 入力してはいけない情報の定義：前項の3段階を、自社で扱う具体的な書類名で例示する
- 設定の必須化：オプトアウト設定を管理者が確認する運用と、確認の頻度を決める
- 出力の確認手順：社外に出す文書は、事実関係と個人名を人が確認してから公開する
- インシデント時の報告先：誤って入力した場合に、誰にいつまでに報告するかを1行で書く
これらは法令が直接求めている事項ではありません。ただし、個人情報保護委員会が求める「機械学習に利用されないことの確認」を組織として担保するには、確認した結果をルールに書き出しておく必要があります。
関連記事：生成AIの社内ガイドラインの作り方5ステップ｜企業事例と項目一覧
ツールを追加するときの共通チェック項目
新しいツールを検討するたびに一から調べ直さずに済むよう、確認する観点も併せて決めておきます。次の6点を一覧にしておけば、どのサービスでもそのまま使えます。
- 学習利用の既定値：利用規約、データ処理契約、プライバシーポリシーのどこに書かれているか
- オプトアウトの操作：管理コンソール上の設定項目名（Data Controls、Rate chats など）
- 保持期間：履歴保持の設定と、オフにした後も残る期間（72時間、30日、最大5年など）
- 人によるレビュー：レビューの有無と、その対象になる条件
- 越境移転：データの保存先リージョンと、基準適合体制の有無
- サインイン状態：職場アカウントか個人アカウントか。同名サービスでも契約が別になります
このうち抜けやすいのは保持期間とサインイン状態です。学習利用の可否だけを確認して終わりにすると、オフにした後も一定期間データが残る点と、個人アカウントでは契約条件が適用されない点が見落とされます。
一律禁止が機能しない理由
「生成AIに機密情報を入れるな」という規則は、単独で見ると筋が通っています。しかし多くの企業は、すでに秘密保持契約の対象となる資料や顧客情報を、外部のクラウドサービス上に保存しています。外部サービスへの送信を一律に禁じる基準を厳密に適用すると、それらもすべて使えなくなります。
問われているのはデータが外に出ることそのものではなく、そのサービスが情報をどう扱うかという契約の中身です。前章で見たとおり、法人プランの多くは既定で学習に使われません。生成AI全体を1つの規則で縛るのではなく、ツール単位でプランと設定を確認し、それぞれに扱いを決めるほうが運用に耐えます。
四半期に一度、社内で使われているAIツールの棚卸しをするだけでも出発点になります。契約の有無、プラン、設定状態を一覧にすれば、抜け道になっている個人アカウント利用も見つかります。
関連記事：ChatGPTのセキュリティ対策｜社内利用を禁止せず安全に使うためのルールと設定
ガイドライン策定を支援した事例
GiftX でも、生成AIの利用ガイドライン策定を支援した事例があります。業務での利用範囲、機密情報の取り扱い、成果物の検収基準を整理し、部門別のユースケースと入力してはいけない例を具体化して、現場が迷わない粒度まで落とし込みました。
従来は委員会形式で論点を洗い出し、他社事例を集めて起草とレビューを繰り返すため、策定に約3か月かかっていました。AIに公開されているガイドラインや社内のユースケースを整理させて草案を生成し、委員会はレビューと意思決定に集中する進め方に変えたところ、約3週間で策定できるようになりました。策定リードタイムは約75%短縮し、現場の利用率も上がっています。
時間がかかっていた工程は、論点の網羅と他社事例の収集でした。ここはAIが得意な領域です。一方で、自社のどの業務までを対象にするか、どの情報を入力禁止にするかという判断は人が担います。工程を分けたことが短縮につながりました。
生成AIを業務に組み込むときに陥りがちな3つの落とし穴
ルールと設定を整えたあと、実際に業務へ組み込む段階でつまずく型は決まっています。
落とし穴1｜いきなり全ての業務・全部門で使わせようとする
全社に一斉展開すると、業務ごとに扱う情報の機微さが違うため、ルールが最も厳しい部門に合わせた運用になります。結果として、安全に使えるはずの業務まで止まります。
落とし穴2｜壮大なAIガバナンス戦略から考えて手が止まる
体系的な統制の枠組みから設計を始めると、検討が数か月に及びます。その間に製品仕様も法令も動くため、完成した時点で前提が変わっていることも起こります。
落とし穴3｜既製品のチャット型AIでは業務フローに組み込めない
汎用のチャット型AIは、都度の相談には向いています。しかし自社の情報や手順を覚えさせて繰り返し同じ品質で実行させる用途では、カスタマイズの余地が足りず、業務フローに組み込めるレベルまで届かないことがあります。
スモールスタートで1業務をAIエージェントに任せる
現実的な進め方は、扱う情報の機微さが低く、手順が定型化されている業務を1つ選び、そこだけを自動化することです。個人情報を含まない業務から始めれば、設定とルールの検証を先に済ませられます。1業務で運用が回ってから、扱う情報の範囲を広げていくほうが確実です。GiftX では、こうしたスモールスタート前提のAIエージェント構築を1業務単位から伴走支援しています。詳細は AIエージェント構築支援サービス をご覧ください。
生成AIと個人情報に関するよくある質問
ChatGPT に個人情報を入力していいですか
法人プランで学習に使われない設定を確認したうえで、当初特定した利用目的の範囲内であれば、入力そのものが直ちに違法になるわけではありません。ただし要配慮個人情報が含まれる場合は取得の段階から同意が必要になるため、扱いを分けて考える必要があります。
無料版と法人プランで何が違いますか
入力データが学習に使われるかどうかの既定値と、契約の有無が違います。法人プランはデータ処理契約の対象となり、保持期間や管理者の権限も設定できます。無料版や個人向けプランは、設定を変更しない限り学習に利用されるものがあります。
オプトアウト設定をすればデータは残りませんか
残ります。学習に使われないことと、保存されないことは別です。Gemini アプリでは設定をオフにしても最長72時間、ChatGPT の API では最大30日間データが保持されます。保持期間は学習利用とは別に確認してください。
社内ガイドラインは何から書けばよいですか
使ってよいツールとプランの一覧から書き始めると、その後の項目が決めやすくなります。会社が契約しているアカウントを明示すれば、個人アカウントでの業務利用を対象外にできます。そのうえで入力してはいけない情報の定義、設定の確認、出力の確認手順、報告先を足していく順序が続きます。
AIが誤った個人情報を出力した場合はどうすべきですか
出力した内容をそのまま社外に出さない運用が前提になります。生成AIは確率的に文章を作るため、実在する人物について誤った情報を出力することがあります。人物や企業に関する記述を含む文書は、公開前に事実関係を人が確認する手順を挟んでください。
まとめ｜生成AIと個人情報は「確認」と「線引き」で扱える
個人情報保護委員会が企業に求めているのは、入力の禁止ではなく、利用目的の範囲内であることと、事業者が機械学習に利用しないことの確認です。2026年7月に公布された改正法はAI開発向けの特例を設けた一方で課徴金制度を導入しており、使いやすくなった分だけ間違えたときの代償は上がりました。
やることは2つに整理できます。1つは、使っているツールのプランと設定を確認し、学習利用と保持期間を把握することです。もう1つは、入れてよい情報とだめな情報を自社の書類名で例示し、社内ルールに書き出すことです。そのうえで、個人情報を含まない業務を1つ選んでAIエージェントに任せるところから始めれば、設定とルールを実地で検証しながら適用範囲を広げていけます。
AI活用の社内展開をご検討の方へ
本記事で紹介したルール整備やAIエージェントの活用に向けて、自社の業務でも具体的に進めたい・相談したいとお考えの方は、ぜひ GiftX AIエージェント構築支援までお問い合わせください。
GiftX AIエージェント構築支援では、貴社の業務に合わせて1業務単位のスモールスタートから本番運用まで、AIエージェント構築をワンストップで支援します。ユースケースの洗い出しから、PoC、本番運用、社内ナレッジ化まで伴走します。
AI活用にご関心のある方は、ぜひ一度ご相談ください。
▶ GiftX AIエージェント構築支援の詳細・お問い合わせはこちら
