生成AIの情報漏えい対策とは？中小企業が業務で安全に使うための進め方

生成AIを業務で使う際の情報漏えい対策は、まず「何を入力してよいか」を決め、利用するサービスの設定を確認することから始められます。高価な仕組みをすぐに導入するよりも、顧客情報や社外秘の資料を安易に入力しない運用を整えることが大切です。

例えば、問い合わせへの返信文を作る場合、顧客の氏名や取引内容をそのまま入力する代わりに、「納期の問い合わせへの丁寧な返信文を作成してください」と依頼できます。このように、必要な情報だけを使えば、業務に役立てながらリスクを抑えられます。

この記事では、生成AIで情報が漏れる主な原因から、中小企業が実践しやすい対策、万一の際の対応までを解説します。

生成AIで情報漏えいが起きるのはなぜ？

生成AIは、入力された文章などをもとに、文章の作成や要約、質問への回答を行う仕組みです。業務では、メールの下書き、議事録の整理、社内文書の作成などに活用できます。

一方で、入力した内容やアップロードしたファイルが、サービスの運営事業者に送信される点には注意が必要です。保存期間や利用目的はサービスや契約、設定によって異なります。入力内容が必ずAIの学習に使われるわけではありませんが、学習に使われない設定でも、運用や安全確認などのために一定期間保存される場合があります。

機密情報をそのまま入力する

最も身近なリスクは、従業員が業務を早く終わらせようとして、顧客名簿や契約書、見積書などをそのまま入力することです。

例えば、議事録の要約を依頼する際に、参加者の氏名や未公開の価格改定案まで入力してしまうケースが考えられます。便利な機能であっても、外部に渡してよい情報かどうかを判断しなければ、情報管理上の問題につながります。

利用設定や共有範囲を誤る

生成AIには、会話履歴を保存したり、回答を他の人と共有したりできるものがあります。共有用のリンクを作った場合、設定によってはリンクを知る人が内容を見られることもあります。

また、会社で利用を認めていない個人向けサービスに、従業員が独自に業務情報を入力することもあります。会社が利用状況を把握できず、退職時のデータ管理も難しくなるため、利用するサービスとアカウントのルールを決めておく必要があります。

不正アクセスやサービス側の不具合が起きる

パスワードの使い回しや偽のログイン画面への入力によって、アカウントが不正に使われる可能性があります。ログインされた場合、保存された会話や連携先の情報が見られるおそれがあります。

サービス側の不具合も、可能性がゼロとはいえません。実際に、2023年にはChatGPTの不具合により、一部の利用者が他の利用者の会話のタイトルなどを見られる状態になったことが公表されました。一部の有料利用者については、支払いに関する情報の一部も表示された可能性があるとされています。

この事例は、どのサービスでも同じ問題が起きるという意味ではありません。ただし、利用者側の入力ミスだけでなく、サービス側の問題もあり得ることを踏まえ、保存される情報を必要最小限にすることが大切です。

中小企業が優先したい情報漏えい対策

対策を一度に完璧にする必要はありません。まずは利用状況を把握し、扱う情報と利用できるサービスを整理しましょう。

1. 入力してはいけない情報を決める

最初に、生成AIへ入力する情報を分類します。例えば、次のような情報は、原則としてそのまま入力しないルールが考えられます。

• 顧客や従業員の氏名、住所、連絡先などの個人情報
• 未公開の売上、仕入価格、見積金額などの経営情報
• 契約書、顧客名簿、取引先から預かった資料
• パスワードや、システムへの接続に使う秘密の情報
• 公表前の商品情報や、社内限定の企画書

実際には、公開済みの会社案内など、入力しても差し支えない情報もあります。何を入力できるかを自社の業務に合わせて整理し、判断に迷ったときの確認先も決めておきましょう。取引先との契約で、外部サービスへの入力が制限されていないかも確認が必要です。

2. 氏名や社名を伏せ、必要な部分だけを使う

資料を要約したい場合は、顧客名を「取引先A」、担当者名を「担当者B」に置き換えるなど、情報を減らしてから入力します。文書全体ではなく、作業に必要な部分だけを抜き出すことも有効です。

ただし、名前を消せば必ず個人を特定できなくなるわけではありません。珍しい役職、取引の経緯、日付などを組み合わせると、相手が推測できる場合があります。伏せた後の文章も、内容から誰のことか分からないか確認しましょう。

3. サービスの契約と設定を確認する

利用を始める前に、料金だけでなく、情報の取り扱いも確認します。特に、次の点は担当者が把握しておきたい項目です。

• 入力内容や出力内容が、AIの学習に使われるか
• データがどのくらい保存され、削除を依頼できるか
• 管理者が利用者や共有範囲を管理できるか
• 不具合や事故が起きた場合の通知方法があるか
• 契約終了後にデータがどう扱われるか

同じサービスでも、個人向けと法人向けで条件が異なる場合があります。画面上の設定だけでなく、契約内容や提供事業者の説明も確認しましょう。

4. アカウントと利用者を管理する

業務では、会社が把握できるアカウントを使い、利用者ごとに必要な範囲の権限を付けることが基本です。複数人で一つのアカウントを使い回すと、誰が何をしたか分かりにくくなります。

パスワードは他のサービスと使い回さず、可能であれば多要素認証を設定します。多要素認証とは、パスワードに加えて、認証アプリなどを使って本人確認する方法です。異動や退職の際には、利用権限を見直す手順も決めておきましょう。

5. 社内の保存場所との連携は慎重に進める

生成AIを社内の文書保管場所やメールと連携すると、必要な情報を探しやすくなることがあります。一方で、連携先の権限設定が広すぎると、本来見せる必要のない文書まで参照されるおそれがあります。

連携前には、対象となる保存場所、閲覧できる人、機密文書の有無を確認します。まずは公開範囲が明確な社内マニュアルなど、限定した資料で試すと進めやすくなります。

アクセス権限の整理や契約条件の確認を自社だけで進めるのが難しい場合は、情報管理に詳しい専門家に相談するのも一つの方法です。

業務に組み込むための進め方

情報漏えい対策は、ルールを作って終わりではありません。実際の業務に合わせて、小さく試しながら見直すことが大切です。

ステップ1：使う業務を一つ選ぶ

まずは、扱う情報の機密性が比較的低く、効果を確かめやすい作業を選びます。例えば、公開済みの商品説明をもとにした案内文の下書きや、一般的な社内研修の構成案づくりです。

一方、顧客名簿の分析や契約書の処理などは、情報の性質や契約条件を十分確認してから検討します。初めから幅広い業務で使うより、対象を絞った方が問題点を把握しやすくなります。

ステップ2：短い利用ルールを共有する

最初から長い規程を作ることより、従業員が日々の作業で判断できることが重要です。例えば、次の項目を一枚程度にまとめ、利用前に共有します。

• 会社が認めたサービスとアカウントを使う
• 顧客情報や未公開情報をそのまま入力しない
• 入力するファイルと共有設定を確認する
• AIの回答は人が確認してから使う
• 誤って入力した場合は、隠さず担当者に連絡する

担当者や連絡方法まで明記すると、迷ったときに相談しやすくなります。部署ごとに扱う情報が違う場合は、具体例を追加しましょう。

ステップ3：試した結果を振り返る

例えば営業部門なら、公開済みの製品情報を使ってメールの下書きを作り、担当者が内容を確認して送る流れを試せます。総務部門なら、個人情報を含まない社内案内の文案づくりから始められます。

振り返りでは、作業が進めやすくなったかだけでなく、「入力前の確認に迷わなかったか」「回答の修正に手間がかからなかったか」も見ます。問題があれば、対象業務やルールを調整します。

見落としやすい注意点

AIの回答をそのまま社外に出さない

生成AIは、もっともらしく見える誤った回答を作ることがあります。情報漏えいを防げていても、誤った納期や製品情報を顧客に伝えれば、別のトラブルにつながりかねません。

メールや案内文は、事実関係、数字、表現を担当者が確認してから使いましょう。特に契約や法律に関わる内容は、元の資料を確認し、必要に応じて専門家に確認することが大切です。

外部の文書に書かれた指示をうのみにしない

生成AIに外部のページや文書を読ませた際、その中に「以前の指示を無視する」など、AIの動きを変えようとする文章が紛れている場合があります。こうした手口は、プロンプトインジェクションと呼ばれます。

外部資料の内容は、業務上の指示そのものではなく、確認対象のデータとして扱うことが基本です。また、AIが勝手にメールを送ったり、社内資料を外部へ渡したりできないよう、連携する機能や権限を必要最小限にしましょう。重要な操作の前には、人が確認する手順を設けます。

学習に使われない設定でも入力内容は確認する

入力内容をAIの学習に使わない設定は、確認したい項目の一つです。ただし、それだけで情報漏えいの可能性がなくなるわけではありません。会話履歴の保存、不正ログイン、共有設定の誤りなど、別の経路もあるためです。

設定を確認したうえで、必要のない機密情報は入力しないという基本を続けましょう。

誤って入力したときの対応

もし顧客情報や社外秘の資料を誤って入力した場合は、従業員個人で判断して終わらせず、速やかに社内の担当者へ報告します。削除できる場合でも、削除だけで保存先や影響をすべて確認できるとは限りません。

対応の流れは、次のとおりです。

1. 利用を止め、状況を記録する：入力した日時、サービス名、アカウント、情報の種類、共有の有無などを整理します。調査に必要な記録は、社内の管理方法に従って安全に保管します。
2. 拡大を防ぐ：必要に応じて共有リンクの停止、アカウントの利用停止、パスワードの変更や連携の解除を行います。
3. 提供事業者に確認する：入力データの削除方法や保存状況、調査の可否を確認します。削除によって何が消えるかも確認しましょう。
4. 影響と報告の要否を判断する：個人情報が含まれる場合は、内容や状況によって、個人情報保護委員会への報告や本人への通知が必要になることがあります。取引先との契約上の連絡義務も確認します。
5. 原因を見直す：操作ミスだけを責めず、ルールが分かりにくくなかったか、確認手順が不足していなかったかを振り返ります。

報告や通知の要否を判断しにくい場合は、状況に応じて法律や情報セキュリティに詳しい専門家へ確認しましょう。平時から担当者と連絡先、初動の手順を決めておくと、落ち着いて対応しやすくなります。

まとめ：入力ルールと利用環境を整え、小さく始める

生成AIの情報漏えい対策では、入力する情報を選び、サービスの契約や設定、アカウントの管理方法を確認することが基本です。まずは機密性の低い業務から試し、人が回答を確認する流れを作りましょう。

社内の文書との連携や、個人情報を扱う業務へ広げる際には、権限や契約条件の確認がより重要になります。自社だけで判断や設定を進めるのが難しい場合は、業務と情報管理の両面について専門家に相談するのも一つの方法です。