ChatGPTのセキュリティリスクと注意点｜企業利用で確認すべきこと
ChatGPTの業務利用でまず注意したいのは、入力する情報の範囲、回答の事実確認、アカウントや共有の管理です。「使えば必ず情報漏洩する」わけでも、「APIを使えばリスクがゼロになる」わけでもありません。利用するプラン・機能・外部連携によってデータの取扱いが異なるため、社内ルールと実際の設定を確認してから使います。
ChatGPT利用時に押さえたい主なリスク
個人情報・機密情報の意図しない入力
問い合わせ本文、顧客名、契約書、未公開資料、ソースコードなどを、権限や取扱条件を確かめずに入力すると、社内規程・契約・法令上の問題につながる可能性があります。氏名を削っただけでは、組み合わせから個人や取引先を特定できることもあります。まず必要な部分だけに減らし、利用が認められる情報か確認します。
誤回答と出典の取り違え
ChatGPTは自然な文章で答えても、数字、法令、製品仕様、引用元が正しいとは限りません。最新情報や重要な判断では、示されたリンクを開いて一次資料と照合し、回答をそのまま公開・送信・システムへ登録しない運用が必要です。モデルや検索機能の有無は変わるため、知識期限を特定の年に固定して判断しません。
共有・連携・アカウント管理
会話の共有、ファイル添付、外部サービスとの連携を使う場合、誰が閲覧できるか、どのサービスへデータが渡るかを確認します。会社が承認していない個人アカウントで業務データを扱わないこと、退職・異動時の権限整理や多要素認証を検討することも基本です。外部から渡された文章やWebページの中の指示を、そのまま業務操作として実行しない設計も重要です。
悪用された文章やコードの再利用
AIで作成された文章やコードが正確・安全とは限りません。フィッシングに似た文章、誤った案内、危険なコードが混じっていないか、人が確認します。これはChatGPT特有の脆弱性というより、生成物の用途に応じた確認責任です。
個人向けChatGPT、企業向けワークスペース、APIは分けて確認する
データ取扱いを検討するときは、利用するサービスの種類を混同しないことが大切です。個人向けChatGPTでは、利用中のアカウントに適用されるデータコントロール、共有設定、履歴や一時的な会話の扱いを実際の画面と公式案内で確認します。過去のGoogleフォーム申請だけを現行の唯一の手順として案内することはできません。
OpenAIの企業向け案内では、Business・Enterprise・Eduのワークスペースで扱う業務データは、原則としてモデル学習に利用しないと説明しています。ただし、利用可能な管理機能、保持、外部連携、監査は契約・プラン・設定・機能によって異なります。「学習に使われない」と「誰にも共有されない」「保存されない」は同義ではありません。
OpenAI APIのデータ管理資料では、APIへ送信したデータを明示的な同意なしにモデルの学習・改善へ使わないと説明しています。一方で、不正利用監視のログや機能のための保存には条件があり、保持制御の可否も機能によって異なります。APIだから自動的に情報漏洩が防げる、と判断せず、送信する情報、権限、ログ、保存、連携先を設計します。
企業が利用前に決めておくこと
- 入力してよい情報：公開情報、社内限定情報、個人情報、機密情報を分類し、入力禁止・匿名化・承認が必要な範囲を明文化する。
- 利用する環境：個人アカウントか会社管理のワークスペースか、APIか、連携する外部サービスは何かを把握する。
- アクセスと共有：利用者・管理者の権限、会話やファイルの共有先、退職時の処理を決める。
- 出力の確認：事実・数値・引用・コードを誰が検証し、どの業務には人の最終確認を残すか決める。
- 事故への対応：誤って機密情報を入力・共有した場合の連絡先、記録、アクセス停止、取引先への確認手順を用意する。
最初は公開情報や架空データを使い、実際に行う業務でどこまで役立つかを試すと、必要な管理策を具体化できます。個人情報を扱う業務や顧客対応を自動化する場合は、利用規約だけでなく自社の契約・法務・情報セキュリティ要件にも照らして判断します。
既存システムへ組み込む場合は運用設計も必要
ChatGPTの画面を従業員が使うことと、既存システムからAPIを通じて生成AI機能を呼び出すことは別の設計課題です。後者では、どのデータを送信するか、認証・権限、ログ、誤回答の検証、人による確認、障害時の処理まで考えます。方式や発注前の確認事項はChatGPT・LLMを既存システムに組み込む際の検討事項で整理しています。
安全性は単一の設定だけで決まりません。利用環境の公式仕様を確認し、入力制限と人による検証を業務手順へ組み込むことが、ChatGPTを使う前の基本です。
