現代のテクノロジーとして多くの利益をもたらすChatGPTですが、「機密情報や個人情報が漏洩してしまうかも」と不安に思う方も多いのではないでしょうか。
ChatGPTを使用する際は、大切な情報を守るための対策が重要です。
本記事では、情報漏洩のリスクやその対策などを詳しく紹介します。情報社会においてセキュリティを意識し、リスクを最小限に抑える努力を怠らず、安全にChatGPTを使用しましょう。
また、ChatGPTの詳しい活用法について解説した資料を、以下からダウンロードできます。興味のある方はぜひご覧ください。
サンソウシステムズではChatGPTの導入・開発支援を行っております。
ChatGPTの基礎をわかりやすく解説。また、 ビジネスシーンでの活用方法や事例などを紹介しております。
ChatGPTを活用した業務効率化を検討されている担当者の方はぜひ無料ダウンロードしてください。
ChatGPTとは？
ChatGPTとは、人間と会話しているかのような自然な会話ができる対話型AIです。ChatGPTは文章生成モデルの種類で、このAIモデルは個人ユーザーや企業全般などさまざまな場面で活躍しています。
ChatGPTの概要
ChatGPTは、2022年11月に米国のOpenAIがリリースしたAIチャットサービスです。
リリースからわずか5日間で100万人、2ヶ月間で1億人のユーザーを獲得し、注目を浴びています。ChatGPTはユーザーの質問に対して、高精度な回答を対話形式で返答するのが特徴的です。
ChatGPTの使い方
Web上で公開されている「ChatGPT」は現在無料で誰でも自由に利用が可能です。特に年齢制限はありませんが、今後は勉学や子どもへの影響を考慮して制限が加わる可能性もあります。
また、使用するにはアカウント登録が必須であり、簡単な入力でアカウントの作成が可能です。
OpenAIの公式サイトにアクセスしてアカウントを作成しましょう。有料版「ChatGPT Plus」は、別途申し込みが必要です。
ChatGPTのバージョン
ChatGPT3.5は、メールアドレスを登録するだけで誰でも無料で利用できるサービスです。
2023年2月には、より高度な自然言語能力を持つ「ChatGPT Plus」がリリースされました。ChatGPT Plusは、月額20ドルを支払うと利用できる有料プランです。
GPT-4という進化したモデルを採用しており、さらなる高度な機能が実現されています。
ChatGPTのリスク
ChatGPTは、革新的な自然言語処理技術を駆使して、人間のようなテキスト生成を実現するAIモデルです。その優れた応答能力と利便性は、さまざまな分野で注目を集めています。
しかし、2023年現在この技術の進化と普及に伴い、以下のようなセキュリティ上のリスクが懸念されています。
情報漏洩
2023年3月25日、OpenAIによるミスにより、有料プラン「ChatGPT Plus」の会員の個人情報が漏洩し、問題が発生しました。
漏洩したのは有料会員の約1.2%にあたるユーザーの個人情報で、氏名やメールアドレス、住所、クレジットカード情報の一部などが表示されるバグです。ChatGPTは便利なツールである一方、意図的にセキュリティ問題に巻き込まれる可能性もあります。
ChatGPTはユーザーの対話を積極的に記録・学習しており、個人情報や機密情報が質問に含まれている場合、その重要な情報はデータベースに記録されます。そのため、ユーザーへの返答は、以前に別のユーザーが入力した個人情報や機密情報の一部が誤って利用される可能性も否定できません。
情報の正確性
ChatGPTは2021年9月までの情報を学んでいますが、最新の情報には対応していません。そのため、最新情報をChatGPTに質問すると、過去の情報に基づいて不正確な回答が得られる可能性があります。
また、ChatGPTは回答データを生成する際、インターネット上で取得した情報や過去に学習した内容を利用しています。ChatGPTは誤った回答であっても、まるで正しい答えのように提案するため注意が必要です。
ChatGPTが回答した内容をただ受け入れるのではなく、疑念を持ち、間違っている可能性を考慮しましょう。ChatGPTの回答を使う際には、事前のファクトチェックが重要です。
著作権侵害・プライバシー侵害リスク
ChatGPTやそのほかの大規模言語モデルの構築には、膨大な自然言語データが必要です。その中には「著作物（著作権法2条1項1号）」に該当するものが含まれており、適切に取り扱わなければ著作権の侵害となるリスクが生じます。
OpenAIというChatGPTの運営会社は、ユーザーがChatGPTに入力する情報や生成される出力をサービス向上のために利用すると述べています。加えて、ChatGPTの学習データには個人情報や企業の機密情報が含まれている可能性も指摘されているのが現状です。
その結果、出力される情報がプライバシーや著作権を侵害するなどの可能性を考慮しなければなりません。
ChatGPT自身が攻撃されるおそれもある
ChatGPTは、その高度な技術性から攻撃の対象となる可能性があります。
具体的にはAIの学習モデルに対する攻撃が考えられ、攻撃によって不正確な情報を出力するよう仕向けることも可能です。さらに、悪意を持って入力データを変更し、意図的にコードを実行させる「プロンプトインジェクション攻撃」も急増しています。
このような攻撃を受けた場合、ChatGPTを利用しているシステムやサービスは情報漏洩の原因となり、さらにほかのサイバー攻撃の手段として利用される可能性も否定できません。
サイバー攻撃への悪用
ChatGPTは大規模な言語モデルを活用しており、学習データが特定の情報を含まずとも、さまざまなサイバー攻撃をしてしまう可能性が指摘されています。
具体的には、スピアフィッシング攻撃用のメールスレッドの生成や特定の文体の模倣などの「テキストディープフェイク」という説得力の高い不正確な記事の作成です。
このような背景から、ChatGPTが将来的にサイバー犯罪や攻撃の道具などで利用される危険性があると、警告を発しています。
ChatGPTにおける情報漏洩リスク
ChatGPTはさまざまな利益をもたらしますが、前述した通り、情報漏洩リスクも避けて通れません。
ユーザーの入力情報が未来の回答に影響を及ぼす可能性があります。このリスクを軽減するため、大手企業や金融機関も対策を講じています。まずは、情報漏洩リスクが発生する理由を確認していきましょう。
ChatGPTには、ユーザーからの入力を学習データとして取り込むことがあります。
取り込まれたデータベースは、将来の回答作成に使われる資料として活用されます。もし入力情報に機密情報や個人情報が含まれている場合、それが別の回答として誤って出てきてしまうことに注意が必要です。
この潜在的なリスクを背景に、多くの大手企業や金融機関などがChatGPTの使用に規制を設けました。
情報漏洩リスクを避ける履歴OFF設定とは？
ChatGPTは過去の会話履歴が自動的に保存される仕様でしたが、2023年4月25日からは会話履歴を残さない新たな設定が導入されました。会話履歴を残す機能をオフにすることで、ユーザーとChatGPT間の会話はモデルの学習や向上のために使用されず、履歴サイドバーにも表示されません。
ChatGPTの履歴OFF設定は、情報漏洩リスクを避ける方法の一つと言えるでしょう。
ChatGPTのチャット履歴OFF設定の手順
ChatGPTの情報保護を強化するため、チャット履歴の保存機能をオフにする手順を紹介します。
- ChatGPTの画面左下のアカウント名をクリックし「Settings」を選択
- 「Settings」画面が表示されたら［Data controls］をクリック。
- 「Chat History & Training」のスイッチをオフ
設定以降、新たにする会話は保存されません。過去の履歴が必要になった際は、エクスポート機能を利用して履歴のダウンロードをしましょう。
ChatGPTを安全に使うための対策
ChatGPTの魅力的な能力に引かれますが、その利用には注意が必要です。さまざまな危険性を理解し、安全に使うための対策を考えましょう。
ChatGPTの可能性を最大限に引き出しつつも、リスクを最小限に抑えるための企業がすべき対処法を紹介します。
ChatGPT利用に関するポリシーの策定・公開
現在、ChatGPTを導入している企業の多くは、ChatGPTの使用時に業務利用を制限したり機密情報の入力に対する注意喚起をしたりと、業務利用に関する方針やルールを検討しています。
AIのガイドラインは法的な強制力を持っていませんが、内閣府が提唱している「人間中心のAI社会原則」は、さまざまな留意点や実務的な対応の例を示しています。そのため、AIの開発や利用における重要な参考資料となるでしょう。
機密データ使用を禁止
ChatGPTは、入力された機密情報が不正に流出してしまうリスクがあります。企業の場合、信用の低下や損害が生じるおそれがあり、個人ユーザーもさまざまなリスクにさらされる危険性があるのです。
そこで、情報の漏洩を防ぐためにも、外部に知られる情報の入力は必ず避けるようにしましょう。具体的には、氏名や住所、電話番号などの個人情報に加え、企業の顧客情報などの入力は禁止すべきです。
また、ChatGPTの会話履歴OFF機能を活用し、安全な利用を心がけましょう。
人間によるファクトチェック
さまざまな情報が飛び交う現代において、情報の信憑性を確かめる作業は重要ですが、ChatGPTを利用する際も人間によるファクトチェックは必要不可欠です。
ファクトチェックは事実の確認作業のことを指し、「対象情報の選定」、「証拠の収集と公開」、「情報の正確性の判定」の3つのステップが重要です。
まず、対象となる言説や事柄を正確に理解した上で情報収集にあたり、その情報の真偽を確認するための証拠を収集します。ネット上の情報や書籍などの確認だけでなく、実際に関係者への取材も必要です。最後に、証拠を元にした情報が正確か不正確かを判定します。
以上の点を踏まえ、ChatGPTが生成した情報を鵜呑みにせずファクトチェックをおこない、より安全にChatGPTを使用しましょう。
会話をログで取得
ChatGPTを活用する際、その会話内容をログで取得しておくと後々便利です。
まずは、ChatGPT公式のWebアプリからメール転送を利用します。アカウント情報の隣にある3点リーダーを選択し、メニューから「Settings」をクリックしたら「Data Controls」が表示されるのでクリックします。
次に「Export data」→「Confirm export」の順にクリックすると、会話内容のログを登録したメールアドレスに転送が可能です。
詳細な手順や情報は、ChatGPTの公式サイトを確認しましょう。
セキュリティガイドラインも参考
ChatGPTを使用する際は、特に著作権やプライバシーの侵害リスクに注目することが重要です。そのための有効な手段として、セキュリティガイドラインの活用が考えられます。
ガイドラインには、セキュリティの要求事項が体系的に整理されています。これにより、セキュリティ要求事項の具体的な内容やその重要性、さらに対策の手法などへの深い理解が可能です。
また、効率的なリソース配分により、費用対効果の高いセキュリティ対策を考える参考にできます。ChatGPTの利用を考える企業や個人にとって、セキュリティガイドラインは非常に価値のあるリソースと言えるでしょう。
企業がChatGPTの情報漏洩で講じるべき対策
企業においては、ChatGPTの利用時に慎重な情報の取り扱いが求められます。間違った使い方をすると、重要な機密情報の漏洩につながるため、企業がChatGPTに対して適切な対策をとることが急務となります。
ChatGPTについてのスタンスを定める
企業がChatGPTを導入・活用する際の最初のステップは、ChatGPTに対する明示的なスタンスの決定です。例えば、金融機関のように機密性の高い情報を扱う企業では、業務においてChatGPTの利用を禁止することが考えられます。
一方、ChatGPTを正しく活用すれば、業務効率の向上や新しい価値の提供が期待できるため、完全な禁止ではなく利用の範囲や条件の設定も一つの方法です。
結論、企業はChatGPTの導入・利用にあたって明確なスタンスを定め、従業員への適切な教育とガイドラインの提供が重要です。
社内規程にChatGPTの利用に関する事項を盛り込む
ChatGPTの急速な普及に伴い、企業は社内規程の更新を検討すべきでしょう。
具体的には、ChatGPTを使用する際のガイドラインや機密情報の取り扱いに関する規定など、新たな事項を取り入れる必要が出てきました。ただ、新たな規程の作成や既存の規程を修正する際は、ほかの規定との整合性を重視します。
自社だけで規程の見直しが困難な場合、弁護士などに確認することで、安全にChatGPTを活用していくための方針を確立できるでしょう。
ChatGPTや機密情報漏洩に関する研修の実施
機密情報の漏洩を避けるためには、ChatGPTをテーマにした研修をおこないます。機密情報の取り扱いに関する研修の中で、生成AIとしてChatGPTの適切な利用方法に関するコンテンツを盛り込むのも効果的でしょう。
さらに、研修の質を向上させるためには、講師の選定が重要です。社内にChatGPTの利用や情報管理に詳しいスタッフがいれば、全員を講師にして活用すると良いでしょう。
また、機密情報漏洩のリスクや最新の事例を詳しく知っている外部の専門家を講師に招き、より深い知識を社員全員で共有するのも良いでしょう。
社外との契約書にChatGPTの利用に関する事項を盛り込む
社外との取り引きで、委託先やパートナーシップ先との契約に、ChatGPTの活用に関する条項を盛り込むのも有効な対策の一つです。
具体的には、契約書に「ChatGPTや類似のAIを使用しての独自情報の入力禁止」を盛り込むことや、外部の委託先に「ChatGPTの出力内容の厳密な検証と補正を求める」、「ChatGPTを一切使用しない」といった指示が考えられます。
企業の方針や考え方に応じて、ChatGPTの使用に関するガイドラインの明確な提示が大切です。
弁護士に相談できる体制を整える
ChatGPTの利用が増えていく中、未知の法務リスクも考えられます。
特に、ChatGPTに関する具体的な判例はまだ少ないものの、予期せぬ問題が起こる可能性はゼロではありません。ChatGPTを利用する企業や組織は、インターネット法務に詳しい弁護士との連携を強化し、相談できる体制をしっかりと構築しておくなどの準備が大切です。
ChatGPTでの効率化の鍵はAPI活用
APIは、ソフトウェア間での情報交換やデータ通信を効率化するツールで、ChatGPT APIはOpenAIが開発したChatGPTを活用するための特別版です。以前のChatGPTはブラウザからのみ利用が可能でしたが、APIの導入により多様なソフトウェアとの連携が簡単にできました。
APIの具体的な利用例は、サポートの自動応答やオンラインチャットボットによるコミュニケーション、コンテンツの自動生成が挙げられます。
特に、ChatGPTの言語処理能力をサービスやアプリに組み込めば、文章の生成や要約、翻訳、議事録作成などのタスクを効率的に進められます。
ChatGPTの安全な利用に向けて
ChatGPTは現代のAI技術を活用した強力なツールであり、多くの可能性を提供しますが、情報漏洩のようなリスクも伴います。特に、企業においては利用ガイドラインの作成や情報漏洩への対策などが急務であり、ChatGPTの利点を最大化しながらの潜在的な対策が求められます。
常に最新の情報を把握し、正しい知識と手法でChatGPTを安全に利用しましょう。
弊社サンソウシステムズでは、ChatGPTについてのご質問やご相談を歓迎しています。ChatGPTに関する疑問や不明な点がありましたら、ご遠慮なくお問い合わせください。
また、ChatGPTの活用方法について詳しくまとめた資料を、以下からダウンロードできます。詳しく知りたい方は、ぜひご確認ください。
サンソウシステムズではChatGPTの導入・開発支援を行っております。
ChatGPTの基礎をわかりやすく解説。また、 ビジネスシーンでの活用方法や事例などを紹介しております。
ChatGPTを活用した業務効率化を検討されている担当者の方はぜひ無料ダウンロードしてください。