ChatGPTを安全にビジネス利用するには？ リスクと対策を解説

ChatGPTとは、米国のオープンエーアイ社が2022年11月に公開したチャットボットサービスであり、生成AI（人工知能）の一種です。入力した質問内容を学習し、膨大なテキストデータから適切な文章を組み合わせて回答するため、人間と対話しているかのような自然な問答が可能です。メールアドレスを登録すれば、誰でも無料で利用開始できます。

チャットボット自体はこれまでも様々な形でサービス提供されており、企業や自治体などのWebサイトやアプリで見かけたことがある人も多いでしょう。では、ChatGPTは従来のチャットボットとどう違うのでしょうか。

ChatGPTは、オープンエーアイ社が開発したGPT-3.5やGPT-4といった自然言語処理モデルが搭載されています。自然言語処理とは、人が日常的に使用する言語をAIが処理、分析する技術です。この技術を用いることで、高精度な文章生成と質問内容に応じた柔軟な対話が可能になります。

従来のチャットボットは、元々用意してあるテキストデータの中から、質問文に含まれる特定のキーワードや選択肢にしたがって正しく回答することを目的に作られています。一方ChatGPTは、質問内容を柔軟に理解し、インターネット上の情報をもとに適切な回答を導き出します。そのため、同じ質問をしたとしても、同じ回答になるとは限りません。ユーザーとの会話をもとに、より適切な回答になるようAIが学習していきます。

単純な質疑応答だけでなく、用途に合わせて臨機応変に会話ができることから、個人に限らず様々な企業がこの技術を活用できないか注目しています。

ChatGPTでは、主に以下のようなことができます。

• 質疑応答
• 文書作成
• 言語翻訳
• 要約
• 分析
• 計算
• 情報収集、整理
• 添削
• プログラムコード作成 など

例えば、「卵と豚肉を使ったレシピを教えて」といった生活に関する要求から、「このニュース記事を箇条書きで要約して」「このIT用語を小学生でもわかるように解説して」「美と健康がコンセプトである新商品のキャッチコピーを3つ考えて」といった要求にも応えてくれるため、ビジネスに活用することも可能です。

一方で、ChatGPTはインターネット上のデータから回答を生成するため、インターネット上にない専門的な知識などを回答することはできません。一般的な情報は提供してくれますが、例えば「咳が出て頭痛と吐き気がします。この病気が何か教えて」といった医療診断はできません。専門家に相談するように回答されます。

では、現在ChatGPTはどのくらいビジネスで活用されているのでしょうか。帝国データバンク社が2023年に発表した「生成AIの活用に関する企業アンケート」によると、ChatGPTを含む生成AIを「業務で活用している」国内企業は約10％、「業務での活用を検討している」企業は52％でした。
「業務での活用を検討している」企業のなかには、導入したいが活用イメージが涌かないという声が最も多く、その中にはどんなセキュリティリスクがあるのかよく分からないという声も含まれています。また、「業務での活用を検討していない」企業のなかには、情報漏えいのリスクが懸念されており、会社から業務での利用を認められていないといったケースも多いようです。

一方で、ChatGPTの国別アクセス数ランキングでは、日本は米国、インドに次いで3位になっています。職業別で見ると学生21.6％の利用率が最も高く、教職員20.5％、会社役員17.2％、会社員16.7％と続く結果になっています。

つまり日本でのChatGPTは、法人利用はまだまだ少なく、個人利用が中心になっているということになります。ビジネスで使うには活用方法や安全性に不明点が多く、興味はあっても導入まで積極的になれない企業も多いようです。
参考：
「生成AIの活用に関する企業アンケート」株式会社帝国データバンク
「ChatGPTへのアクセス、日本は世界3位 1位と2位は？」ITmedia

ChatGPTをビジネス利用するのであれば、安全性は最も重視しなければならないポイントです。その他にもどんなリスクがあるのかあらかじめ確認しておきましょう。ChatGPTには以下のようなリスクがあるといわれています。

1. セキュリティリスク
2. 倫理的リスク
3. 法的リスク

それぞれ詳しくみていきます。

ChatGPTは、入力したデータをAIが学習、蓄積し、回答の精度を高めていきます。学習した情報を他ユーザーへの回答に利用することもあるため、機密情報や個人情報を入力すると第三者に情報が漏れてしまう可能性があります。実際に、韓国の大手半導体メーカーがChatGPTを利用し、機密性の高い社内情報を入力したところ、設備情報の流出2件、会議内容の流出1件が発覚しました。ビジネス利用するのであれば、機密情報の取り扱いには細心の注意が必要です。

また、ChatGPTなどの生成AIを狙ったプロンプトインジェクション攻撃のリスクもあります。プロンプトインジェクション攻撃は、ChatGPTに入力するデータ（プロンプト）を悪用して、不適切な回答が出力されるようにしたり、開発者が意図しない動作をさせたりするサイバー攻撃の一種です。攻撃を受けることで、機密情報の漏えいや、更なるサイバー攻撃を引き起こすための踏み台にされる恐れがあります。

ChatGPTが回答した情報が必ず正しいとは限りません。事実とは異なる情報を企業としてそのまま拡散してしまうと、企業の社会的信用を低下させることにつながります。
また、生成された文章が差別的、暴力的だったり、偏った意見を含んでいたりと不適切な内容や表現になることもあります。
生成されたコンテンツは、真偽不明な偽情報ではないか、公序良俗に反した表現になっていないかなど、必ず人間の目でファクトチェックをするようにしましょう。

学習データの中には他者の著作物が含まれている可能性があるため注意が必要です。
ChatGPT自体は、利用規約に「アウトプット（生成したコンテンツ）に関するすべての権利、権限、利益を利用者に譲渡します」とあるため、運営元のオープンエーアイ社が生成したコンテンツの著作権を主張することはありません。
一方で、ChatGPTはインターネット上に公開されている膨大な情報をもとに回答結果を導き出します。そして、インターネット上のコンテンツには著作権を含むものがあります。そのため、ChatGPTが生成したテキストが既存の著作物、または著作物と類似していた場合、そのテキストをそのまま商用利用することは、著作権の侵害になる可能性があります。
ビジネスで利用するのであれば、生成されたコンテンツは、必ず類似した著作物がないか確認する必要があることを覚えておきましょう。

ChatGPTを安全にビジネス利用するためには、「機密情報を入力しない」「正しい情報か確認する」「利用ルールを定める」といった対策を知っておく必要があります。ここでは、企業でChatGPTを利用する場合の対策やポイントについて解説します。

一般公開されているWeb版のChatGPTを利用する場合は、前章でも解説したとおり、学習機能により入力した情報が第三者に共有されてしまう可能性があるため、機密情報や個人情報の入力はしない方が安全です。
ChatGPTには、入力したデータを他者に共有させない「オプトアウト申請」という設定が可能です。これをすることにより機密情報を取り扱うことも可能になりますが、一括管理することはできないため、企業の管理者が全従業員の各アカウントからそれぞれ設定を行う必要があります。
また、例えばブラウザの更新で設定が初期化されてしまい、オプトアウト機能が解除されていることに気づかないまま機密情報を入力してしまうといったリスクも考えられます。
企業としては、ガバナンスを保つことができず、セキュリティ事故が起きやすい状況にもあるため、機密情報の取り扱いは初めからしない方が無難でしょう。

ChatGPTは、インターネット上にある情報をもとに回答しているため、もとのデータに誤りがあると、ChatGPTが回答する情報も間違ったものになる場合があります。
また、ChatGPTが参照するデータは、一定期間までの情報に限られます。リアルタイムで自動更新されるわけではないため、時事問題など最新情報は反映されません。最新版のGPT-4でも2023年4月までの情報であり、タイムラグがあることに注意してください。

※2024年1月現在

そのため、生成されたデータが正しい情報か、最新の情報か必ず確認するようにしましょう。

社内でChatGPTを利用する場合、運用ルールを明確にしておきましょう。以下はルールの一例です。

• 機密情報、個人情報を入力しない
• 回答結果は必ず正誤チェックする
• 回答結果を対外的に使用しない

また、会社としてなぜChatGPTを利用するのか、何をする場合にChatGPTを利用してよいのかという必要性や目的を利用者に理解させることも、ルール遵守につながります。これらをガイドラインとしてまとめ、いつでも参照できるよう共有しておくことをおすすめします。東京都デジタルサービス局が公開している文章生成AI利活用ガイドラインなど、他社のガイドラインを参考に作成するとよいでしょう。
一部の部署や役職者のみに利用を制限するなど、使用許可の範囲を明確にしておくことも重要です。

オープンエーアイ社がWeb上で公開しているChatGPTには、無料版と有料版（ChatGPT Plus）があります。いずれも学習機能によって第三者に情報が共有されるリスクがあるため、機密情報の取り扱いをしたい場合は、Enterprise版やAzure OpenAI Service （API連携）の利用をおすすめします。

ChatGPT Enterpriseは、オープンエーアイ社が提供する法人向け有償サービスです。GPT-4を無制限に利用することができます。
ChatGPTやChatGPT Plusと違い、入力したデータは他者に共有されず、高度なセキュリティ機能によって保護されます。データの転送時、または保存時に暗号化されるため、機密情報の漏えいを心配せずに利用可能です。米国公認会計士協会（AICPA）が開発した国際的なセキュリティ基準SOC 2に準拠した安全対策が施されています。
また、ユーザーの追加や削除、サービスの利用状況を確認できる管理コンソールを利用することができるため、統合管理が可能で管理者の負担を軽減します。

一方、SLA（Service Level Agreement、品質保証レベル）が定義されておらず、コミュニティサポートのみでメーカー向けサポートは提供されておりません。また、価格は非公開のため米国オープンエーアイ社のWebサイト上からお客様自身で直接見積依頼を行う必要があります。支払いもクレジットカード払いのみのとなっております。

Azure OpenAI Serviceとは、マイクロソフト社とオープンエーアイ社が共同開発した、Microsoft Azure（以下Azure）上でChatGPTを利用できる法人向けサービスです。
Azureが持つ高度なセキュリティ機能をそのまま使うことができ、入力データが他者に共有されることもないため、安心して機密情報を取り扱うことができます。コンテンツフィルタが実装されており、プロンプトインジェクション攻撃を防ぐ安全対策も講じられています。
SLA99.9％以上の稼働率が保証されており、Azureのカスタマーサポートを利用することも可能です。
料金体系は、利用するモデルや使用量に基づいた従量課金制です。
Azure OpenAI Serviceの価格について、詳しくはこちらから。

一方、SaaSでの提供はなくAPIサービスのみになっているため、連携には専門的な知識が必要になります。
価格やサポート内容について詳しく知りたい方は、テクバンまでお気軽にお問い合わせください。

テクバンでは、Azure OpenAI Service導入サービスをご提供しております。
マイクロソフト社認定パートナー企業であるテクバンが、Azure OpenAI Serviceに関するお悩みを解決します。
Azureの導入支援から対応しており、ご利用中のMicrosoft 365や他システムとの連携、セキュリティ強化、生成AIを活かした業務改善のご相談などお気軽にご相談ください。
ヒアリングからPoc（Proof of Concept、概念実証）、要件定義、設計、本番適応、導入後のサポートまでお客様が安心して導入・運用できるようトータルサポートいたします。

テクバンのAzure OpenAI Service導入サービスについて、詳しくはこちらから。

※本記事の内容は2024年1月時点のものです。Microsoftの仕様や利用環境は変更する場合があります。