社員が顧客データをChatGPTに貼り付けるとき：データを社外に出せない会社のためのプライベートAIという選択肢

AIのチャットにデータを貼り付けると、何が起きるのか

購買担当者が、比較を手伝ってもらおうと、全仕入先の価格表をAIのチャットに貼り付けます。人事担当者は、グラフを作ってもらおうと、氏名と給与の一覧を貼り付けます。2人とも仕事を早く終わらせようとしただけですが、そのデータが社外に出たことを、社内の誰も知りません。

一般向けのAIサービスに貼り付けた文章は、サービス提供者のサーバーに送られて処理され、そのサービスのポリシーに従って保存されます。個人向けアカウントの中には、ユーザーが自分で設定をオフにしない限り、会話をモデルの改善に使うことを提供者に認めているものもあります。会社の側には、誰がいつ何を送ったのかという記録が一切残りません。顧客や監査人に聞かれても、会社は答えられないのです。

2023年5月、Samsungは社員が会社の端末で一般向けのAIツールを使うことを禁止しました。エンジニアが社内のソースコードと会議の記録をChatGPTに貼り付けていたことがわかったためです。会社が把握していないところでAIが使われるこうした状況はシャドーAI（Shadow AI）と呼ばれ、社員がスマートフォンを持つ会社ならどこでも起きています。

3つの選択肢と、それぞれで引き換えにするもの

会社の選択肢は3つです。利用を禁止するか、AI提供者の法人向けプランを契約するか、自社のインフラにモデルを導入するかです。それぞれ得られるものも費用も違い、ほとんどの会社は最終的に複数を組み合わせて使います。

よくある誤解は、モデルを社内に導入すればデータは自動的に安全になる、というものです。社内AIがすべてのフォルダの文書を読めるなら、インターンでも経営幹部の給与を尋ねられます。リスクが社外への漏えいから部署をまたぐ漏えいに移るだけです。そのため社内AIには、質問した人に見る権限のある文書だけが見えるようにする必要があります。

信頼できる社内AIアシスタントに必要なもの

文書をもとに答えるチャットボットなら、バイブコーディングで1日あれば作れます。時間がかかるのは、一人ひとりの権限に沿って答えさせること、元の文書を示せるようにすること、後から確認できる記録を残すことです。この3つがそろって初めて、法務部門とIT部門が利用を認めてくれます。

権限は、会社がすでに使っている社員アカウントの仕組みと結びつけるべきです。社員はSSOでほかのシステムと同じアカウントを使ってログインし、アシスタントはそのアカウントで開ける文書だけを検索します。社員が異動したり退職したりすると、アシスタントでの権限もすぐにそれに合わせて変わります。

すべての回答には、根拠にした文書を添えるべきです。質問した人は元の文書を開いて、回答がどの版から来たのかを確かめられます。先に文書を検索し、それからモデルに答えさせるこの仕組みをRAG（検索拡張生成）と呼びます。文書が修正されれば、モデルを再学習させなくても回答がそれに合わせて変わる、という利点もあります。

会社が決めなければならないことは、ほかにも2つあります。会話をどのくらいの期間保存するかと、利用記録を誰が見られるかです。文書に顧客の個人情報が含まれている場合、そのデータを外部の提供者に送って処理させることは、タイの個人情報保護法（PDPA）の対象になります。会社は提供者とデータ処理契約を結び、利用を始める前に法律顧問かデータ保護責任者に確認してもらうべきです。

こうした会社なら、法人向けプランとデータのレベル分けのルールを組み合わせれば十分です。「機密」レベルの業務が増えてきたら、その部分に限って社内アシスタントを追加します。

試験導入の期間には、4つの指標を測ってください。会社が承認したAIを使っている社員の割合、週あたりの質問数、正しい版の文書を引用した回答の割合、「機密」レベルのデータが社外に送られたのが見つかった回数です。3か月たっても社員が「機密」レベルの業務に一般向けのAIを使い続けているなら、社内アシスタントがまだ実務に十分応えられていないということです。ほかの部門に広げる前に、回答の質を改善してください。