AIのデータプライバシーと保持を解説

最初の質問：そもそも自分のインフラの外に出るのか

クラウドAI製品は、入力した内容をモデルプロバイダーや製品自体のバックエンドが運用する、自分では制御できないリモートサーバーに送信します。自分のハードウェア上でローカルに動くモデル（ローカルAIとは何かを参照）は、入力をどこにも送信しません。傍受すべきネットワークリクエストも、信頼すべき第三者も存在しません。計算はすでに自分が制御しているマシン上で行われるからです。

データが将来のモデルを学習させるかは、保存されるかとは別の質問

プロバイダーは、デバッグ、不正利用の検知、製品分析といった運用上の理由で会話を保存しつつ、それをモデルの学習に使わないこともできますし、両方を行うこともできます。ほとんどの製品ではこれらは本当に別々の決定であり、別々の設定を持ちます。だから優れたプライバシーポリシーは、それぞれを「サービスの改善」といった曖昧な表現にまとめずに、明示的に述べます。ある製品がこの二つを明確に分けていない場合、その曖昧さ自体が注目に値します。

保持期間は削除が実際に行われる場合にのみ意味を持つ

「30日」のような明記された保持期間は、意図を述べているだけであり、それが守られたことを製品自身が示せない限り、保証ではありません。示す方法としては、アカウントレベルのエクスポート、目に見える削除操作、あるいはインターフェースから隠すだけでなく実際にデータを取り除くサポートプロセスなどがあります。よくある盲点はバックアップです。稼働中のシステムから削除されたデータでも、ポリシーには必ずしも明記されない、別の、しばしばより長い保持期間の間、バックアップに残ることがあります。

データの経路には、AIプロバイダーだけでなくそれ以上の関係者が含まれることが多い

サードパーティのモデルAPI上に構築された製品は、入力を少なくとも二つの組織——製品自体と、それが呼び出すAPIのモデルプロバイダー——を経由させます。ログ基盤、エラー追跡ツール、クラウドホスティングを加えると、一件のメッセージの現実的な管理の連鎖は複数の企業にまたがり、それぞれが独自のポリシーを持つことになります。信頼できる製品は、「他に誰がこれを見るのか」を未解決の問いとして残すのではなく、自社のサブプロセッサーを開示します。

機密情報をAIツールに貼り付ける前に実際に確認すべきこと

製品がデフォルトで入力を使ってモデルを学習させるか、そしてそれをオフにできるか。明記された保持期間は何か、そして削除を自分で実行し検証できるか。処理はクラウドで行われるのか、それとも自分のインフラの外に出せないデータのためにローカルで実行できるのか。そして製品が自社のサブプロセッサーを名指ししているか、それとも信頼するしかない未解決の問いのまま放置しているか。

よくある質問

すべてのAI製品が自分の会話をモデルの学習に使うのですか？

いいえ——これは製品によって異なり、通常はデータ保存とは別の設定です。デバッグやサポートのために会話を保存することが、自動的に学習に使われることを意味するわけではありません。明確なプライバシーポリシーは、それぞれの用途を明示的に述べます。

データを削除すると、すぐに消えますか？

必ずしもすべてのシステムからではありません。稼働中の製品からの削除はよくありますが、バックアップは常に明確に示されるわけではない別の期間、データを保持することがよくあります——どこでも即座に削除されると仮定するのではなく、具体的に確認する価値があります。

ローカルAIはクラウドAI製品より自動的にプライベートなのですか？

入力が自分のインフラの外に出るかという具体的な問いについては、はい——自分のハードウェア上で動くモデルは、どこにも送信するものがありません。すべてのプライバシー上の問い（クライアントアプリがローカルで何を記録するかなど）を自動的に解決するわけではありませんが、第三者への送信という問題自体を完全に取り除きます。

サブプロセッサーとは何ですか。なぜプライバシーにとって重要なのですか？

AI製品自体以外で、データの取り扱いに関わる他の企業のことです——それが呼び出すAPIのモデルプロバイダー、ホスティング基盤、ログや分析ツールなど。それぞれがデータを見る可能性のある関係者なので、サブプロセッサーを開示する製品は、開示しない製品よりも明確な全体像を与えてくれます。