AIアシスタントのメモリとは？

実際の仕組み

アプリケーションは何か——好み、事実、恒久的な指示——を保存する価値があると判断し、書き留めます。後の会話では、関連する項目を選び、モデルが見る前にリクエストに追加します。

つまりメモリはあなたに関する事実の保存庫に対する検索であり、モデル内部で起きる何かではありません。それは何を保持し何を再導入するかという判断がどれだけ良いかにかかっているということです。

無料ではない

会話に再導入される記憶された事実はすべて入力トークンであり、それを運ぶすべてのメッセージで課金されます。無差別に注入される大きなメモリは、あなたのすべての会話に対する恒久的な税金です。

優れた実装は選択的です。知っているすべてではなく、この会話に関連するものを戻します。

プライバシーの問題

メモリは個人的な事実の永続的な保存庫を意味し、削除できる会話とは異なるプライバシーの状況です。尋ねる価値のある問いは、どこに保存されるか、その全体を読めるか、個々の項目を削除できるか、再導入されるときにモデルプロバイダーへ送られるかです。

最後のものが見落とされがちです。プロンプトに注入された記憶された事実は、そのプロンプトが行く場所にどこへでも行きます。

よくある質問

メモリは私のデータでモデルを訓練しますか？

それ自体はしません。メモリはプロンプトにテキストを入れ、訓練はモデルの重みを変えます。プロバイダーがプロンプトで訓練するかどうかは別の問題であり、そのプロバイダーの規約によります。

なぜアシスタントは何かを間違って覚えているのですか？

かつては真実だった何かを書き留めたか、通りすがりの発言を恒久的な好みと読み違えたからです。保存庫を直接読んで編集できることだけが本当の修正です。

メモリは長い会話と同じですか？

いいえ。長い会話はすべてを保持し、すべてのメッセージでその代償を払います。メモリは選ばれた事実を保持し、会話の終了後も残ります。