حافظهٔ دستیار هوش مصنوعی چیست؟

واقعاً چگونه کار می‌کند

برنامه تصمیم می‌گیرد چیزی ارزش نگه‌داشتن دارد — ترجیحی، واقعیتی، دستوری همیشگی — و آن را می‌نویسد. در گفت‌وگویی بعدی مدخل‌های مرتبط را برمی‌گزیند و پیش از دیده‌شدن به‌دست مدل به درخواست می‌افزاید.

پس حافظه بازیابی روی انباری از واقعیت‌های مربوط به شماست، نه چیزی که درون مدل رخ دهد. یعنی دقیقاً به‌اندازهٔ تصمیم‌ها دربارهٔ اینکه چه نگه داشته شود و چه بازگردانده شود خوب است.

رایگان نیست

هر واقعیت به‌یادسپرده که به گفت‌وگو بازمی‌گردد توکن ورودی است و در هر پیامی که آن را حمل کند حساب می‌شود. حافظهٔ بزرگی که بی‌تشخیص تزریق شود مالیاتی دائمی بر همهٔ گفت‌وگوهای شماست.

پیاده‌سازی‌های خوب گزینشی‌اند: آنچه به این گفت‌وگو مربوط است را بازمی‌گردانند نه هرچه می‌دانند.

پرسش حریم خصوصی

حافظه یعنی انباری پایدار از واقعیت‌های شخصی، و این وضعیتی متفاوت از گفت‌وگویی است که می‌توانید پاکش کنید. پرسش‌های ارزشمند این‌هاست: کجا ذخیره می‌شود، آیا می‌توانید همه‌اش را بخوانید، آیا می‌توانید مدخل‌های مشخص را حذف کنید، و آیا هنگام بازگرداندن به ارائه‌دهندهٔ مدل فرستاده می‌شود.

آخری همان است که از قلم می‌افتد. واقعیت به‌یادسپرده‌ای که در یک پرسش تزریق شود هرجا که آن پرسش برود می‌رود.

پرسش‌های پرتکرار

آیا حافظه مدل را روی داده‌های من آموزش می‌دهد؟

به‌خودی‌خود نه. حافظه متنی را در یک پرسش می‌گذارد؛ آموزش وزن‌های مدل را عوض می‌کند. اینکه ارائه‌دهنده‌ای روی پرسش‌ها آموزش می‌دهد یا نه پرسشی جداگانه است و به شرایط او بستگی دارد.

چرا دستیار چیزی را اشتباه به یاد می‌آورد؟

چون چیزی را نوشته که روزی درست بوده، یا اظهارنظری گذرا را ترجیحی همیشگی خوانده. توانایی خواندن و ویرایش مستقیم انبار تنها درمان واقعی است.

آیا حافظه همان گفت‌وگوی بلند است؟

نه. گفت‌وگوی بلند همه‌چیز را نگه می‌دارد و در هر پیام بابتش می‌پردازد. حافظه واقعیت‌های برگزیده را نگه می‌دارد و پس از پایان گفت‌وگو هم می‌ماند.