ความจำของผู้ช่วย AI คืออะไร?

มันทำงานจริงอย่างไร

แอปพลิเคชันตัดสินใจว่าบางอย่างคุ้มค่าที่จะเก็บไว้ — ความชอบ ข้อเท็จจริง คำสั่งถาวร — แล้วเขียนมันลงไป ในบทสนทนาถัดไปมันเลือกรายการที่เกี่ยวข้องและเพิ่มเข้าไปในคำขอก่อนที่โมเดลจะเห็นมัน

ดังนั้นความจำจึงเป็นการค้นคืนบนคลังข้อเท็จจริงเกี่ยวกับคุณ ไม่ใช่สิ่งที่เกิดขึ้นภายในโมเดล ซึ่งหมายความว่ามันดีเพียงเท่าที่การตัดสินใจว่าจะเก็บอะไรและนำอะไรกลับมาใช้เท่านั้น

มันไม่ฟรี

ทุกข้อเท็จจริงที่จำได้ซึ่งถูกนำกลับเข้าไปในบทสนทนาคือโทเคนอินพุต ซึ่งถูกเรียกเก็บเงินในทุกข้อความที่พาไป ความจำขนาดใหญ่ที่ถูกฉีดเข้าไปโดยไม่เลือกคือภาษีถาวรต่อทุกบทสนทนาของคุณ

การใช้งานที่ดีมีความเลือกเฟ้น: นำสิ่งที่เกี่ยวข้องกับบทสนทนานี้กลับมา แทนที่จะเป็นทุกอย่างที่มันรู้

คำถามเรื่องความเป็นส่วนตัว

ความจำหมายถึงคลังข้อเท็จจริงส่วนบุคคลที่คงทน ซึ่งเป็นสถานการณ์ความเป็นส่วนตัวที่ต่างจากบทสนทนาที่คุณลบได้ คำถามที่คุ้มค่าถามคือมันถูกเก็บที่ไหน คุณอ่านมันได้ทั้งหมดไหม คุณลบรายการเฉพาะได้ไหม และมันถูกส่งไปยังผู้ให้บริการโมเดลเมื่อถูกนำกลับมาใช้ไหม

ข้อสุดท้ายคือสิ่งที่คนมักพลาด ข้อเท็จจริงที่จำได้ซึ่งถูกฉีดเข้าไปในพรอมป์ต์ก็ไปในที่ที่พรอมป์ต์นั้นไป

คำถามที่พบบ่อย

ความจำฝึกโมเดลด้วยข้อมูลของฉันไหม?

ไม่ในตัวมันเอง ความจำใส่ข้อความเข้าไปในพรอมป์ต์ การฝึกเปลี่ยนค่าน้ำหนักของโมเดล ผู้ให้บริการฝึกด้วยพรอมป์ต์หรือไม่เป็นคำถามแยกต่างหากและขึ้นอยู่กับเงื่อนไขของผู้ให้บริการนั้น

ทำไมผู้ช่วยจำบางอย่างผิด?

เพราะมันเขียนบางอย่างที่เคยเป็นจริงลงไป หรืออ่านคำพูดผ่านๆ ว่าเป็นความชอบถาวร ความสามารถในการอ่านและแก้ไขคลังโดยตรงคือวิธีแก้ปัญหาที่แท้จริงเพียงอย่างเดียว

ความจำเหมือนกับบทสนทนายาวไหม?

ไม่ บทสนทนายาวเก็บทุกอย่างและจ่ายเงินสำหรับมันในทุกข้อความ ความจำเก็บข้อเท็จจริงที่เลือกไว้และอยู่รอดหลังบทสนทนาจบ