RAG (การสร้างที่เสริมด้วยการค้นคืน) คืออะไร?

มันทำงานอย่างไร

เอกสารถูกแบ่งเป็นชิ้นๆ และแต่ละชิ้นถูกแปลงเป็นเวกเตอร์ — การแสดงตัวเลขของความหมายมัน คำถามก็ถูกแปลงเช่นเดียวกัน และชิ้นที่มีเวกเตอร์ใกล้ที่สุดจะถูกค้นคืน

ชิ้นเหล่านั้นถูกใส่เข้าไปในพรอมป์ต์ โดยปกติพร้อมคำสั่งให้ตอบจากพวกมัน โมเดลทำงานด้านภาษา ส่วนการค้นคืนทำงานด้านความรู้

คุณภาพการค้นคืนคือทั้งระบบ

หากชิ้นที่ถูกต้องไม่ถูกค้นคืน ไม่มีโมเดลใดกู้คำตอบได้ มันจะตอบจากความรู้ทั่วไปและฟังดูมั่นใจเท่าๆ กัน ระบบ RAG ที่น่าผิดหวังส่วนใหญ่คือปัญหาการค้นคืนที่สวมชุดของการสร้าง

การแบ่งชิ้นคือจุดที่มันถูกตัดสิน ชิ้นที่เล็กเกินไปสูญเสียบริบทที่ทำให้มันมีความหมาย ชิ้นที่ใหญ่เกินไปทำให้ทุกการจับคู่เจือจางลง การแบ่งตามโครงสร้างของเอกสาร — ส่วนต่างๆ หัวเรื่อง — มักดีกว่าการแบ่งตามความยาวคงที่

มันแก้อะไรและไม่แก้อะไร

RAG แก้ปัญหา «โมเดลไม่เคยเห็นเอกสารของฉัน» มันลดอาการหลอนในคำถามที่เอกสารตอบได้ เพราะคำตอบอยู่ตรงหน้าโมเดล

มันไม่แก้การให้เหตุผล และไม่หยุดโมเดลไม่ให้ตอบจากความจำเมื่อการค้นคืนไม่ได้ผลลัพธ์ที่มีประโยชน์ การอิงกับแหล่งข้อมูลเป็นแนวโน้มที่แข็งแรง ไม่ใช่การรับประกัน และรูปแบบความล้มเหลวคือคำตอบที่มั่นใจโดยไม่มีแหล่งที่มา

คำถามที่พบบ่อย

RAG เหมือนกับการฟาย์นจูนไหม?

ไม่ และทั้งสองแก้ปัญหาต่างกัน การฟาย์นจูนเปลี่ยนพฤติกรรมของโมเดล RAG เปลี่ยนสิ่งที่มันรู้สำหรับหนึ่งคำขอ สำหรับ «ตอบคำถามเกี่ยวกับเอกสารของฉัน» RAG เกือบเสมอเป็นเครื่องมือที่ถูกต้อง และประหยัดกว่ามากในการรักษาให้ทันสมัย

หน้าต่างบริบทที่ใหญ่ทำให้ RAG ล้าสมัยไหม?

ไม่ คุณวางเพิ่มได้ แต่คุณจ่ายทุกโทเคนในทุกข้อความ และโมเดลให้ความสนใจไม่เท่ากันต่ออินพุตที่ยาวมาก การค้นคืนยังเป็นวิธีเดียวที่ขยายขนาดได้เกินกว่าที่หน้าต่างใดๆ จะรับไหว

RAG ส่งเอกสารของฉันไปยังผู้ให้บริการโมเดลไหม?

ข้อความที่ถูกค้นคืนส่งไป เพราะนั่นคือวิธีที่โมเดลเห็นมัน หากยอมรับไม่ได้ โมเดลต้องรันในที่ที่คุณควบคุมได้ และนี่คือเหตุผลที่มีการทำงานแบบโลคัล