การใช้งานส่วนตัวและรันในเครื่องกับ ClawAI

สิ่งที่การรันในเครื่องเปลี่ยนแปลงจริง ๆ

ผู้ให้บริการคลาวด์รายอื่นในแคตตาล็อกของ ClawAI รันโมเดลบนโครงสร้างพื้นฐานของตัวเองและคิดค่าใช้จ่ายต่อคำขอ ในขณะที่ Ollama และ llama.cpp จะโหลดโมเดลแบบ open-weight ลงบนฮาร์ดแวร์ที่คุณควบคุมแทน ทำให้คำขอนั้นไม่ต้องออกไปจากเครื่องเลย สิ่งนี้เปลี่ยนว่าใครมองเห็นคำขอได้ ไม่ใช่ความสามารถของโมเดลตัวใดตัวหนึ่ง

โหมดการจัดเส้นทาง Local-Only และ Privacy-First

การจัดเส้นทางแบบ Local-Only เก็บคำขอทุกครั้งไว้บนฮาร์ดแวร์ที่คุณควบคุม โดยใช้ Ollama หรือ llama.cpp แทนผู้ให้บริการคลาวด์ใด ๆ ส่วนการจัดเส้นทางแบบ Privacy-First เป็นโหมดแยกต่างหากที่มีลำดับความสำคัญของตัวเอง ทั้งสองโหมดมีอยู่เพราะไม่ใช่ทุกงานที่ควรใช้การจัดเส้นทาง Auto เป็นค่าเริ่มต้น และการเลือกระหว่างสองโหมดนี้เป็นการตัดสินใจที่ควรทำอย่างตั้งใจ ไม่ใช่ปล่อยผ่านโดยไม่พิจารณา

เมื่อใดที่งานส่วนตัวหรืองานที่รันในเครื่องเหมาะสม

งานส่วนตัวหรืองานที่รันในเครื่องถูกกำหนดโดยตำแหน่งที่คำขอทำงาน ไม่ใช่โดยประเภทของงาน — งานเขียนโค้ด งานเขียน หรืองานค้นคว้า ล้วนรันแบบนี้ได้ทั้งหมด หากข้อกำหนดคือต้องไม่มีอะไรออกไปจากฮาร์ดแวร์ที่คุณควบคุม ดูหน้าการเลือกโมเดลสำหรับงานส่วนตัวที่รันในเครื่อง และ local-first AI คืออะไร ทั้งสองลิงก์ด้านล่าง สำหรับสิ่งที่ต้องชั่งน้ำหนัก

คำถามที่คนมักถาม

Local-Only กับ Privacy-First แตกต่างกันอย่างไร?

Local-Only เก็บคำขอทุกครั้งไว้บนฮาร์ดแวร์ที่คุณควบคุมผ่าน Ollama หรือ llama.cpp ส่วน Privacy-First เป็นโหมดการจัดเส้นทางแยกต่างหากที่มีลำดับความสำคัญของตัวเอง ทั้งสองโหมดมีอยู่เพราะไม่ใช่ทุกงานที่ควรใช้การจัดเส้นทาง Auto เป็นค่าเริ่มต้น

ควรรันโมเดล open-weight ตัวไหนในเครื่อง?

หน้านี้ไม่ได้แนะนำโมเดลตัวใดตัวหนึ่ง ดูหน้า local-first AI คืออะไร ที่ลิงก์ด้านล่าง สำหรับวิธีคิดเกี่ยวกับการเลือก เนื่องจากโมเดลที่เหมาะสมขึ้นอยู่กับฮาร์ดแวร์และงานของคุณ

ฉันสามารถรันงานทุกประเภทในเครื่องได้หรือไม่ หรือเฉพาะบางประเภท?

งานส่วนตัวหรืองานที่รันในเครื่องถูกกำหนดโดยตำแหน่งที่คำขอทำงาน ไม่ใช่โดยประเภทของงาน — งานเขียนโค้ด งานเขียน หรืองานค้นคว้า ล้วนรันแบบนี้ได้ทั้งหมด หากการอยู่บนฮาร์ดแวร์ที่คุณควบคุมสำคัญกว่าประเภทของงานนั้น