การเลือกโมเดลสำหรับงานส่วนตัวที่รันในเครื่อง

สิ่งที่การรันโมเดลในเครื่องเปลี่ยนแปลงจริง ๆ

ผู้ให้บริการคลาวด์รายอื่นในแคตตาล็อกของ ClawAI รันโมเดลบนโครงสร้างพื้นฐานของตัวเองและคิดค่าใช้จ่ายต่อคำขอ ในขณะที่ Ollama และ llama.cpp จะโหลดโมเดลแบบ open-weight ลงบนฮาร์ดแวร์ที่คุณควบคุมแทน ทำให้คำขอนั้นไม่ต้องออกไปจากเครื่องเลย สิ่งนั้นเปลี่ยนว่าใครมองเห็นคำขอได้ ไม่ใช่ความสามารถของโมเดลตัวใดตัวหนึ่ง ดู local AI ที่หน้าผู้ให้บริการโมเดล สำหรับกลไกแบบเต็มแทนที่จะกล่าวซ้ำที่นี่

โหมดการจัดเส้นทาง Local-Only และ Privacy-First ของ ClawAI

การจัดเส้นทางแบบ Local-Only เก็บคำขอทุกครั้งไว้บนฮาร์ดแวร์ที่คุณควบคุม โดยใช้ Ollama หรือ llama.cpp แทนผู้ให้บริการคลาวด์ใด ๆ ส่วนการจัดเส้นทางแบบ Privacy-First เป็นโหมดแยกต่างหากที่มีลำดับความสำคัญของตัวเอง ทั้งสองโหมดมีอยู่เพราะไม่ใช่ทุกงานที่ควรใช้การจัดเส้นทาง Auto เป็นค่าเริ่มต้น การเลือกระหว่างสองโหมดนี้ หรือการปักหมุดโมเดลในเครื่องตัวใดตัวหนึ่งภายใต้โหมด Manual Model เป็นการตัดสินใจเกี่ยวกับลักษณะงานที่ควรทำอย่างตั้งใจ มากกว่าปล่อยให้เป็นค่าเริ่มต้นทั่วไป

การเลือกว่าจะรันโมเดล open-weight ตัวไหน

หน้านี้ตั้งใจไม่ระบุชื่อโมเดล open-weight ตัวใดตัวหนึ่ง ด้วยเหตุผลเดียวกับที่หน้าผู้ให้บริการ local AI ไม่ทำเช่นนั้น เพราะวงการนี้เคลื่อนไหวเร็วกว่าที่หน้าเว็บแบบคงที่จะติดตามได้ทัน และคำแนะนำที่ล้าสมัยก็แย่กว่าการไม่มีคำแนะนำเลย ดูว่า local-first AI คืออะไร ที่ลิงก์ด้านล่าง สำหรับวิธีคิดเกี่ยวกับการแลกเปลี่ยนระหว่างโมเดล open-weight ที่คุณรันเองกับผู้ให้บริการคลาวด์

คำถามที่คนมักถาม

ควรรันโมเดล open-weight ตัวไหนสำหรับงานส่วนตัว?

หน้านี้ไม่แนะนำโมเดลตัวใดตัวหนึ่ง ดูว่า local-first AI คืออะไร ที่ลิงก์ด้านล่าง สำหรับวิธีคิดเกี่ยวกับการเลือก เนื่องจากโมเดลที่เหมาะสมขึ้นอยู่กับฮาร์ดแวร์และงานของคุณในแบบที่หน้าเว็บแบบคงที่ไม่สามารถติดตามได้อย่างรับผิดชอบ

Local-Only กับ Privacy-First แตกต่างกันอย่างไร?

Local-Only เก็บคำขอทุกครั้งไว้บนฮาร์ดแวร์ที่คุณควบคุมผ่าน Ollama หรือ llama.cpp ส่วน Privacy-First เป็นโหมดการจัดเส้นทางแยกต่างหากที่มีลำดับความสำคัญของตัวเอง ทั้งสองโหมดมีอยู่เพราะไม่ใช่ทุกงานที่ควรใช้การจัดเส้นทาง Auto เป็นค่าเริ่มต้น

การรันโมเดลในเครื่องผ่าน ClawAI มีค่าใช้จ่ายหรือไม่?

ClawAI ไม่คิดอัตราค่าใช้จ่ายต่อโทเคนสำหรับโมเดลที่รันในเครื่องแบบเดียวกับที่คิดกับผู้ให้บริการคลาวด์ เพราะไม่มีผู้ให้บริการคลาวด์ที่ถูกเรียกเก็บเงิน ต้นทุนคือฮาร์ดแวร์ที่คุณมีอยู่แล้วนั่นเอง ตรวจสอบพฤติกรรมของแผนปัจจุบันได้ที่หน้าราคา