เลือกโมเดล AI ที่อ่านและแก้ไขสคริปต์ของคุณ

Pageferry ทำงานร่วมกับผู้ให้บริการ AI แบบคลาวด์ผ่าน API endpoint โมเดลที่รันบนพีซีของคุณ หรือโมเดลในตัว การเลือกนี้จะกำหนดว่าพรอมต์ของคุณจะถูกส่งไปที่ไหน ดังนั้นควรอ่านตัวเลือกทั้งสามก่อนทำการเชื่อมต่อ

สามวิธีในการเชื่อมต่อโมเดล

ผู้ให้บริการ AI แบบคลาวด์

ผู้ให้บริการ AI แบบคลาวด์เข้าถึงผ่าน API endpoint มาตรฐาน โดยคุณเลือก endpoint และใส่คีย์ลงในแอป คีย์จะเก็บไว้บนพีซีของคุณเท่านั้น พรอมต์แต่ละครั้ง รวมถึงข้อความของไฟล์ใดๆ ที่เอเจนต์อ่านจากโฟลเดอร์ของคุณ จะถูกส่งไปยังผู้ให้บริการนั้น ดังนั้นใช้ตัวเลือกนี้เฉพาะสำหรับสคริปต์ที่คุณได้รับอนุญาตให้ส่งไปที่นั่นเท่านั้น ปุ่มทดสอบจะตรวจสอบ endpoint และแสดงเวลาตอบสนองและ context window Context window ที่ใหญ่ขึ้นจะช่วยเมื่อสคริปต์และผลลัพธ์มีขนาดยาว ผู้ให้บริการอาจเรียกเก็บค่าบริการแยกต่างหาก และ Pageferry เองไม่ต้องใช้บัญชี

โมเดลบนพีซีของคุณ

โมเดลที่รันในเครื่องบนพีซีของคุณเป็นตัวเลือกสำหรับสคริปต์ที่ไม่ต้องออกนอกเครื่อง: ด้วยโมเดลในเครื่อง ข้อมูลทุกอย่างจะไม่ออกนอกพีซี และการสนทนา โฟลเดอร์ทำงาน และคีย์ API ของคุณก็จะอยู่ที่นั่นเช่นกัน คุณชี้แอปไปที่ endpoint ในเครื่อง กดทดสอบ และอ่านเวลาตอบสนองและ context window ฮาร์ดแวร์ของคุณเป็นตัวกำหนดขีดจำกัด ดังนั้นสคริปต์ที่ยาวอาจไม่พอดีกับ window เล็กๆ ให้กดทดสอบก่อนทำงานจริงครั้งแรกเพื่อดูว่าเครื่องของคุณจัดการได้ดีแค่ไหน

โมเดลในตัว

โมเดลในตัวพร้อมใช้งานโดยไม่ต้องมี endpoint ของคุณเอง ดังนั้นคุณสามารถเปิดการสนทนาและลองเอเจนต์กับสคริปต์ Bash เล็กๆ ได้ทันทีหลังการติดตั้ง คุณยังคงเลือกโหมดการอนุมัติ: Auto-run จะดำเนินการทันที Ask first จะหยุดชั่วคราวก่อนการกระทำที่เปลี่ยนแปลงสิ่งใดสิ่งหนึ่ง และ Plan only จะเขียนแผนและไม่วางแผนอะไรเลย สำหรับขั้นตอนที่ยากขึ้น คุณสามารถเพิ่มโมเดลคลาวด์หรือโมเดลในเครื่องในภายหลังและส่งขั้นตอนเหล่านั้นไปยังมันด้วย run_on_model

ตรวจสอบการเชื่อมต่อด้วยปุ่มทดสอบ

ปุ่มทดสอบจะตรวจสอบ endpoint และแสดงสองสิ่ง: เวลาตอบสนองและ context window ให้กดปุ่มนี้หลังจากที่คุณใส่ endpoint และก่อนที่คุณจะมอบงานจริงให้กับเอเจนต์ เวลาตอบสนองที่ยาวบอกคุณว่า endpoint ช้าในขณะนี้ และ context window เล็กบอกคุณว่าสคริปต์ที่ยาวและผลลัพธ์ของมันอาจไม่พอดีกับคำขอหนึ่งครั้ง หากการตรวจสอบล้มเหลว ให้แก้ไขที่อยู่ endpoint หรือคีย์แล้วกดทดสอบอีกครั้ง ทำสิ่งนี้หนึ่งครั้งสำหรับทุก endpoint ที่คุณเพิ่ม เพราะโมเดลคลาวด์และโมเดลในเครื่องอาจแตกต่างกันมากในทั้งสองตัวเลข

เลือกขนาดโมเดลสำหรับงานของคุณ

ใช้โมเดลที่ใหญ่กว่าสำหรับการปรับโครงสร้างและสคริปต์ที่มีตรรกะซับซ้อน และใช้โมเดลที่เล็กกว่าสำหรับการแก้ไขเล็กๆ น้อยๆ เช่น การเพิ่มแฟลก -v หรือการใส่เครื่องหมายคำพูดในตัวแปร Context window มีความสำคัญมากขึ้นเมื่อสคริปต์และผลลัพธ์มีขนาดเพิ่มขึ้น ดังนั้นให้ตรวจสอบด้วยปุ่มทดสอบ เมื่อขั้นตอนหนึ่งยาก ให้ run_on_model ส่งเฉพาะขั้นตอนนั้นไปยังโมเดลที่ใหญ่กว่าในขณะที่การสนทนาอื่นๆ ยังคงใช้โมเดลปกติของคุณ นิสัยที่เหมาะสมคือเริ่มจากโมเดลเล็กและเลื่อนขั้นเฉพาะเมื่อคำตอบไม่เพียงพอ โมเดลคลาวด์ได้รับพรอมต์ ดังนั้นจงคำนึงถึงสิ่งนั้นเมื่อสคริปต์มีเส้นทางหรือชื่อส่วนตัว

คุณภาพแตกต่างกันระหว่างโมเดลและระหว่างเวอร์ชันของโมเดลเดียวกัน ดังนั้นอย่ายอมรับการเปลี่ยนแปลงใดๆ โดยไม่ได้อ่านมัน ภายใต้ Ask first เอเจนต์จะหยุดชั่วคราวก่อนการกระทำที่เปลี่ยนแปลงสิ่งใดสิ่งหนึ่ง และสำหรับการแก้ไข คุณจะเห็น diff และยอมรับหรือปฏิเสธได้ หลังจากนั้น Shell สามารถรันสคริปต์และแสดง exit code จริง ซึ่งเป็นการทดสอบที่ดีกว่าคำอธิบายของโมเดลเอง Plan only มีประโยชน์เมื่อคุณต้องการอ่านแผนก่อนที่อะไรจะถูกรัน