Chọn mô hình AI đọc và chỉnh sửa script của bạn

Pageferry hoạt động với nhà cung cấp AI đám mây qua điểm cuối API, với mô hình chạy trên PC của bạn, hoặc với mô hình tích hợp. Lựa chọn quyết định nơi prompt của bạn được gửi, vì vậy hãy đọc kỹ ba tùy chọn trước khi kết nối bất kỳ dịch vụ nào.

Ba cách kết nối mô hình

Nhà cung cấp AI đám mây

Nhà cung cấp AI đám mây được truy cập qua điểm cuối API tiêu chuẩn; bạn chọn điểm cuối và nhập khóa của nó vào ứng dụng. Khóa vẫn nằm trên PC của bạn. Mỗi prompt, bao gồm nội dung của bất kỳ tệp nào mà agent đọc từ thư mục của bạn, đều được gửi đến nhà cung cấp đó, vì vậy hãy sử dụng tùy chọn này chỉ cho các script bạn được phép gửi đi. Nút Test kiểm tra điểm cuối và hiển thị thời gian phản hồi cũng như kích thước cửa sổ ngữ cảnh. Cửa sổ ngữ cảnh lớn hơn sẽ hữu ích khi script và kết quả đầu ra của nó dài. Nhà cung cấp có thể tính phí sử dụng riêng biệt, trong khi Pageferry không yêu cầu tài khoản.

Mô hình trên PC của bạn

Mô hình chạy cục bộ trên PC là tùy chọn cho các script không được phép rời khỏi máy: với mô hình cục bộ, mọi dữ liệu đều không rời khỏi PC, và các cuộc trò chuyện, thư mục làm việc cũng như khóa API của bạn đều được giữ lại tại chỗ. Bạn trỏ ứng dụng vào điểm cuối cục bộ, nhấn Test, và xem thời gian phản hồi cùng kích thước cửa sổ ngữ cảnh. Phần cứng của bạn là giới hạn, vì vậy một script dài có thể không vừa với cửa sổ nhỏ. Hãy nhấn Test trước nhiệm vụ thực tế đầu tiên để xem máy của bạn xử lý như thế nào.

Mô hình tích hợp

Mô hình tích hợp sẵn sàng sử dụng mà không cần điểm cuối của riêng bạn, vì vậy bạn có thể mở cuộc trò chuyện và thử agent trên một script Bash nhỏ ngay sau khi cài đặt. Bạn vẫn có thể chọn chế độ phê duyệt: Auto-run thực hiện ngay lập tức, Ask first tạm dừng trước các hành động thay đổi dữ liệu, và Plan only chỉ viết kế hoạch mà không chạy gì cả. Đối với các bước phức tạp hơn, bạn có thể thêm mô hình đám mây hoặc cục bộ sau đó và gửi các bước đó cho nó bằng run_on_model.

Kiểm tra kết nối với Test

Nút Test kiểm tra một điểm cuối và hiển thị hai thông tin: thời gian phản hồi và kích thước cửa sổ ngữ cảnh. Hãy nhấn nút này sau khi nhập điểm cuối và trước khi giao nhiệm vụ thực tế cho agent. Thời gian phản hồi dài cho biết điểm cuối hiện đang chậm, còn cửa sổ ngữ cảnh nhỏ cho thấy một script dài cùng kết quả đầu ra của nó có thể không vừa với một yêu cầu. Nếu kiểm tra thất bại, hãy sửa địa chỉ điểm cuối hoặc khóa rồi nhấn Test lại. Hãy làm điều này cho mỗi điểm cuối bạn thêm vào, vì mô hình đám mây và mô hình cục bộ có thể có sự chênh lệch rất lớn về hai chỉ số này.

Chọn kích thước mô hình phù hợp cho nhiệm vụ

Hãy sử dụng mô hình lớn hơn cho các bản refactor và các script có logic phức tạp, và mô hình nhỏ hơn cho các chỉnh sửa nhỏ như thêm cờ -v hoặc trích dẫn một biến. Kích thước cửa sổ ngữ cảnh càng quan trọng khi script và kết quả đầu ra của nó phát triển, vì vậy hãy kiểm tra nó bằng nút Test. Khi gặp một bước khó, run_on_model chỉ gửi bước đó cho mô hình lớn hơn trong khi phần còn lại của cuộc trò chuyện vẫn sử dụng mô hình mặc định của bạn. Một thói quen hợp lý là bắt đầu với mô hình nhỏ và chỉ nâng cấp khi câu trả lời chưa đủ tốt. Vì các mô hình đám mây nhận được prompt, hãy lưu ý điều này khi script chứa các đường dẫn hoặc tên riêng tư.

Chất lượng thay đổi tùy theo mô hình và phiên bản, vì vậy đừng bao giờ chấp nhận một thay đổi mà không đọc kỹ. Ở chế độ Ask first, agent sẽ tạm dừng trước các hành động thay đổi dữ liệu; đối với một chỉnh sửa, bạn sẽ thấy diff và có thể chấp nhận hoặc từ chối nó. Sau đó, Shell có thể chạy script và hiển thị mã thoát thực tế, đây là cách kiểm tra tốt hơn lời giải thích của chính mô hình. Plan only hữu ích khi bạn muốn đọc kế hoạch trước khi bất cứ thứ gì được chạy.