Kies het AI-model dat je scripts leest en bewerkt

Pageferry werkt met een cloud-AI-aanbieder via een API-eindpunt, met een model dat op je pc draait, of met het ingebouwde model. De keuze bepaalt waar je prompts naartoe gaan, dus lees de drie opties voordat je iets koppelt.

Drie manieren om een model te koppelen

Cloud-AI-aanbieder

Een cloud-AI-aanbieder bereik je via een standaard API-eindpunt; je kiest het eindpunt en voert de sleutel in de app in. De sleutel blijft op je pc. Elke prompt, inclusief de tekst van elk bestand dat de agent uit jouw map leest, gaat naar die aanbieder, dus gebruik deze optie alleen voor scripts die je daar mag sturen. De knop Test controleert het eindpunt en toont de responstijd en het contextvenster. Een groter contextvenster helpt wanneer een script en de uitvoer lang zijn. De aanbieder kan zijn gebruik apart in rekening brengen, en Pageferry zelf heeft geen account nodig.

Model op je pc

Een model dat lokaal op je pc draait is de optie voor scripts die de machine niet mogen verlaten: met een lokaal model verlaat niets de pc, en je chats, werkmap en API-sleutels blijven daar ook. Je wijst de app naar het lokale eindpunt, drukt op Test en leest de responstijd en het contextvenster. Je hardware bepaalt de limiet, dus een lang script past mogelijk niet in een klein venster. Druk op Test voordat je de eerste echte taak geeft om te zien hoe je machine presteert.

Ingebouwd model

Het ingebouwde model is direct klaar voor gebruik zonder je eigen eindpunt, dus je kunt een chat openen en de agent direct na de installatie uitproberen op een klein Bash-script. Je kiest nog steeds een goedkeuringsmodus: Auto-run voert direct uit, Ask first pauzeert voordat er iets wordt gewijzigd, en Plan only schrijft een plan en voert niets uit. Voor moeilijkere stappen kun je later een cloud- of lokaal model toevoegen en die stappen daarheen sturen met run_on_model.

Controleer de verbinding met Test

De knop Test controleert een eindpunt en toont twee dingen: de responstijd en het contextvenster. Druk erop nadat je een eindpunt hebt ingevoerd en voordat je de agent een echte taak geeft. Een lange responstijd betekent dat het eindpunt momenteel traag is, en een klein contextvenster betekent dat een lang script en de uitvoer mogelijk niet in één verzoek passen. Als de controle mislukt, corrigeer dan het eindpuntadres of de sleutel en druk opnieuw op Test. Doe dit eenmaal voor elk eindpunt dat je toevoegt, omdat een cloud-model en een lokaal model veel kunnen verschillen in beide getallen.

Kies een modelgrootte voor je taak

Gebruik een groter model voor refactors en voor scripts met ingewikkelde logica, en een kleiner model voor kleine bewerkingen zoals het toevoegen van een -v-vlag of het quoten van een variabele. Het contextvenster wordt belangrijker naarmate het script en de uitvoer groeien, dus controleer dit met de knop Test. Wanneer één stap moeilijk is, stuurt run_on_model alleen die stap naar een groter model terwijl de rest van de chat op je gebruikelijke model blijft. Een verstandige gewoonte is om klein te beginnen en pas omhoog te gaan als het antwoord niet goed genoeg is. Cloud-modellen ontvangen de prompt, dus houd dat in gedachten wanneer een script privé-padnamen of namen bevat.

De kwaliteit varieert tussen modellen en tussen versies van hetzelfde model, dus accepteer een wijziging nooit zonder deze te lezen. Onder Ask first pauzeert de agent voordat er iets wordt gewijzigd, en bij een bewerking zie je de diff en kun je deze accepteren of afwijzen. Daarna kan Shell het script uitvoeren en de echte exitcode tonen, wat een betere test is dan de eigen uitleg van het model. Plan only is nuttig wanneer je eerst een plan wilt lezen voordat er iets wordt uitgevoerd.