Spendi meno sui modelli, senza perdere qualità
L’Autopilot prova da solo modelli più economici sulle tue chiamate vere, misura se le risposte restano equivalenti a quelle di oggi e, quando lo approvi, sposta il traffico al 10%, al 50% e al 100%. Se la qualità scende, torna indietro da solo.
Piano Free per sempre: 5000 richieste al mese, senza carta di credito.
Il modello giusto costa meno. Trovarlo costa tempo.
Ogni mese escono modelli più economici, ma provarli sui tuoi casi, misurarli e cambiare il codice senza rompere niente è un lavoro che nessuno ha tempo di fare.
Il modello più caro per tutto
Si sceglie un modello all’inizio e si usa per ogni chiamata, anche per estrazioni e classificazioni che ne richiedono uno molto più piccolo.
Benchmark che non sono i tuoi dati
Le classifiche dicono come va un modello in media. A te serve sapere come va sulle tue fatture, sui tuoi ticket, sui tuoi prompt.
Cambiare modello fa paura
Un modello più debole può rompere un agente in produzione. Senza misure e senza un modo per tornare indietro, si lascia tutto com’è.
Come funziona
Il codice dei tuoi agenti resta com’è. L’Autopilot lavora con le regole di instradamento, che crea e toglie da solo.
-
1
Imposti gli obiettivi
Qualità minima (95% di base), latenza, quanto spendere al mese per le prove e quali agenti lasciare stare.
-
2
Prova sulle chiamate vere
Per ogni agente e modello ripete una parte delle chiamate su un candidato più economico, dopo che l’agente ha già avuto la sua risposta. Gli agenti non vedono differenze.
-
3
Misura la qualità
Le risposte JSON si confrontano campo per campo, il testo libero lo valuta un giudice (il modello che usi oggi). I tuoi voti nei Confronti valgono più di tutto.
-
4
Sposta il traffico poco alla volta
Approvi il piano e il traffico passa al 10%, al 50% e al 100%, almeno un giorno per passo. Se il modello scelto rifiuta una chiamata, GuardrailX la rifà subito sul modello chiesto dal codice.
-
5
Sorveglia e prova i modelli nuovi
Una parte delle chiamate resta sotto controllo: se qualità o latenza scendono torna indietro e ti avvisa. Quando esce un modello ancora più economico lo prova e te lo propone.
Cosa cambia nel tuo codice
Niente. Le chiamate spostate lo dicono nelle intestazioni della risposta, e nella scheda Richieste vedi «chiesto → usato» con il risparmio stimato.
- x-guardrailx-modello-originale: il modello che il codice ha chiesto.
- x-guardrailx-instradamento: la regola e il modello usato.
- Per un agente che deve restare sul suo modello basta escluderlo negli obiettivi.
# Una chiamata spostata dall’Autopilot
HTTP/1.1 200 OK
x-guardrailx-modello-originale: gemini-3.5-flash
x-guardrailx-instradamento: sempre: gemini-3.5-flash-lite
# Il piano per l’agente «fatture»
oggi: gemini-3.5-flash, $40 / mese
candidato: gemini-3.5-flash-lite
qualità: 98%, 49/50 (obiettivo 95%)
risparmio: ~$32 / mese
passaggio: 10% → 50% → 100%
Quale modello prova
Un solo candidato per volta, dello stesso provider, almeno il 30% più economico a listino e non dismesso. Fra quelli validi prende il più vicino al modello di oggi.
| Dove lo cerca | Esempio |
|---|---|
| Le coppie consigliate dal provider | Il modello piccolo che il provider indica per quello grande |
| Lo stesso modello, ragionando meno | Se il ragionamento è almeno il 30% della spesa: reasoning_effort basso, prima di cambiare modello |
| La stessa famiglia | gpt-5 → gpt-5-mini |
| La versione economica della stessa categoria | gemini-3.6-flash → gemini-3.5-flash-lite |
| La stessa fascia di una generazione nuova | gemini-3.5-flash-lite → gemini-3.6-flash-lite |
Anche a mano: instradamento e confronti
L’Autopilot usa gli stessi strumenti che puoi usare tu: regole che mandano un modello su un altro e confronti per provare un modello sui tuoi dati prima di decidere.
- Una regola dice: quando un agente chiede questo modello, usa quest’altro. Per tutti gli agenti o per uno, per tutti i tipi di chiamata o solo alcuni.
- Se il modello nuovo rifiuta la richiesta, GuardrailX la ripete subito con quello chiesto: l’agente non si rompe per colpa di una regola.
- Un confronto ripete una parte delle chiamate su uno o più modelli e ti mostra le risposte fianco a fianco, con costi e tempi.
| Condizione della regola | Quando vale |
|---|---|
| Sempre · ogni chiamata a quel modello | Per il lavoro che non ha bisogno del modello più caro. |
| Budget in esaurimento · oltre la soglia di un limite | Quando un limite di spesa è già usato oltre la soglia, 80% di base. |
| Prompt corto · compiti semplici | Quando il prompt stimato ha meno token della soglia, 500 di base. |
| Riserva · se il provider sbaglia | Quando il provider risponde 429 o 5xx: la chiamata si rifà subito con l’altro modello. |
Domande sull’Autopilot
Devo cambiare il codice dei miei agenti?
No. L’Autopilot lavora con le regole di instradamento, che crea e toglie da solo. Il tuo codice continua a chiedere il modello di sempre; le chiamate spostate lo dicono nelle intestazioni x-guardrailx-modello-originale e x-guardrailx-instradamento.
Come fa a sapere se il modello più economico va bene?
Ripete una parte delle chiamate sul candidato e confronta le risposte: il JSON campo per campo, il testo libero con un giudice (il modello che usi oggi, con le tue chiavi). Un candidato passa solo con abbastanza coppie, qualità sopra l’obiettivo anche nel caso peggiore, latenza nei limiti e un risparmio vero. I tuoi voti valgono più del giudice.
Quanto costano le prove?
Prove, sorveglianza e giudice usano le chiavi dei tuoi provider e restano dentro la spesa al mese che scegli negli obiettivi. Raggiunta quella, le prove si fermano fino al mese dopo. Non entrano nella spesa degli agenti.
Che dati conserva?
Per misurare conserva un campione di domande e risposte, cifrato, e lo cancella dopo 30 giorni.
E se la qualità scende dopo il passaggio?
Una parte delle chiamate continua a essere ripetuta sul modello di partenza: se qualità o latenza scendono sotto l’obiettivo, il segmento torna indietro da solo e ti avvisiamo. Torna indietro anche se il risparmio sparisce perché i prezzi sono cambiati. Puoi anche farlo tu, con «Ritira».
Cosa succede quando esce un modello nuovo?
Se compare a listino un modello più economico, l’Autopilot se ne accorge entro un’ora e lo prova da solo, senza spostare niente finché la prova non è passata. Poi te lo propone; con «Applica da solo i miglioramenti futuri» parte senza chiedere.
Può spostare un agente da un provider a un altro?
No: un candidato è sempre dello stesso provider, perché OpenAI, Anthropic e Gemini usano formati di chiamata diversi. Con OpenRouter invece i modelli di produttori diversi hanno lo stesso formato, e una regola può passare da uno all’altro.
Funzioni collegate
Limiti di spesa a ogni livello
Per progetto, chiave, agente e sessione, al giorno e al mese. Superato il limite, la chiamata si ferma prima di costare.
Suggerimenti di risparmio
Ti indica i modelli sostituibili, il ragionamento che puoi limitare, i modelli dismessi e i budget a rischio di sforamento, con la stima di quanto risparmieresti e il modo per provarlo.
Privacy Guard
Maschera email, telefoni, IBAN, codici fiscali e nomi prima del provider e li rimette nella risposta. Oppure blocca la chiamata.
Metti un tetto alla spesa prima del prossimo loop.
Inizia con il piano Free: 5000 richieste al mese, senza carta e senza scadenza.