Quanto costerà far funzionare il tuo chatbot IA?

I provider fanno pagare per token, con un prezzo per il testo che invii (input) e uno più alto per il testo che il modello scrive (output). Il calcolatore somma tutti i token inviati e scritti in tutta la conversazione e moltiplica ciascun lato per il prezzo di listino del modello.

Il modello non ricorda nulla tra un messaggio e l'altro. Per rispondere alla quinta domanda nel contesto, l'app invia con essa le prime quattro domande e risposte. Per questo sono i token in ingresso, non le risposte, a costituire la maggior parte del conto di un chatbot.

In inglese un token è circa tre quarti di una parola, quindi 100 parole sono circa 133 token. Altre lingue, numeri e codice usano più token per parola, quindi aggiungi un margine se i tuoi clienti non scrivono in inglese.

Un assistente che risponde dai tuoi documenti cerca i passaggi che corrispondono a ogni domanda e li invia al modello insieme a essa. Di solito quei passaggi sono la parte più grande di ogni richiesta.

Sono i prezzi di listino pubblici dei provider alla data indicata sotto la tabella e cambiano. Gli sconti per richieste in cache o in batch non sono conteggiati, quindi considera il risultato una stima per eccesso e controlla la pagina prezzi del provider prima di fare il budget.

Sì, con un modello che ospiti tu, ad esempio tramite Ollama. Non c'è costo per token, ma paghi il computer su cui gira, e i piccoli modelli locali rispondono in modo meno affidabile di quelli ospitati.

No. Colleghi la tua chiave di OpenAI, Anthropic, Google, Groq o DeepSeek, oppure un modello self-hosted, e il provider ti fattura direttamente. Il prezzo del piano Crescelo è separato.