Provider LLM

Configura provider IA per la post-elaborazione

La post-elaborazione applica la regola di Custom Prompts corrispondente al testo trascritto, usando un LLM. Si configura in Settings → Post-Processing (Impostazioni → Post-elaborazione).

Due modalità

  • Ollama (Local) — con il badge 100% Offline: "Private local LLM processing on your device".
  • Your API Key — con il badge BYOK: fornisci una chiave per uno dei provider cloud qui sotto.

Provider BYOK

Scegline uno sotto Provider:

  • Groq — Ultra-fast inference
  • OpenAI — GPT models
  • Anthropic — Claude models
  • Google Gemini — Fast & cheap
  • Mistral — European, GDPR
  • OpenRouter — 100+ models
  • Cerebras — Ultra-fast

Gli elenchi dei modelli vengono richiesti, non scritti nel codice

Speakly non include alcun elenco di nomi di modelli. Incolla una chiave valida e chiede al provider quali modelli il tuo account può usare, poi riempie il menu con quella risposta. Se un modello salvato scompare a monte, Speakly passa a uno ancora disponibile invece di fallire con un 404.

Finché non c'è una chiave valida, il campo mostra un messaggio invece del menu:

  • Add a valid API key to load available models. — nessuna chiave
  • Loading models… — richiesta in corso
  • No models found — check that your API key is valid. — il provider ha rifiutato la chiave

Valori predefiniti su un'installazione nuova

  • Ollama Endpoint: http://127.0.0.1:11434
  • Model Name (Ollama): llama3
  • Modello OpenAI: gpt-5.6-luna
  • Modello Groq: openai/gpt-oss-120b

Anthropic, Google Gemini, Mistral, OpenRouter e Cerebras non hanno un predefinito incluso — il modello si sceglie dall'elenco richiesto appena inserisci la chiave.

Usare Ollama

  1. Installa Ollama da ollama.com.
  2. Esegui ollama serve, poi ollama pull llama3.
  3. In Settings → Post-Processing scegli Ollama (Local).
  4. Lascia Ollama Endpoint su http://127.0.0.1:11434 e imposta Model Name sul modello scaricato.
  5. Clicca Test Connection. Il risultato è Connected oppure Connection failed.
Usa 127.0.0.1, non localhost
La nota di configurazione dell'app dice di usare 127.0.0.1 invece di localhost per evitare problemi di connessione, e all'avvio riscrive un endpoint salvato con localhost in 127.0.0.1.
Provider LLM — Speakly