Fournisseurs LLM

Configurer les fournisseurs IA pour le post-traitement

Le post-traitement applique votre règle Custom Prompts correspondante au texte transcrit, via un LLM. Il se configure dans Settings → Post-Processing (Réglages → Post-traitement).

Deux modes

  • Ollama (Local) — badge 100% Offline : "Private local LLM processing on your device".
  • Your API Key — badge BYOK : vous fournissez une clé pour l'un des fournisseurs cloud ci-dessous.

Fournisseurs BYOK

Choisissez-en un sous Provider :

  • Groq — Ultra-fast inference
  • OpenAI — GPT models
  • Anthropic — Claude models
  • Google Gemini — Fast & cheap
  • Mistral — European, GDPR
  • OpenRouter — 100+ models
  • Cerebras — Ultra-fast

Les listes de modèles sont récupérées, jamais codées en dur

Speakly n'embarque aucune liste de noms de modèles. Collez une clé valide et il demande au fournisseur quels modèles votre compte peut utiliser, puis remplit la liste déroulante avec cette réponse. Si un modèle enregistré disparaît côté fournisseur, Speakly bascule vers un modèle encore disponible au lieu d'échouer sur un 404.

Tant qu'aucune clé valide n'est présente, le champ affiche un message au lieu d'une liste :

  • Add a valid API key to load available models. — pas encore de clé
  • Loading models… — la récupération est en cours
  • No models found — check that your API key is valid. — le fournisseur a refusé la clé

Valeurs par défaut sur une installation neuve

  • Ollama Endpoint : http://127.0.0.1:11434
  • Model Name (Ollama) : llama3
  • Modèle OpenAI : gpt-5.6-luna
  • Modèle Groq : openai/gpt-oss-120b

Anthropic, Google Gemini, Mistral, OpenRouter et Cerebras n'ont pas de valeur par défaut livrée — leur modèle est choisi dans la liste récupérée dès que votre clé est renseignée.

Utiliser Ollama

  1. Installez Ollama depuis ollama.com.
  2. Lancez ollama serve, puis ollama pull llama3.
  3. Dans Settings → Post-Processing, choisissez Ollama (Local).
  4. Laissez Ollama Endpoint sur http://127.0.0.1:11434 et indiquez dans Model Name le modèle téléchargé.
  5. Cliquez sur Test Connection. Le résultat est Connected ou Connection failed.
Utilisez 127.0.0.1, pas localhost
La note de configuration de l'application indique d'utiliser 127.0.0.1 au lieu de localhost pour éviter les problèmes de connexion, et elle réécrit un endpoint enregistré en localhost vers 127.0.0.1 au chargement.
Fournisseurs LLM — Speakly