SpeaklySpeakly

LLM-Anbieter

KI-Anbieter für Nachbearbeitung konfigurieren

Die Nachbearbeitung lässt Ihre passende Custom-Prompts-Regel per LLM über den transkribierten Text laufen. Eingerichtet wird sie in Settings → Post-Processing (Einstellungen → Nachbearbeitung).

Zwei Modi

  • Ollama (Local) — mit dem Abzeichen 100% Offline: "Private local LLM processing on your device".
  • Your API Key — mit dem Abzeichen BYOK: Sie hinterlegen einen Schlüssel für einen der Cloud-Anbieter unten.

BYOK-Anbieter

Wählen Sie einen unter Provider:

  • Groq — Ultra-fast inference
  • OpenAI — GPT models
  • Anthropic — Claude models
  • Google Gemini — Fast & cheap
  • Mistral — European, GDPR
  • OpenRouter — 100+ models
  • Cerebras — Ultra-fast

Modelllisten werden abgefragt, nie fest verdrahtet

Speakly liefert keine Liste von Modellnamen mit. Fügen Sie einen gültigen Schlüssel ein, fragt es den Anbieter, welche Modelle Ihr Konto nutzen darf, und füllt die Auswahl mit dieser Antwort. Verschwindet ein gespeichertes Modell beim Anbieter, wechselt Speakly auf ein noch vorhandenes, statt mit einem 404 zu scheitern.

Solange kein gültiger Schlüssel vorliegt, zeigt das Feld eine Meldung statt einer Auswahl:

  • Add a valid API key to load available models. — noch kein Schlüssel
  • Loading models… — die Abfrage läuft
  • No models found — check that your API key is valid. — der Anbieter hat den Schlüssel abgelehnt

Voreinstellungen bei einer frischen Installation

  • Ollama Endpoint: http://127.0.0.1:11434
  • Model Name (Ollama): llama3
  • OpenAI-Modell: gpt-5.6-luna
  • Groq-Modell: openai/gpt-oss-120b

Für Anthropic, Google Gemini, Mistral, OpenRouter und Cerebras ist kein Modell voreingestellt — es wird aus der abgefragten Liste gewählt, sobald Ihr Schlüssel hinterlegt ist.

Ollama verwenden

  1. Installieren Sie Ollama von ollama.com.
  2. Führen Sie ollama serve aus, dann ollama pull llama3.
  3. Wählen Sie in Settings → Post-Processing die Option Ollama (Local).
  4. Lassen Sie Ollama Endpoint auf http://127.0.0.1:11434 und setzen Sie Model Name auf das geladene Modell.
  5. Klicken Sie Test Connection. Das Ergebnis ist Connected oder Connection failed.
127.0.0.1 verwenden, nicht localhost
Der Einrichtungshinweis der App sagt, 127.0.0.1 statt localhost zu verwenden, um Verbindungsprobleme zu vermeiden; ein gespeicherter localhost-Endpunkt wird beim Laden auf 127.0.0.1 umgeschrieben.
LLM-Anbieter — Speakly