Einen KI-Anbieter verbinden
Lotti trennt die KI-Einrichtung in drei Ebenen: Ein Anbieter ist der verbundene Dienst, ein Modell ist ein Modell dieses Dienstes und ein Inferenzprofil leitet jede Arbeitsart zu einem Modell. Beginne mit dem Anbieter und prüfe danach Modelle und Profile.
Lokal oder entfernt wählen
- Ein Cloud-Anbieter ist meist am schnellsten eingerichtet und braucht häufig einen API-Schlüssel. Gesendete Texte, Audios oder Bilder verlassen das Gerät.
- Ein lokaler Anbieter kann Inferenz auf deiner Maschine oder an einem lokalen Endpunkt halten, den du kontrollierst. Sein Dienst muss laufen und vom aufrufenden Lotti-Gerät erreichbar sein. Eine LAN-Adresse kann eine Anfrage dennoch zwischen deinen Geräten übertragen; „lokal“ heißt, dass sie nicht an einen gehosteten Modellanbieter geht, nicht dass gar kein Netzwerk beteiligt ist.
- Eine eigene Basis-URL kann einen unterstützten Anbietertyp auf einen kompatiblen Proxy oder Gateway richten. Der Anbietertyp steuert weiterhin protokollspezifisches Verhalten.
Einen Anbieter verbinden
- Öffne Einstellungen → KI-Einstellungen → Anbieter.
- Wähle +.
- Wähle einen unterstützten Anbieter.
- Gib Anzeigename, Endpunkt und bei Bedarf API-Schlüssel ein.
- Füge gewünschte vorgeschlagene Modelle hinzu und speichere.
Bei unterstützten Ersteinrichtungen legt Lotti nützliche Modelle und ein oder mehrere Inferenzprofile an. Die Ergebnisseite fasst alles Erstellte zusammen.
Eine Verbindung prüfen und pflegen
Öffne eine Anbieterkarte, um maskierte Zugangsdaten, Basis-URL, gespeicherte Modelle und aktive abhängige Profile zu sehen. Hier kannst du die Verbindung bearbeiten, ein Modell ergänzen oder den Anbieter entfernen.
Eine neue Basis-URL oder ein neuer API-Schlüssel betrifft jedes Modell dieses Anbieters. Teste danach eine repräsentative KI-Aktion. Auch das Entfernen kann Profile beschädigen, die über diese Modelle routen; prüfe zuerst die Abhängigkeiten.
Profilrouting prüfen
Unter Modelle und Inferenzprofile siehst du, was der Anbieter bereitstellt und wie Lotti Fähigkeiten verteilt. Kategorien können ein Standardprofil setzen; einzelne Abläufe können ein Modell wählen oder einmalig überschreiben, wenn der jeweilige Ablauf diese Wahl anbietet.
Datenschutzgrenze
Prüfe vor dem Senden sensibler Texte, Audios oder Bilder, ob der Endpunkt lokal oder entfernt ist. Ein freundlicher Name wie „Lokales Habitat-Labor“ ist keine Sicherheitsgrenze – Basis-URL, Netzwerkpfad und bereitstellende Maschine sind es. Das Logbuch bleibt in beiden Fällen lokal; diese Entscheidung betrifft den Inferenzaufruf selbst.
Behandle Anbieterschlüssel wie Geheimnisse. Kopiere sie nie in Dokumentation, Issues oder Screenshots.