Koppla ihop en AI-leverantör
Lotti delar upp en AI-uppsättning i tre lager: en leverantör är tjänsten den ansluter till, en modell är en modell som exponeras genom den tjänsten, och en inferensprofil leder varje typ av arbete till en modell. Börja med leverantören, och granska sedan modellerna och profilerna som skapats kring den.
Välj lokalt eller fjärran
- En molnleverantör är oftast den snabbaste installationen och kräver i regel en API-nyckel. Text, ljud eller bilder som skickas genom den lämnar enheten.
- En lokal leverantör kan hålla inferensen på din egen maskin eller en lokal slutpunkt du kontrollerar, men dess tjänst måste vara igång och nåbar från enheten där Lotti anropar den. En LAN-adress kan fortfarande flytta en prompt mellan dina enheter; ”lokal” betyder att inget skickas till en hostad modelleverantör, inte att det saknas nätverkshopp.
- En anpassad bas-URL kan peka en stödd leverantörstyp mot en kompatibel proxy eller gateway. Leverantörstypen styr fortfarande protokollspecifikt beteende.
Koppla en leverantör
- Öppna Inställningar → AI-inställningar → Leverantörer.
- Välj +-knappen.
- Välj en stödd leverantör.
- Ange dess visningsnamn, slutpunkt och API-nyckel vid behov.
- Lägg till de föreslagna modeller du vill ha och spara sedan.
För stödda förstagångsleverantörer lägger Lotti in användbara modeller och en eller flera inferensprofiler. Resultatskärmen sammanfattar vad som skapades.
Inspektera och underhåll en anslutning
Öppna ett leverantörskort för att inspektera dess maskerade inloggningsuppgift, bas-URL, sparade modeller och alla aktiva profiler som är beroende av dessa modeller. Härifrån kan du redigera anslutningen, lägga till en modell till eller ta bort leverantören.
Att ändra en bas-URL eller API-nyckel påverkar varje modell som är kopplad till den leverantören. Efter att du ändrat något av värdena, verifiera en representativ AI-åtgärd innan du utgår från att anslutningen är frisk. Att ta bort en leverantör kan också påverka profiler som ruttar arbete genom dess modeller; gå igenom beroendeinformationen först.
Granska profilroutningen
Öppna Modeller och inferensprofiler för att verifiera vad leverantören exponerar och hur Lotti ruttar varje kapacitet. Kategorier kan sätta en standardprofil för sitt arbete, medan enskild automation kan välja eller åsidosätta en modell där arbetsflödet erbjuder det valet.
Integritetsgräns
Innan du skickar känslig text, känsligt ljud eller känsliga bilder, kontrollera om den konfigurerade slutpunkten är lokal eller fjärran. Ett vänligt namn som ”Habitat Local Lab” är inte säkerhetsgränsen — det är bas-URL:en, nätverksvägen och maskinen som betjänar den. Lotti lagrar loggboken lokalt oavsett; det här beslutet styr själva inferensanropet.
Behandla leverantörsnycklar som hemligheter. Klistra aldrig in dem i dokumentation, ärenden eller skärmdumpar.