Verbind een AI-provider
Lotti verdeelt een AI-setup in drie lagen: een provider is de dienst waarmee verbinding wordt gemaakt, een model is één model dat via die dienst beschikbaar is, en een inferentieprofiel stuurt elk soort werk naar een model. Begin met de provider en bekijk vervolgens de modellen en profielen die eromheen zijn gemaakt.
Kies lokaal of op afstand
- Een cloudprovider is meestal de snelste setup en vereist doorgaans een API-sleutel. Tekst, audio of afbeeldingen die erdoorheen worden verzonden, verlaten het apparaat.
- Een lokale provider kan de inferentie op je eigen machine houden of op een lokaal eindpunt dat jij beheert, maar de service moet draaien en bereikbaar zijn vanaf het apparaat waar Lotti hem aanroept. Een LAN-adres kan een prompt nog steeds tussen je apparaten verplaatsen; “lokaal” betekent dat er niets naar een gehoste modelprovider wordt gestuurd, niet dat er geen netwerkhop bestaat.
- Een aangepaste basis-URL kan een ondersteund providertype naar een compatibele proxy of gateway laten wijzen. Het providertype bepaalt nog steeds het protocolspecifieke gedrag.
Sluit een provider aan
- Open Instellingen → AI-instellingen → Aanbieders.
- Selecteer de knop +.
- Kies een ondersteunde provider.
- Voer indien nodig de weergavenaam, het eindpunt en de API-sleutel in.
- Voeg eventuele voorgestelde modellen toe en sla op.
Voor ondersteunde first-run providers zaait Lotti nuttige modellen en een of meer inferentieprofielen. Het resultatenscherm vat samen wat er is gemaakt.
Inspecteer en onderhoud een verbinding
Open een providerkaart om de gemaskeerde inloggegevens, de basis-URL, de opgeslagen modellen en elk actief profiel dat van die modellen afhangt te inspecteren. Vanaf hier kun je de verbinding bewerken, een ander model toevoegen of de provider verwijderen.
Het wijzigen van een basis-URL of API-sleutel is van invloed op elk model dat aan die provider is gekoppeld. Verifieer na het wijzigen van een van beide waarden een representatieve AI-actie voordat je ervan uitgaat dat de verbinding gezond is. Het verwijderen van een provider kan ook profielen raken die werk via zijn modellen routeren; bekijk eerst de afhankelijkheidsinformatie.
Bekijk profielroutering
Open Modellen en inferentieprofielen om te verifiëren wat de provider aanbiedt en hoe Lotti elke mogelijkheid routeert. Categorieën kunnen een standaardprofiel voor hun werk instellen, terwijl individuele automatisering een model kan selecteren of overschrijven waar de workflow die keuze biedt.
Privacygrens
Bevestig voordat je gevoelige tekst, audio of afbeeldingen verstuurt of het geconfigureerde eindpunt lokaal of extern is. Een vriendelijke naam als ‘Habitat Local Lab’ is niet de beveiligingsgrens – dat zijn de basis-URL, het netwerkpad en de machine die het eindpunt bedient. Lotti slaat het logboek hoe dan ook lokaal op; deze beslissing bepaalt de inferentieaanroep zelf.
Behandel providersleutels als geheimen. Plak ze nooit in documentatie, issues of schermafbeeldingen.