Routeer werk met modellen en profielen
Een provider vertelt Lotti waar hij verbinding moet maken. Een model registreert één providermodel-ID en zijn mogelijkheden. Een inferentieprofiel wijst die modellen vervolgens toe aan de taken die Lotti kent. Zo blijft de vraag “welk model verwerkt audio?” buiten elke afzonderlijke taak en automatiseringsregel.
Bekijk opgeslagen modellen
Open Instellingen → AI-instellingen → Modellen. De lijst groepeert modellen per provider en toont mogelijkheidsfilters voor tekst, beeld, audio en redeneren.
Het besturingselement Gelijktijdige toediening van het middel bovenaan de AI-instellingen beperkt hoeveel verschillende agenten tegelijk inferentie mogen draaien. Een hogere waarde kan de doorvoer verbeteren, maar verhoogt ook het aantal gelijktijdige providerverzoeken en de lokale apparaatbelasting. Houd de waarde conservatief als een provider strikte rate limits hanteert of een lokale modelserver weinig geheugen heeft.
Een model toevoegen of bewerken
Selecteer een modelkaart of gebruik + om er een toe te voegen. Een modeldefinitie omvat:
- de providerverbinding;
- een leesbare weergavenaam en optionele beschrijving;
- het exacte model-ID van de provider;
- de maximale limiet voor voltooiingstokens;
- invoer- en uitvoermodaliteiten; en
- mogelijkheidsvlaggen zoals redeneren of functieaanroepen.
Gebruik het exacte ID dat de provider verwacht. De weergavenaam is alleen voor mensen; als je die wijzigt, verandert er niets aan wat de provider uitvoert. Claim geen ondersteuning voor afbeeldingen, audio, tools of redeneren, tenzij dat model en eindpunt die daadwerkelijk bieden.
Bouw een inferentieprofiel
Open Instellingen → AI-instellingen → Inferentieprofielen. Elk profiel is een herbruikbaar routeringsbeleid. Het overzicht toont welk model elk geconfigureerd slot bedient.
Bewerk een profiel om modellen toe te wijzen voor de mogelijkheden die je gebruikt:
- Denken is het vereiste algemene tekstmodel.
- Denken (High-End) kan werk aan dat expliciet om het krachtigere redeneerpad vraagt.
- Beeldherkenning analyseert afbeeldingen.
- Omschrijving (het transcriptieslot) zet audio om in tekst.
- Afbeeldingsgeneratie maakt taakillustraties en andere gegenereerde afbeeldingen. Het huidige ingebouwde pad voor afbeeldingsgeneratie gebruikt een geconfigureerde externe provider, dus kies die provider en de referenties die je meestuurt met dezelfde zorg als elke andere cloud-inferentieroute.
Alleen bureaublad verbergt een profiel op mobiele platforms, wat handig is wanneer het afhangt van een model dat alleen vanaf een werkstation bereikbaar is. Apparaat-vastzetten is voor geautomatiseerde verwerking van gesynchroniseerde audio: zet alleen vast wanneer het geselecteerde apparaat de providers aanbiedt die het profiel nodig heeft. Zonder vastgezet apparaat wordt gesynchroniseerde audio niet automatisch door dat profiel getranscribeerd.
Kies een model zonder ID's te onthouden
Modelkiezers beginnen bij de provider en tonen alleen compatibele opgeslagen modellen. De kiezer in een profielslot biedt bijvoorbeeld geen audio-only model aan voor tekstredenering.
Stel een categoriestandaard in
Een categorie kan een standaardinferentieprofiel kiezen onder Instellingen → Definities → Categorieën. Nieuw werk in die categorie kan dan een coherent routeringsbeleid erven. Selecteer het profiel waarvan de privacy en mogelijkheden bij de categorie passen, in plaats van puur op snelheid te kiezen.
Verouderde profielroute
De oudere, zelfstandige route Inferentieprofielen blijft beschikbaar voor compatibiliteit en bewerkt dezelfde opgeslagen profielrecords. Ze toont interne model-ID's en biedt minder afhankelijkheidscontext dan AI-instellingen, dus geef voor normaal onderhoud de voorkeur aan de huidige pagina AI-instellingen → Inferentieprofielen.
Ga verder met AI-vaardigheden om te zien hoe het geselecteerde profiel een actie op een taak of item wordt.