Rutta arbete med modeller och profiler
En leverantör talar om för Lotti var anslutningen ska ske. En modell registrerar ett leverantörsmodell-ID och dess kapaciteter. En inferensprofil tilldelar sedan dessa modeller till de jobb Lotti förstår. Det håller ”vilken modell hanterar ljud?” borta från varje enskild uppgift och automationsregel.
Granska sparade modeller
Öppna Inställningar → AI-inställningar → Modeller. Listan grupperar modeller efter leverantör och erbjuder kapacitetsfilter för text, syn, ljud och resonemang.
Kontrollen Samtidigt agent vaknar högst upp i AI-inställningarna begränsar hur många olika agenter som får köra inferens samtidigt. Ett högre värde kan förbättra genomströmningen, men det ökar också antalet samtidiga leverantörsförfrågningar och belastningen på den lokala enheten. Håll det försiktigt när en leverantör har strikta frekvensgränser eller en lokal modellserver har begränsat minne.
Lägg till eller redigera en modell
Välj ett modellkort, eller använd + för att lägga till ett. En modelldefinition omfattar:
- leverantörsanslutningen;
- ett vänligt visningsnamn och en valfri beskrivning;
- leverantörens exakta modell-ID;
- den maximala gränsen för slutförandetokens;
- in- och utmatningsmodaliteter; och
- kapacitetsflaggor såsom resonemang eller funktionsanrop.
Använd exakt den identifierare leverantören förväntar sig. Visningsnamnet är bara till för människor; att ändra det ändrar inte vad leverantören kör. Hävda inte stöd för bild, ljud, verktyg eller resonemang om inte modellen och slutpunkten faktiskt erbjuder det.
Bygg en inferensprofil
Öppna Inställningar → AI-inställningar → Profiler. Varje profil är en återanvändbar routningspolicy. Översikten visar vilken modell som betjänar varje konfigurerad plats.
Redigera en profil för att tilldela modeller för de kapaciteter du använder:
- Tänkande är den obligatoriska allmänna textmodellen.
- Tänkande (avancerat) kan hantera arbete som uttryckligen begär den mer kapabla resonemangsvägen.
- Bildigenkänning analyserar bilder.
- Transkription omvandlar ljud till text.
- Bildgenerering skapar uppgiftskonst och andra genererade bilder. Den nuvarande inbyggda bildgenereringsvägen använder en konfigurerad fjärrleverantör, så välj den leverantören och de referenser du skickar med samma omsorg som vilken annan molninferensväg som helst.
Endast för skrivbord döljer en profil på mobila plattformar, vilket är användbart när den beror på en modell som bara kan nås från en arbetsstation. Enhetsfästning är till för automatiserad bearbetning av synkat ljud: fäst bara när den valda enheten annonserar de leverantörer profilen behöver. Utan fäst enhet transkriberas synkat ljud inte automatiskt av den profilen.
Välj en modell utan att memorera ID:n
Modellväljare börjar med leverantören och visar bara kompatibla sparade modeller. Väljaren i en profilplats erbjuder till exempel inte en ren ljudmodell för textresonemang.
Sätt en kategoristandard
En kategori kan välja en standardinferensprofil under Inställningar → Definitioner → Kategorier. Nytt arbete i den kategorin kan sedan ärva en sammanhängande routningspolicy. Välj profilen vars mix av integritet och kapacitet matchar kategorin, i stället för att välja enbart efter hastighet.
Äldre profilrutt
Den äldre fristående rutten Inferensprofiler finns kvar för kompatibilitet och redigerar samma lagrade profilposter. Den exponerar interna modell-ID:n och ger mindre beroendekontext än AI-inställningarna, så föredra den aktuella sidan AI-inställningar → Profiler för normalt underhåll.
Fortsätt med AI-färdigheter för att se hur den valda profilen blir en åtgärd på en uppgift eller post.