Ruttarbete med modeller och profiler
En leverantör berättar för Lotti var hon ska koppla in. En modell registrerar ett leverantörsmodell-ID och dess kapaciteter. En inferensprofil tilldelar sedan dessa modeller till jobb Lotti förstår. Detta håller "vilken modell hanterar ljud?" utanför alla individuell uppgift och automatiseringsregel.
Granska sparade modeller
Öppna Inställningar → AI-inställningar → modeller. Listan grupperar modeller efter leverantör och exponerar funktionsfilter för text, bild, ljud och resonemang.
Kontrollen Samtidigt aktiverar agent högst upp i AI-inställningarna begränsar hur Många olika agenter kan dra inferens samtidigt. Ett högre värde kan förbättras genomströmning, men det ökar också samtidiga leverantörsförfrågningar och lokala Enheten laddas. Var försiktig när en leverantör har strikta prisgränser eller en Lokal modell Server har begränsat minne.
Lägg till eller redigera en modell
Välj ett modellkort, eller använd + för att lägga till ett. En modelldefinition inkluderar:
- leverantörsanslutningen;
- ett vänligt visningsnamn och valfri beskrivning;
- leverantörens exakta modell-ID;
- den maximala fullbordningstokengränsen;
- in- och utmatningsmodaliteter; och
- kapabilitetsflaggor såsom resonemang eller funktionsanrop.
Använd exakt den identifierare som leverantören förväntar sig. Visningsnamnet gäller endast för personer; Att ändra det ändrar inte vad leverantören driver. Gör inte anspråk på image, ljud-, verktygs- eller resonemangstöd, om inte den modellen och slutpunkten faktiskt är Ge det.
Bygg en inferensprofil
Öppna Inställningar → AI-inställningar → Inferensprofiler. Varje profil är återanvändbar Routingpolicy. Översikten visar vilken modell som tjänar varje konfigurerad plats.
Redigera en profil för att tilldela modeller för de funktioner du använder:
- Tänkande är den obligatoriska allmänna textmodellen.
- Thinking (High-End) kan hantera arbete som uttryckligen kräver fler En kapabel resonemangsväg.
- Bildigenkänning analyserar bilder.
- Transkription omvandlar ljud till text.
- Bildgenerering skapar uppgiftskonstverk och andra genererade bilder. The Den nuvarande inbyggda bildgenereringsvägen använder en konfigurerad fjärrleverantör, så Välj den vårdgivaren och de referenser du skickar med samma omsorg som någon annan Annan molninferensväg.
Endast för datorer döljer en profil på mobila plattformar, vilket är användbart när det gäller Det beror på en modell som bara kan nås från en arbetsstation. Enhetspinning är för Automatiserad synkroniserad ljudbehandling: Fäst endast när den valda enheten annonserar De tjänster som behövs av profilen. Utan fastnålad enhet är synkat ljud inte det automatiskt transkriberad av den profilen.
Välj en modell utan att memorera ID:n
Modellväljare börjar med leverantören och visar endast kompatibla sparade modeller. Pickern i en profilplats, till exempel, erbjuder inte en ljudmodell endast för ljud för textresonemang.
Sätt en kategoristandard
En kategori kan välja en standardinferensprofil under Inställningar → Definitioner → kategorier. Nytt arbete i den kategorin kan sedan ärva en Samordnad ruttningspolicy. Välj profilen vars integritet och kapacitet kombineras matchar kategorin istället för att välja enbart efter hastighet.
Legacy profilrutt
Den äldre fristående Inference Profiles-rutten finns fortfarande tillgänglig för kompatibilitet och redigerar samma lagrade profilposter. Den exponerar interna modell-ID:n och ger mindre beroendekontext än AI-inställningar, så föredra nuvarande AI-inställningar → Inferensprofiler-sidan för normalt underhåll.
Fortsätt med AI-färdigheter för att se hur den valda profilen blir en handling på en uppgift eller post.