Granska AI:s användning och påverkan
Öppna Inställningar → AI-inställningar → Användning och påverkan för att förstå hur de konfigurerade molnmodellerna används. Samma analys nås också via rutten för AI-påverkanspanelen.
Läs sammanfattningskorten
De översta korten sammanfattar den valda perioden:
- Kostnad uppskattar leverantörsutgifterna.
- Energi uppskattar el som kan hänföras till uppmätt molninferens.
- CO₂e uttrycker den tillhörande utsläppsuppskattningen.
- Tokens räknar bearbetade modelltokens.
- Förfrågningar räknar inferensanrop.
Jämförelseindikatorn använder den föregående motsvarande perioden när en sådan finns. En procentuell ökning är kontext, inte automatiskt ett problem: en vecka med uppskjutningsgranskning ska inte blint jämföras med en vecka då kolonin legat i vila.
Energi, CO₂e och kostnad mäts bara för molnmodeller. Lokal inferens kan förbruka betydande energi på enheten utan att synas i dessa molnuppskattningar, så den här sidan är inte en komplett effektmätare för hela systemet.
Ändra analysen
Använd periodkontrollen och pilknapparna för att röra dig genom tiden, eller hoppa till Den här månaden och I år. Välj sedan Båda, Efter kategori eller Efter modell. Inuti ett diagram kan du växla mellan värden per dag, löpande totalsummor och andel där det finns.
Kategorivyerna svarar på ”vilket arbetsområde drev användningen?”. Modellvyerna svarar på ”vilken konfigurerad modell drev användningen?”. Använd båda innan du ändrar en profil: en dyr modell kan vara motiverad för en specialistkategori men slösaktig som allmän standard.
Agera på ett överraskande resultat
Om användningen hoppar oväntat:
- begränsa perioden till den första berörda dagen;
- jämför kategori- och modelluppdelningarna;
- granska automation och agenternas samtidighet;
- inspektera inferensprofilen som är tilldelad den berörda kategorin; och
- verifiera faktureringen hos leverantören innan du behandlar Lottis uppskattning som en faktura.
För att ändra rutten som ansvarar för framtida anrop, gå tillbaka till Modeller och inferensprofiler.