Připojení poskytovatele AI
Lotti odděluje nastavení AI do tří vrstev: poskytovatel je služba, ke které se připojuje, model je jeden model zpřístupněný touto službou a profil inference směruje jednotlivé druhy práce na modely. Začni poskytovatelem a potom zkontroluj modely a profily vytvořené kolem něj.
Vyber místní nebo vzdálený provoz
- Cloudový poskytovatel je obvykle nejrychlejší na nastavení a běžně vyžaduje API klíč. Text, zvuk nebo obrázky odeslané přes něj opouštějí zařízení.
- Místní poskytovatel může ponechat inferenci na tvém počítači nebo na místním koncovém bodu, který spravuješ, ale jeho služba musí běžet a být dostupná ze zařízení, kde ji Lotti volá. Adresa v místní síti může prompt stále přenášet mezi tvými zařízeními; „místní“ znamená, že se neposílá hostovanému poskytovateli modelu, ne že vůbec neprojde sítí.
- Vlastní základní URL může nasměrovat podporovaný typ poskytovatele na kompatibilní proxy nebo bránu. Typ poskytovatele stále řídí chování specifické pro protokol.
Připoj poskytovatele
- Otevři Nastavení → Nastavení AI → Poskytovatelé.
- Vyber tlačítko +.
- Zvol podporovaného poskytovatele.
- Zadej zobrazovaný název, koncový bod a případně API klíč.
- Přidej požadované navržené modely a ulož.
U poskytovatelů s podporou prvotního nastavení Lotti připraví užitečné modely a jeden či více profilů inference. Výsledná stránka shrne, co bylo vytvořeno.
Kontroluj a udržuj připojení
Otevři kartu poskytovatele a prohlédni skryté přihlašovací údaje, základní URL, uložené modely a aktivní profily, které na těchto modelech závisí. Odtud můžeš připojení upravit, přidat další model nebo poskytovatele odebrat.
Změna základní URL nebo API klíče ovlivní každý model připojený k poskytovateli. Po změně některé hodnoty ověř reprezentativní akci AI, než budeš připojení považovat za funkční. Odebrání poskytovatele může také ovlivnit profily směrující práci přes jeho modely; nejdřív zkontroluj závislosti.
Zkontroluj směrování profilů
V části Modely a profily inference ověř, co poskytovatel nabízí a jak Lotti směruje jednotlivé schopnosti. Kategorie může nastavit výchozí profil pro svou práci a jednotlivé automatizace mohou vybrat nebo přepsat model tam, kde to postup umožňuje.
Hranice soukromí
Před odesláním citlivého textu, zvuku nebo obrázků ověř, zda je nastavený koncový bod místní, nebo vzdálený. Přátelský název jako „Habitat Local Lab“ není bezpečnostní hranice — tou je základní URL, síťová cesta a počítač, který ji obsluhuje. Lotti ukládá deník místně v obou případech; toto rozhodnutí řídí jen samotné inferenční volání.
S klíči poskytovatelů zacházej jako s tajemstvím. Nikdy je nevkládej do dokumentace, hlášení ani snímků obrazovky.