Collegare un fornitore di AI
Lotti separa una configurazione AI in tre livelli: un provider è il servizio a cui ci si collega, un modello è un modello esposto attraverso quel servizio e un profilo di inferenza indirizza ogni tipo di lavoro a un modello. Configura prima un provider, poi rivedi i modelli e i profili creati attorno a esso.
Scegli locale o remoto
- Un provider cloud è solitamente la configurazione più rapida e richiede comunemente un'API Il testo, l'audio o le immagini inviate attraverso di esso lasciano il dispositivo.
- Un fornitore locale può mantenere l'inferenza sulla propria macchina o un endpoint locale si controlla, ma il suo servizio deve essere in esecuzione e raggiungibile dal dispositivo dove Lotti lo invoca. Un indirizzo LAN può ancora spostare un prompt tra il vostro dispositivi; “locale” significa che non viene inviato a un fornitore di modelli ospitato, non che non rete hop esiste.
- Un URL di base personalizzato può indicare un tipo di provider supportato in un proxy compatibile Il tipo di provider controlla ancora il comportamento specifico del protocollo.
Collegare un fornitore
- Aprire ** Impostazioni → Impostazioni AI → Provider**.
- Selezionare il pulsante +.
- Scegli un fornitore supportato.
- Inserisci il nome del display, l'endpoint e la chiave API quando necessario.
- Aggiungere qualsiasi modello suggerito che si desidera, quindi salvare.
Per i fornitori di prima generazione supportati, i semi Lotti sono modelli utili e uno o più Profili di inferenza. La schermata di risultato riassume ciò che è stato creato.
Ispezionare e mantenere una connessione
Aprire una carta del fornitore per ispezionare le credenziali mascherate, l'URL di base, i modelli salvati, e qualsiasi profilo attivo che dipende da quei modelli. Da qui è possibile modificare connessione, aggiungere un altro modello, o rimuovere il fornitore.
Cambiare un URL di base o chiave API influisce su ogni modello allegato a quel provider. Dopo aver cambiato entrambi i valori, verificare un'azione AI rappresentativa prima di assumere la connessione è sana. La rimozione di un fornitore può anche influenzare i profili che il lavoro di percorso attraverso i suoi modelli; rivedere le informazioni di dipendenza prima.
Profilo di recensione routing
Aprire Modelli e profili di inferenza per verificare cosa il fornitore espone e come Lotti percorsi ogni capacità. Categorie può impostare un profilo predefinito per il loro lavoro, mentre l'automazione individuale può selezionare o superare un modello in cui il flusso di lavoro offre quella scelta.
Limiti di privacy
Per inviare testo, audio o immagini sensibili, confermare se configurato un nome amichevole come “Habitat Local Lab” non è locale o remoto. il limite di sicurezza — l'URL di base, il percorso di rete, e la macchina che serve Lotti memorizza il logbook in entrambi i modi; questa decisione controlla l'inferenza si chiama.
Trattare le chiavi del fornitore come segreti. Mai incollarle in documentazione, problemi, o schermate.