Conecte um provedor de IA

O Lotti separa uma configuração de IA em três camadas: um provedor é o serviço ao qual ele se conecta, um modelo é um modelo exposto por meio desse serviço e um perfil de inferência roteia cada tipo de trabalho para um modelo. Comece pelo provedor e, em seguida, revise os modelos e perfis criados em torno dele.

Todas as capturas de tela

As configurações de IA mantêm as conexões locais e na nuvem juntas. Cada cartão mostra o estado da conexão e quantos modelos salvos a utilizam.

Captura de telaVisualização para celular

Escolha local ou remoto

• Um provedor de nuvem costuma ser a configuração mais rápida e geralmente exige uma chave de API. Texto, áudio ou imagens enviados por meio dele saem do dispositivo.
• Um provedor local pode manter a inferência na sua própria máquina ou em um endpoint local que você controla, mas seu serviço deve estar em execução e acessível a partir do dispositivo onde o Lotti o invoca. Um endereço de LAN ainda pode mover um prompt entre os seus dispositivos; “local” significa que nada é enviado a um provedor de modelo hospedado, não que não exista nenhum salto de rede.
• Uma URL base personalizada pode apontar um tipo de provedor compatível para um proxy ou gateway compatível. O tipo de provedor ainda controla o comportamento específico do protocolo.

Conecte um provedor

1. Abra Configurações → Configurações de IA → Provedores.
2. Selecione o botão +.
3. Escolha um provedor compatível.
4. Insira o nome de exibição, o endpoint e a chave de API, quando necessário.
5. Adicione os modelos sugeridos que quiser e salve.

Para provedores com suporte, na primeira execução o Lotti pré-cria modelos úteis e um ou mais perfis de inferência. A tela de resultados resume o que foi criado.

Todas as capturas de tela

As credenciais permanecem mascaradas. Os modelos sugeridos são atalhos, não um requisito. Você pode adicionar IDs de modelo específicos do provedor posteriormente.

Captura de telaVisualização para celular

Inspecione e mantenha uma conexão

Abra um cartão de provedor para inspecionar a credencial mascarada, a URL base, os modelos salvos e qualquer perfil ativo que dependa desses modelos. A partir daí você pode editar a conexão, adicionar outro modelo ou remover o provedor.

Todas as capturas de tela

O resumo de dependências torna o raio de impacto visível antes de você alterar ou remover um provedor.

Captura de telaVisualização para celular

Alterar uma URL base ou uma chave de API afeta todos os modelos anexados a esse provedor. Depois de alterar qualquer um desses valores, verifique uma ação de IA representativa antes de presumir que a conexão está saudável. Remover um provedor também pode afetar perfis que roteiam trabalho por meio de seus modelos; revise as informações de dependência primeiro.

Revise o roteamento do perfil

Abra Modelos e perfis de inferência para verificar o que o provedor expõe e como o Lotti roteia cada recurso. As categorias podem definir um perfil padrão para o seu trabalho, enquanto automações individuais podem selecionar ou substituir um modelo quando o fluxo de trabalho oferece essa escolha.

Limite de privacidade

Antes de enviar texto, áudio ou imagens sensíveis, confirme se o endpoint configurado é local ou remoto. Um nome amigável como “Habitat Local Lab” não é o limite de segurança — a URL base, o caminho de rede e a máquina que o atende é que são. O Lotti armazena o diário de bordo localmente de qualquer forma; essa decisão controla a chamada de inferência em si.

Chaves de API

Trate as chaves do provedor como segredos. Nunca as cole em documentação, issues ou capturas de tela.