Solicitações a modelos

Como a inferência novita se encaixa em um fluxo de trabalho de IA

A Novita ajuda você a transformar uma entrada de modelo em uma saída que seu aplicativo pode usar. O fluxo de trabalho básico é escolher um modelo adequado, enviar uma solicitação bem estruturada, examinar a resposta e lidar com falhas sem presumir que todos os modelos se comportam da mesma forma.

Imagem de destaque da Novita apresentando fluxos de trabalho com modelos de IA

Onde as respostas dos modelos são úteis

O padrão de solicitação e resposta é semelhante entre as tarefas, mas a entrada, a saída esperada e as verificações de validação mudam.

Desenvolvedor de aplicativos

Envie a pergunta de um usuário e o contexto relevante a um modelo de linguagem e, em seguida, exiba a resposta em um aplicativo.

A resposta pode ser avaliada quanto à relevância e formatada antes de chegar ao usuário.

novita LLM

Criador de assistentes de programação

Envie uma tarefa de programação específica com a linguagem, as restrições e o contexto dos arquivos relacionados.

A alteração proposta pode ser verificada com testes, em vez de ser aceita apenas porque parece plausível.

plano de programação novita

Criador de protótipos visuais

Use um prompt visual para explorar conceitos de imagem antes de definir um material para produção.

A imagem gerada pode orientar uma iteração do design, dependendo das entradas aceitas pelo modelo selecionado.

modelos de imagem novita

Designer de experiências de áudio

Prepare uma entrada de texto ou áudio para uma tarefa relacionada a voz quando houver um modelo compatível disponível.

A saída pode ser verificada quanto à inteligibilidade, ao tempo de execução e à adequação ao público-alvo.

modelos de voz novita

Execute uma solicitação passo a passo

Trate cada resposta como resultado de um modelo, uma entrada e um conjunto de opções específicos — não como uma resposta universal.

Escolha a tarefa

Decida se você precisa de uma saída de texto, código, imagem ou áudio. Verifique quais entradas o modelo selecionado aceita e o formato da saída antes de preparar uma solicitação.

Prepare a entrada

Descreva a tarefa com clareza, inclua apenas o contexto útil e especifique restrições, como formato ou tamanho, quando o modelo permitir.

Analise o resultado

Verifique o conteúdo retornado, trate erros ou resultados incompletos e teste as saídas importantes antes de usá-las em um fluxo de trabalho real.

Adapte a resposta ao público

O mesmo fluxo de trabalho básico atende a diferentes equipes, mas a utilidade do resultado depende do que acontece depois que o modelo responde.

Planeje com base no formato da resposta

Para um aplicativo, defina como deve ser um resultado bem-sucedido antes de conectar um modelo. Uma resposta em texto, uma imagem gerada e um arquivo de áudio exigem formas diferentes de validação e exibição.

  • Verifique os campos obrigatórios antes da exibição.
  • Tenha uma alternativa para erros ou saídas inutilizáveis.

Mantenha as comparações reproduzíveis

Ao avaliar a Novita para um experimento, registre o modelo, a entrada, as opções e os critérios de avaliação. Alterar várias variáveis ao mesmo tempo dificulta explicar uma diferença no resultado.

  • Use um pequeno conjunto de tarefas representativas.
  • Avalie a qualidade e também o tempo de resposta.

Revise antes de publicar

O material gerado pode servir como primeiro rascunho ou conceito, mas não está automaticamente aprovado. Verifique a precisão, o tom, os direitos de uso e se a saída atende ao briefing.

  • Compare o resultado com o briefing original.
  • Peça a uma pessoa que aprove o material destinado ao público.

Veja a passagem da solicitação ao resultado

Solicitação preparada

Ilustração que representa uma solicitação ao modelo e seu contexto
Ilustração que representa um resultado retornado pelo modelo
Resposta à avaliação

Estes elementos visuais ilustram o fluxo de trabalho; não são uma comparação medida de antes e depois nem uma garantia da qualidade do resultado.

Limites e casos extremos a considerar

A inferência retorna um resultado do modelo. Ela não substitui a validação, os testes nem as decisões sobre como esse resultado deve ser usado.

Não há um formato de entrada universal

Uma solicitação adequada para um modelo pode falhar ou se comportar de maneira diferente em outro.

AlternativaConfira os requisitos de entrada do modelo escolhido e teste primeiro uma solicitação mínima.

Não há garantia de precisão factual

Textos fluentes e conteúdos de mídia convincentes ainda podem conter erros ou não atender ao objetivo.

AlternativaVerifique afirmações relevantes e revise os materiais gerados antes da publicação.

Não há recuperação automática de erros

As solicitações podem falhar, exceder o tempo limite ou retornar uma saída que seu aplicativo não consegue usar.

AlternativaTrate os erros explicitamente e defina o que os usuários verão quando um resultado estiver indisponível.

Não há um perfil de desempenho único

O tempo de resposta e as características da saída dependem do modelo selecionado, da entrada e das condições de operação.

AlternativaTeste com entradas representativas em vez de depender de um exemplo ilustrativo.

Compare duas maneiras de usar o resultado de um modelo

Um experimento pontual e um recurso voltado ao usuário podem começar com a mesma tarefa, mas precisam de salvaguardas diferentes.

Exploração pontual Fluxo de trabalho da aplicação
1

Objetivo

Exploração pontual

Verificar se um modelo consegue realizar a tarefa

Fluxo de trabalho da aplicação

Produzir um resultado que a aplicação consiga processar de forma consistente

2

Entrada

Exploração pontual

Um exemplo representativo

Fluxo de trabalho da aplicação

Entrada do usuário validada com restrições claras

3

Verificação da saída

Exploração pontual

Inspeção manual

Fluxo de trabalho da aplicação

Verificações de formato, além de revisão quando os riscos exigirem

4

Erros

Exploração pontual

Investigados à medida que ocorrem

Fluxo de trabalho da aplicação

Tratado com uma alternativa definida

5

Teste de qualidade

Exploração pontual

Alguns resultados ilustrativos

Fluxo de trabalho da aplicação

Um conjunto reproduzível de casos realistas

6

Gerenciamento de mudanças

Exploração pontual

As configurações podem ser ajustadas livremente

Fluxo de trabalho da aplicação

As alterações no modelo e nas entradas são testadas antes do lançamento

Coloque o fluxo de trabalho à prova

Comece com uma solicitação representativa

Escolha uma tarefa, prepare uma entrada e examine o que o modelo selecionado retorna. Use esse resultado para decidir quais verificações e qual comportamento alternativo seu fluxo de trabalho precisa adotar em seguida.

  • Escolha um tipo de saída
  • Teste uma entrada realista
  • Analise o resultado

Perguntas sobre inferência de modelos da Novita

Refere-se ao envio de uma entrada a um modelo e ao recebimento da saída por meio de um fluxo de trabalho relacionado à Novita. O que você envia e recebe depende do modelo e da tarefa, então confira os requisitos do modelo selecionado.

Não. A inferência usa um modelo para produzir um resultado a partir de uma entrada, enquanto o treinamento modifica um modelo por meio de dados e de um processo de otimização. Esta página aborda a etapa de solicitação e resposta.

Inclua a tarefa, o contexto relevante e quaisquer restrições de saída aceitas pelo modelo selecionado. Evite informações desnecessárias e confirme que a entrada corresponde ao formato esperado pelo modelo.

Uma resposta deve ser verificada de acordo com o uso pretendido. Confirme os fatos importantes, inspecione a mídia gerada e trate resultados incompletos, malformados ou inadequados.

Comece a criar
Comece a criar