Solicitudes a modelos

Cómo encaja la inferencia de novita en un flujo de trabajo de IA

Novita te ayuda a convertir una entrada para un modelo en una salida que tu aplicación pueda utilizar. El flujo de trabajo básico consiste en elegir un modelo adecuado, enviar una solicitud bien estructurada, examinar la respuesta y gestionar los errores sin suponer que todos los modelos se comportan igual.

Explora la inferencia de modelos

Imagen principal de Novita que presenta los flujos de trabajo de modelos de IA

Dónde resultan útiles las respuestas de los modelos

El patrón de solicitud y respuesta es similar en distintas tareas, pero cambian la entrada, la salida esperada y las comprobaciones de validación.

Desarrollador de aplicaciones

Envía la pregunta de un usuario y el contexto relevante a un modelo de lenguaje y, después, muestra la respuesta en una aplicación.

Se puede revisar la pertinencia de una respuesta y darle formato antes de mostrársela al usuario.

novita LLM

Desarrollador de asistentes de programación

Envía una tarea de programación concreta con el lenguaje, las restricciones y el contexto de los archivos relacionados.

El cambio propuesto se puede verificar con pruebas en lugar de aceptarlo solo porque parece plausible.

Plan de programación de novita

Creador de prototipos creativos

Usa una instrucción visual para explorar conceptos de imagen antes de decidirte por un recurso definitivo.

La imagen generada puede orientar una iteración del diseño, según las entradas que admita el modelo seleccionado.

Modelos de imagen de novita

Diseñador de experiencias de audio

Prepara una entrada de texto o audio para una tarea relacionada con la voz cuando haya un modelo compatible disponible.

Se puede comprobar que el resultado sea inteligible, que tenga la duración adecuada y que sea apto para el público destinatario.

Modelos de voz de novita

Ejecuta una solicitud paso a paso

Considera cada respuesta como el resultado de un modelo, una entrada y un conjunto de opciones específicos, no como una respuesta universal.

Elige la tarea

Decide si necesitas una respuesta de texto, código, imagen o audio. Comprueba las entradas aceptadas por el modelo seleccionado y el formato de su respuesta antes de preparar una solicitud.

Prepara la entrada

Describe la tarea con claridad, incluye solo el contexto útil y especifica restricciones como el formato o la longitud cuando el modelo lo permita.

Examina el resultado

Comprueba el contenido recibido, gestiona los errores o los resultados incompletos y prueba las respuestas importantes antes de usarlas en un flujo de trabajo real.

Adapta la respuesta a su público

El mismo flujo de trabajo básico sirve a distintos equipos, pero la utilidad del resultado depende de lo que ocurra después de que el modelo responda.

Diseña en función del formato de la respuesta

Para una aplicación, define cómo debe ser un resultado satisfactorio antes de conectar un modelo. Una respuesta de texto, una imagen generada y un archivo de audio requieren distintas formas de validación y presentación.

Comprueba los campos obligatorios antes de mostrar el resultado.
Ten una alternativa para los errores o las respuestas inutilizables.

Haz que las comparaciones sean reproducibles

Al evaluar Novita para un experimento, registra el modelo, la entrada, las opciones y los criterios de evaluación. Cambiar varias variables a la vez dificulta explicar por qué cambia el resultado.

Usa un conjunto pequeño de tareas representativas.
Evalúa tanto la calidad como el tiempo de respuesta.

Revisa antes de publicar

El material generado puede servir como primer borrador o concepto, pero no debe aprobarse automáticamente. Comprueba la exactitud, el tono, los derechos y si el resultado cumple los requisitos.

Compara el resultado con los requisitos originales.
Haz que una persona apruebe el material destinado al público.

Consulta cómo se pasa de la solicitud al resultado

Ilustración que representa una solicitud a un modelo y su contexto

Ilustración que representa el resultado devuelto por un modelo — Respuesta a la revisión

Estas imágenes ilustran el flujo de trabajo; no son una comparación medida del antes y el después ni una garantía de la calidad del resultado.

Límites y casos especiales que conviene prever

La inferencia devuelve el resultado de un modelo. No sustituye la validación, las pruebas ni las decisiones sobre cómo utilizar ese resultado.

No existe un formato de entrada universal

Una solicitud adecuada para un modelo puede fallar o comportarse de manera diferente con otro.

AlternativaConsulta los requisitos de entrada del modelo elegido y prueba primero con una solicitud mínima.

No se garantiza la exactitud de los datos

Un texto fluido y unos contenidos multimedia convincentes pueden contener errores o no cumplir con lo solicitado.

AlternativaVerifica las afirmaciones importantes y revisa los recursos generados antes de publicarlos.

No hay recuperación automática de errores

Las solicitudes pueden fallar, agotar el tiempo de espera o devolver resultados que tu aplicación no pueda utilizar.

AlternativaGestiona los errores explícitamente y define qué verán los usuarios cuando un resultado no esté disponible.

No existe un perfil de rendimiento único

El tiempo de respuesta y las características del resultado dependen del modelo seleccionado, la entrada y las condiciones de funcionamiento.

AlternativaHaz pruebas con entradas representativas en lugar de basarte en un ejemplo ilustrativo.

Consulta las páginas específicas de cada modelo

Si tu tarea ya tiene un tipo de resultado definido, continúa con la página que lo aborda directamente.

Compara dos formas de usar el resultado de un modelo

Un experimento puntual y una función dirigida al usuario pueden partir de la misma tarea, pero necesitan distintas medidas de protección.

Exploración puntual Flujo de trabajo de la aplicación