Requêtes aux modèles
Novita vous aide à transformer une entrée de modèle en une sortie utilisable par votre application. Le flux de travail essentiel consiste à choisir un modèle adapté, à envoyer une requête correctement formulée, à examiner la réponse et à gérer les échecs sans supposer que tous les modèles se comportent de la même façon.
Le schéma requête-réponse reste similaire d’une tâche à l’autre, mais l’entrée, la sortie attendue et les vérifications de validation changent.
Transmettez la question d’un utilisateur et le contexte pertinent à un modèle de langage, puis affichez la réponse dans une application.
Une réponse peut être examinée pour vérifier sa pertinence et mise en forme avant d’être présentée à l’utilisateur.
LLM novitaEnvoyez une tâche de programmation précise en indiquant le langage, les contraintes et le contexte des fichiers concernés.
La modification proposée peut être vérifiée à l’aide de tests plutôt qu’acceptée simplement parce qu’elle semble plausible.
Plan de programmation novitaUtilisez une consigne visuelle pour explorer des concepts d’image avant de vous engager dans la création d’un visuel de production.
L’image obtenue peut guider une itération de conception, sous réserve des entrées prises en charge par le modèle sélectionné.
Modèles d’image novitaPréparez une entrée textuelle ou audio pour une tâche liée à la voix lorsqu’un modèle compatible est disponible.
La sortie peut être vérifiée pour s’assurer de son intelligibilité, de sa synchronisation et de son adéquation au public visé.
Modèles vocaux novitaConsidérez chaque réponse comme le résultat d’un modèle, d’une entrée et d’un ensemble d’options précis, et non comme une réponse universelle.
Déterminez si vous avez besoin d’un résultat sous forme de texte, de code, d’image ou d’audio. Vérifiez les entrées acceptées et le format de sortie du modèle sélectionné avant de préparer une requête.
Décrivez clairement la tâche, incluez uniquement le contexte utile et précisez les contraintes, comme le format ou la longueur, si le modèle le permet.
Vérifiez le contenu renvoyé, gérez les erreurs ou les résultats incomplets et testez les sorties importantes avant de les utiliser dans un processus en production.
Le même processus de base convient à différentes équipes, mais l’utilité du résultat dépend de ce qui se passe après la réponse du modèle.
Pour une application, définissez ce qu’est un résultat satisfaisant avant de connecter un modèle. Une réponse textuelle, une image générée et un fichier audio nécessitent des méthodes de validation et d’affichage différentes.
Lorsque vous évaluez Novita dans le cadre d’une expérience, consignez le modèle, l’entrée, les options et les critères d’évaluation. Modifier plusieurs variables à la fois rend plus difficile l’explication d’un résultat différent.
Le contenu généré peut servir de première ébauche ou de concept, mais ne doit pas être approuvé automatiquement. Vérifiez son exactitude, son ton, les droits applicables et sa conformité au cahier des charges.
Ces visuels illustrent le processus ; ils ne constituent ni une comparaison avant-après mesurée ni une garantie de qualité du résultat.
L’inférence renvoie le résultat d’un modèle. Elle ne remplace ni la validation, ni les tests, ni les décisions concernant l’utilisation de ce résultat.
Une requête adaptée à un modèle peut échouer ou se comporter différemment avec un autre.
Solution de contournementVérifiez les exigences d’entrée du modèle choisi et testez d’abord une requête minimale.
Un texte fluide et des contenus visuels convaincants peuvent malgré tout contenir des erreurs ou ne pas répondre à la demande.
Solution de contournementVérifiez les affirmations importantes et examinez les contenus générés avant leur publication.
Les requêtes peuvent échouer, expirer ou renvoyer un résultat que votre application ne peut pas utiliser.
Solution de contournementGérez explicitement les erreurs et définissez ce que les utilisateurs verront lorsqu’un résultat n’est pas disponible.
Le temps de réponse et les caractéristiques du résultat dépendent du modèle choisi, de l’entrée et des conditions de fonctionnement.
Solution de contournementEffectuez des tests avec des entrées représentatives plutôt que de vous fier à un exemple illustratif.
Si le type de résultat attendu pour votre tâche est déjà connu, poursuivez avec la page qui le traite directement.
Concentrez-vous sur les entrées, les réponses et les vérifications des modèles de langage pour les tâches textuelles.
Découvrez comment un flux de travail de codage structure les requêtes et vérifie les modifications proposées.
Examinez les tâches de production visuelle et les questions à se poser pour choisir un modèle d’image.
Une expérimentation ponctuelle et une fonctionnalité destinée aux utilisateurs peuvent partir de la même tâche, mais nécessitent des garde-fous différents.
Exploration ponctuelle
Voir si un modèle peut accomplir la tâche
Flux de travail applicatif
Produire un résultat que l’application peut traiter de manière cohérente
Exploration ponctuelle
Un exemple représentatif
Flux de travail applicatif
Des données saisies par l’utilisateur, validées et soumises à des contraintes claires
Exploration ponctuelle
Inspection manuelle
Flux de travail applicatif
Vérifications du format et examen lorsque les enjeux l’exigent
Exploration ponctuelle
Examinées au fur et à mesure qu’elles surviennent
Flux de travail de l’application
Géré avec une solution de repli définie
Exploration ponctuelle
Quelques résultats illustratifs
Flux de travail de l’application
Un ensemble reproductible de cas réalistes
Exploration ponctuelle
Les paramètres peuvent être ajustés librement
Flux de travail de l’application
Les changements de modèle et d’entrée sont testés avant la mise en production
Choisissez une tâche, préparez une entrée et examinez ce que renvoie le modèle sélectionné. Utilisez ce résultat pour déterminer les vérifications et le comportement de repli dont votre flux de travail a besoin.
Il s’agit d’envoyer une entrée à un modèle et de recevoir sa sortie dans le cadre d’un flux de travail lié à Novita. Ce que vous envoyez et recevez dépend du modèle et de la tâche. Vérifiez donc les exigences du modèle sélectionné.
Non. L’inférence utilise un modèle pour produire un résultat à partir d’une entrée, tandis que l’entraînement modifie un modèle à l’aide de données et d’un processus d’optimisation. Cette page porte sur l’envoi des requêtes et la réception des réponses.
Incluez la tâche, le contexte pertinent et toutes les contraintes de sortie prises en charge par le modèle sélectionné. Évitez les informations inutiles et vérifiez que l’entrée correspond au format attendu par ce modèle.
Une réponse doit être vérifiée en fonction de l’usage prévu. Vérifiez les faits importants, examinez les médias générés et gérez les résultats incomplets, mal formés ou inadaptés.