Modellanfragen
Novita hilft Ihnen, eine Modelleingabe in eine Ausgabe umzuwandeln, die Ihre Anwendung nutzen kann. Der grundlegende Ablauf besteht darin, ein geeignetes Modell auszuwählen, eine korrekt formulierte Anfrage zu senden, die Antwort zu prüfen und Fehler zu behandeln, ohne davon auszugehen, dass sich alle Modelle gleich verhalten.
Das Anfrage-Antwort-Muster bleibt bei verschiedenen Aufgaben ähnlich, doch die Eingabe, die erwartete Ausgabe und die Prüfungen unterscheiden sich.
Übergeben Sie einem Sprachmodell eine Nutzerfrage und relevanten Kontext und zeigen Sie die Antwort anschließend in einer App an.
Eine Antwort kann auf Relevanz geprüft und formatiert werden, bevor sie den Nutzer erreicht.
novita LLMSenden Sie eine klar umrissene Programmieraufgabe mit Angaben zur Sprache, zu den Vorgaben und zum Kontext der umgebenden Dateien.
Die vorgeschlagene Änderung kann mit Tests überprüft werden, statt sie allein deshalb zu übernehmen, weil sie plausibel klingt.
novita-Coding-PlanNutzen Sie einen visuellen Prompt, um Bildkonzepte zu erkunden, bevor Sie sich für ein Asset für den produktiven Einsatz entscheiden.
Das zurückgegebene Bild kann als Grundlage für die weitere Gestaltung dienen, sofern die Eingaben vom ausgewählten Modell unterstützt werden.
novita-BildmodelleBereiten Sie Text- oder Audioeingaben für eine sprachbezogene Aufgabe vor, wenn ein kompatibles Modell verfügbar ist.
Die Ausgabe kann auf Verständlichkeit, Timing und Eignung für die Zielgruppe geprüft werden.
novita-SprachmodelleBetrachten Sie jede Antwort als Ergebnis eines bestimmten Modells, einer bestimmten Eingabe und einer bestimmten Auswahl an Optionen – nicht als universelle Antwort.
Entscheiden Sie, ob Sie Text-, Code-, Bild- oder Audioausgabe benötigen. Prüfen Sie, welche Eingaben das ausgewählte Modell akzeptiert und in welcher Form es die Ausgabe liefert, bevor Sie eine Anfrage vorbereiten.
Beschreiben Sie die Aufgabe klar, geben Sie nur hilfreichen Kontext an und legen Sie Einschränkungen wie Format oder Länge fest, sofern das Modell dies unterstützt.
Prüfen Sie den zurückgegebenen Inhalt, behandeln Sie Fehler oder unvollständige Ergebnisse und testen Sie wichtige Ausgaben, bevor Sie sie in einem produktiven Ablauf verwenden.
Der grundlegende Ablauf eignet sich für verschiedene Teams. Ob ein Ergebnis nützlich ist, hängt jedoch davon ab, was nach der Antwort des Modells damit geschieht.
Legen Sie für eine Anwendung fest, wie ein erfolgreiches Ergebnis aussieht, bevor Sie ein Modell einbinden. Eine Textantwort, ein generiertes Bild und eine Audiodatei erfordern unterschiedliche Wege zur Validierung und Darstellung.
Wenn Sie Novita für ein Experiment evaluieren, dokumentieren Sie Modell, Eingabe, Optionen und Bewertungskriterien. Wenn Sie mehrere Variablen gleichzeitig ändern, lassen sich abweichende Ergebnisse schwerer erklären.
Generierte Inhalte können als erster Entwurf oder als Konzept dienen, gelten aber nicht automatisch als freigegeben. Prüfen Sie Richtigkeit, Tonalität, Rechte und ob die Ausgabe die Vorgaben erfüllt.
Diese Darstellungen veranschaulichen den Ablauf; sie sind weder ein gemessener Vorher-nachher-Vergleich noch eine Garantie für die Qualität der Ergebnisse.
Die Inferenz liefert ein Modellergebnis. Sie ersetzt weder die Validierung und das Testen noch Entscheidungen darüber, wie das Ergebnis verwendet werden soll.
Eine Anfrage, die für ein Modell geeignet ist, kann bei einem anderen fehlschlagen oder zu anderen Ergebnissen führen.
LösungsansatzPrüfen Sie die Eingabeanforderungen des gewählten Modells und testen Sie zuerst eine minimale Anfrage.
Flüssige Texte und überzeugend wirkende Medien können dennoch Fehler enthalten oder die Aufgabenstellung verfehlen.
LösungsansatzÜberprüfen Sie Aussagen mit weitreichenden Folgen und begutachten Sie generierte Inhalte vor der Veröffentlichung.
Anfragen können fehlschlagen, eine Zeitüberschreitung verursachen oder Ergebnisse liefern, die Ihre Anwendung nicht verwenden kann.
LösungsansatzBehandeln Sie Fehler ausdrücklich und legen Sie fest, was Nutzer sehen, wenn kein Ergebnis verfügbar ist.
Antwortzeit und Eigenschaften der Ergebnisse hängen vom gewählten Modell, der Eingabe und den Betriebsbedingungen ab.
LösungsansatzTesten Sie mit repräsentativen Eingaben, statt sich auf ein veranschaulichendes Beispiel zu verlassen.
Wenn der Ausgabetyp für Ihre Aufgabe bereits feststeht, fahren Sie mit der Seite fort, die ihn direkt behandelt.
Hier geht es um Eingaben und Antworten von Sprachmodellen sowie um Prüfungen für textbasierte Aufgaben.
Erfahren Sie, wie ein Programmier-Workflow Anfragen strukturiert und vorgeschlagene Änderungen überprüft.
Betrachten Sie Aufgaben zur Bilderzeugung und die Fragen, die Sie bei der Auswahl eines Bildmodells stellen sollten.
Ein kurzer Test und eine Funktion für Nutzer können mit derselben Aufgabe beginnen, benötigen aber unterschiedliche Schutzmaßnahmen.
Einmalige Erkundung
Prüfen, ob ein Modell die Aufgabe bewältigen kann
Anwendungs-Workflow
Ein Ergebnis erzeugen, das die Anwendung zuverlässig verarbeiten kann
Einmalige Erkundung
Ein repräsentatives Beispiel
Anwendungs-Workflow
Validierte Nutzereingaben mit klaren Vorgaben
Einmalige Erkundung
Manuelle Prüfung
Anwendungs-Workflow
Formatprüfungen und, wenn die Tragweite es erfordert, eine zusätzliche Überprüfung
Einmalige Erkundung
Werden untersucht, sobald sie auftreten
Anwendungsworkflow
Mit einem definierten Fallback behandelt
Einmalige Erkundung
Einige beispielhafte Ergebnisse
Anwendungsworkflow
Ein wiederholbarer Satz realistischer Fälle
Einmalige Erkundung
Einstellungen können frei angepasst werden
Anwendungsworkflow
Modell- und Eingabeänderungen werden vor der Veröffentlichung getestet
Wählen Sie eine Aufgabe, bereiten Sie eine Eingabe vor und prüfen Sie, was das ausgewählte Modell zurückgibt. Entscheiden Sie anhand dieses Ergebnisses, welche Prüfungen und welches Fallback-Verhalten Ihr Workflow als Nächstes benötigt.
Damit ist gemeint, dass eine Eingabe an ein Modell gesendet und dessen Ausgabe über einen mit Novita verbundenen Workflow empfangen wird. Was Sie senden und empfangen, hängt vom Modell und der Aufgabe ab. Prüfen Sie daher die Anforderungen des ausgewählten Modells.
Nein. Bei der Inferenz wird ein Modell verwendet, um aus einer Eingabe ein Ergebnis zu erzeugen. Beim Training wird ein Modell mithilfe von Daten und einem Optimierungsprozess verändert. Diese Seite behandelt die Anfrage- und Antwortseite.
Geben Sie die Aufgabe, den relevanten Kontext und alle Ausgabevorgaben an, die das ausgewählte Modell unterstützt. Vermeiden Sie unnötige Informationen und prüfen Sie, ob die Eingabe dem vom Modell erwarteten Format entspricht.
Eine Antwort sollte im Hinblick auf ihren vorgesehenen Verwendungszweck geprüft werden. Überprüfen Sie wichtige Fakten, sichten Sie generierte Medien und berücksichtigen Sie Ergebnisse, die unvollständig, fehlerhaft formatiert oder ungeeignet sind.