アプリケーション開発者
ユーザーの質問と関連するコンテキストを言語モデルに渡し、回答をアプリに表示します。
レスポンスはユーザーに届く前に、関連性を確認し、表示形式を整えることができます。
novita LLMモデルへのリクエスト
AIワークフローにおけるnovita推論の役割
Novitaを使うと、モデルへの入力をアプリケーションで利用できる出力に変換できます。基本的な流れは、適切なモデルを選び、形式の整ったリクエストを送信し、レスポンスを確認して、モデルごとの動作の違いを考慮しながらエラーに対処することです。
モデルのレスポンスが役立つ場面
リクエストとレスポンスの基本的な流れはタスクを問わず似ていますが、入力、期待する出力、検証項目は変わります。
コーディングアシスタントの開発者
使用言語、制約、関連ファイルのコンテキストを添えて、範囲を絞ったコーディングタスクを送信します。
提案された変更は、もっともらしく聞こえるという理由だけで採用せず、テストで確認できます。
novitaコーディングプランクリエイティブなプロトタイプの制作者
本番用の素材を決める前に、ビジュアルプロンプトを使って画像のアイデアを探ります。
返された画像は、選択したモデルが対応する入力の範囲内で、デザインの改善に役立てられます。
novita画像モデル音声体験のデザイナー
対応するモデルが利用できる場合は、音声関連のタスクに向けてテキストまたは音声の入力を用意します。
出力は、聞き取りやすさ、タイミング、想定する対象者への適合性を確認できます。
novita音声モデルリクエストを段階的に実行する
各レスポンスは、特定のモデル、入力、オプション設定による結果として扱い、どの場面にも通用する答えとは考えないでください。
タスクを選ぶ
テキスト、コード、画像、音声のどの出力が必要かを決めます。リクエストを準備する前に、選択したモデルが受け付ける入力と出力形式を確認してください。
入力を準備する
タスクを明確に伝え、役立つ背景情報だけを含めます。モデルが対応している場合は、形式や長さなどの制約も指定してください。
結果を確認する
返された内容を確認し、エラーや不完全な結果に対処します。重要な出力は、実際のワークフローで使用する前にテストしてください。
対象者に合わせて回答を調整する
基本的なワークフローはさまざまなチームで共通ですが、結果が役立つかどうかはモデルの応答後に何をするかによって変わります。
出力形式を踏まえて設計する
アプリケーションでは、モデルを接続する前に、成功と見なす結果を定義してください。テキストの回答、生成画像、音声ファイルでは、検証方法と表示方法がそれぞれ異なります。
- 表示する前に必須フィールドを確認してください。
- エラーや使用できない出力に備えて代替手段を用意してください。
比較の再現性を保つ
Novitaを実験で評価する際は、モデル、入力、オプション、評価基準を記録してください。一度に複数の変数を変えると、結果の違いを説明しにくくなります。
- 代表的なタスクを少数選んで使用してください。
- 応答時間だけでなく、品質も評価してください。
公開前に確認する
生成された素材は初稿やコンセプトにはなりますが、そのまま承認されたものではありません。正確性、トーン、権利、要件を満たしているかを確認してください。
- 結果を元の要件と照らし合わせてください。
- 一般公開する素材は担当者の承認を得てください。
リクエストから結果への引き継ぎを見る
準備済みのリクエスト
これらのビジュアルはワークフローを示すものです。測定に基づく導入前後の比較でも、出力品質を保証するものでもありません。
計画時に考慮すべき制限と境界条件
推論によってモデルの結果が返されます。その結果の検証やテスト、利用方法に関する判断に代わるものではありません。
- 万能な入力形式はありません
-
あるモデルに適したリクエストでも、別のモデルでは失敗したり、異なる動作をしたりする場合があります。
対処法選択したモデルの入力要件を確認し、まず最小限のリクエストでテストしてください。
- 事実の正確性は保証されません
-
流暢な文章や説得力のあるメディアでも、誤りを含んでいたり、要件を満たしていなかったりする場合があります。
対処法重要な主張は裏付けを確認し、生成されたコンテンツは公開前に確認してください。
- エラーからの自動復旧はありません
-
リクエストが失敗したり、タイムアウトしたり、アプリケーションで利用できない出力が返されたりする場合があります。
対処法エラーを明示的に処理し、結果を利用できないときにユーザーに何を表示するかを定めてください。
- パフォーマンス特性は一律ではありません
-
応答時間と出力の特性は、選択したモデル、入力、稼働状況によって異なります。
対処法説明用の例だけに頼らず、実際の用途を代表する入力でテストしてください。
モデル別のページに進む
タスクに必要な出力形式がすでに決まっている場合は、その形式を直接扱うページに進んでください。
モデルの結果を使う2つの方法を比較する
簡単な実験とユーザー向け機能は同じタスクから始められますが、必要な安全策は異なります。
単発の検証
アプリケーションのワークフロー
1
目的
単発の検証
モデルがそのタスクに対応できるかを確認する
アプリケーションのワークフロー
アプリケーションが一貫して処理できる結果を生成する
2
入力
単発の検証
代表的な例
アプリケーションのワークフロー
明確な制約に基づいて検証されたユーザー入力
3
出力の確認
単発の検証
目視で確認する
アプリケーションのワークフロー
形式のチェックに加え、重要度に応じたレビューを行う
4
エラー
単発の検証
発生するたびに調査する
アプリケーションのワークフロー
定義済みのフォールバックで対応
5
品質テスト
単発の検証
参考となる結果をいくつか確認
アプリケーションのワークフロー
再現可能な現実的なケース一式
6
変更管理
単発の検証
設定を自由に調整可能
アプリケーションのワークフロー
モデルと入力の変更をリリース前にテスト
ワークフローをテストする
代表的なリクエストを1つ試す
タスクを選び、入力を用意して、選択したモデルの出力を確認します。その結果をもとに、次にワークフローに必要なチェックとフォールバック動作を判断します。
- 出力タイプを選ぶ
- 現実的な入力をテストする
- 結果を確認する
Novitaのモデル推論に関する質問
Novitaに関連するワークフローを通じてモデルに入力を送信し、その出力を受け取ることを指します。送受信する内容はモデルとタスクによって異なるため、選択したモデルの要件を確認してください。
いいえ。推論はモデルを使って入力から結果を生成することです。一方、トレーニングはデータと最適化プロセスを使ってモデルを変更することです。このページでは、リクエストとレスポンスに関する内容を扱います。
タスク、関連するコンテキスト、選択したモデルが対応する出力上の制約を含めてください。不要な情報は避け、入力がそのモデルの想定する形式に合っていることを確認してください。
応答は用途に照らして確認する必要があります。重要な事実を検証し、生成されたメディアを確認し、不完全、形式不正、または用途に適さない結果には適切に対処してください。