処理を依頼してから結果が返り始めるまでの遅れのこと。短いほど「速い」と感じられ、リアルタイム対話や音声・エージェント用途で特に重要です。
似た言葉のスループット(量)とは別物。会話なら遅延、大量処理なら量が効きます。
リクエストを送ってから、応答が返り始めるまでの待ち時間。
処理を依頼してから結果が返り始めるまでの遅れのこと。短いほど「速い」と感じられ、リアルタイム対話や音声・エージェント用途で特に重要です。
似た言葉のスループット(量)とは別物。会話なら遅延、大量処理なら量が効きます。
定義には出典をつけ、随時見直しています。編集部が責任を持って管理し、誰でも編集できる方式ではありません。だから信頼と鮮度を保てます。