一定時間でどれだけの量(トークン・リクエスト等)を処理できるかを表す指標です。大量のデータをまとめてさばく用途で効いてきます。
レイテンシ(速さの体感)とは別。両方を見て、用途に合うものを選びます。
単位時間あたりに処理できる量。
一定時間でどれだけの量(トークン・リクエスト等)を処理できるかを表す指標です。大量のデータをまとめてさばく用途で効いてきます。
レイテンシ(速さの体感)とは別。両方を見て、用途に合うものを選びます。
定義には出典をつけ、随時見直しています。編集部が責任を持って管理し、誰でも編集できる方式ではありません。だから信頼と鮮度を保てます。