性能

リトルの法則

待ち行列の不変量。

条文

もし

安定したシステムでは、系内の平均項目数 (L) は平均到着率 (λ) と平均滞留時間 (W) の積に等しい: L = λW。到着分布やサービス規律に依らず成り立つ。

ならば

「容量 (capacity) を増やさずにレイテンシ (W) を下げたいなら、仕掛り (L) を減らせ。同時リクエスト数に上限を設けよ——短い行列は、速いサーバより速い。」

ただし

バックプレッシャ / 流入制御

L = λW は3つの量を縛り合う。ひとつを動かせば必ず別のものが動く。到着率を決めるのは利用者であってこちらではない。残る、実際に握れているレバーはひとつ——仕掛りに上限を掛ければ、レイテンシは算術として落ちる。速いサーバは要らない。

出典

John D. C. Little, A Proof for the Queuing Formula L = λW (Operations Research, 1961)。