NVIDIA TensorRT-LLM

推論 runtime の scheduler、KV cache、hardware occupancy を GPU 名比較ではなく architecture として読める。