NVIDIA TensorRT

NVIDIA TensorRTは、深層学習モデルの推論を高速化するためのソフトウェアライブラリです。学習済みモデルを最適化し、GPUで効率的に実行することで、レイテンシーを低減し、スループットを向上させます。リアルタイムアプリケーションに適しています。