Deep Learning 모델 서빙 최적화: TorchServe에서 Triton으로

2026. 02. 20. 이승원

Deep LearningAI

배경

모델 서빙 레이턴시를 줄이기 위해 TorchServe에서 Triton으로 전환했습니다.

  • 이승원

    AI/ML 엔지니어로 추천 시스템을 개발합니다.