Как мы делаем инференс для GigaCode

16 октября 2026 г.
Время показано в часовом поясе: Europe/Moscow
Модели и инфраструктура

О докладе

Внутреннее устройство Managed Inference Platform: архитектурные решения, сложности инференса LLM и работа над стабильно низким TTFT для GigaCode и Сбера.

Спикеры

Антон Саросек

Исполнительный директор, Сбер

Никита Омельченко

Главный эксперт, Сбер