Как мы делаем инференс для GigaCode
16 октября 2026 г.
Время показано в часовом поясе: Europe/Moscow
Модели и инфраструктура
О докладе
Внутреннее устройство Managed Inference Platform: архитектурные решения, сложности инференса LLM и работа над стабильно низким TTFT для GigaCode и Сбера.
Спикеры
Антон Саросек
Исполнительный директор, Сбер
Никита Омельченко
Главный эксперт, Сбер