Machine Learning Engineer (Kandinsky) в ПАО Сбербанк Москва

ML-инженер в команду Kandinsky. Задача — создание инфраструктуры для эффективного инференса моделей во всех популярных фреймворках и воркеров для доступа к инференсу.

Задачи:

• Разработка и оптимизация high-load пайплайнов распределенного инференса (PyTorch) с использованием FSDP, Tensor/Sequence Parallelism
• Имплементация моделей в популярных фреймворках: Diffusers, SGLang, vLLM, FastVideo, Comfy-UI, Transformers
• Развертывание воркеров для инференса моделей
• Создание воркеров для доступа к инференсу моделей на fal.ai, Arena.ai и др.

Требования:

• Экспертный уровень Python, PyTorch, torch.distributed
• Опыт масштабного инференса моделей с FSDP/TP/PP
• Понимание работы разных типов данных (bf16, fp8)
• Опыт работы с SGLang, vLLM, Transformers
• Понимание принципов работы диффузионных моделей
• Английский язык B2+

Условия:

• Комфортный современный офис рядом с м. Кутузовская
• Ежегодный пересмотр зарплаты, годовая премия
• Корпоративный спортзал и зоны отдыха
• Система обучения для профессионального и карьерного развития
• Расширенный полис ДМС с первого дня работы и страхование для семьи
• Льготная программа ипотеки для сотрудников
• Бесплатная подписка СберПрайм+, скидки на продукты компаний-партнеров
• Вознаграждение за рекомендацию друзей в команду Сбера

Навыки:

• Python
• PyTorch
• torch.distributed
• FSDP
• Tensor Parallelism
• Sequence Parallelism
• Diffusers
• SGLang
• vLLM
• FastVideo
• Comfy-UI
• Transformers
• bf16
• fp8