Опубликовано 15 дней назад
Руководитель ML/AI-платформы в Циан Москва
Сопроводительное письмо под эту вакансию
Софи напишет его под твоё резюме. Бесплатно — 5 писем в день.
Руководитель ML/AI-платформы в Циан. Управление ML-платформой (~150 production-моделей) и LLM-платформой: шлюз к моделям, self-hosted инференс на GPU, корпоративный AI-ассистент, развитие команды и стратегии.
Задачи:
- Развивать LLM-платформу как внутренний продукт: шлюз к моделям с учётом квот и стоимости, self-hosted инференс, выбор и оценка моделей (evals, бенчмарки), защита чувствительных данных, инфраструктура для агентских сценариев
- Переводить продуктовые интеграции с внешних LLM на модели в собственном контуре и модели российских провайдеров
- Отвечать за GPU-мощности: планирование ёмкости, размещение с резервированием, выбор между арендой и своим железом, расчёт окупаемости, бюджет CAPEX/OPEX
- Поддерживать и развивать ML-платформу: Kubernetes, model registry, serving, обновления под требования безопасности, наблюдаемость и надёжность
- Выстроить обработку входящих запросов в платформу: единая точка приёма, приоритизация, границы между платформой и прикладными решениями, документация для самообслуживания
- Руководить командой: нанимать и развивать сильных инженеров
- Работать на стыках: с ИБ по ПДн, 152-ФЗ, prompt injection; с SRE, инфраструктурой и Data Platform по данным, Kafka и вычислениям
- Формировать и защищать стратегию развития ML/AI-платформы
Требования:
- Опыт руководства ML- или LLM-платформой либо инфраструктурной командой
- Практическое понимание LLM-инфраструктуры: serving (vLLM, TGI, Triton или аналоги), ограничения и утилизация GPU, производительность, стоимость токена, оценка качества моделей, компромисс между своими моделями и внешним API
- Опыт MLOps: Kubernetes, model registry и tracking (MLflow или аналоги), CI/CD моделей, эксплуатация большого числа моделей
- Умение управлять внутренним продуктом: переводить размытые запросы в задачи с критериями результата, говорить «нет» с альтернативой, держать фокус команды на 2–3 главных целях
- Уверенная коммуникация с топ-менеджментом и заказчиками
- Опыт работы с требованиями безопасности и регуляторики: умение договориться об этапности
- Финансовая грамотность: бюджет, обоснование закупок железа и найма, прогноз потребления
Условия:
- Удалённая работа с возможностью приходить в офис в Москве, Санкт-Петербурге и Новосибирске
- Офисы с кухнями, снеками, фруктами, кофе и тихими комнатами
- Ментор в первые месяцы, личный план развития, обучение и конференции
- ДМС с первого рабочего дня (стоматология, госпитализация, страховка за рубежом)
- 5 day off в год помимо основного отпуска
- Кафетерий льгот Aladdin и PrimeZone
- Денежный депозит 25000 рублей на фитнес, обучение, развлечения и др.
- Доплата за 10 рабочих дней больничного в год после испытательного срока
Навыки:
- LLM
- vLLM
- TGI
- Triton
- GPU
- MLOps
- Kubernetes
- MLflow
- CI/CD
- Kafka
- Spark
- Feast
- JupyterHub
- Kubeflow
- MCP
- KV-cache
- NLP
- evals
Эту вакансию мы нашли в huntflow
Циан
Москва
Зарплата vs рынок
Зарплата не указана. Обычно на такой позиции платят 180 000 – 487 500 ₽, медиана 285 500 ₽.
99k286k1,0M
обычно платят (p25–p75): 180 000 – 487 500 ₽
Когорта Data · 704 вакансии за 90 дней
Зарплаты Data →Похожие вакансии
Это единственная вакансия по вашему фильтру
Не то, что искал?