Опубликовано 15 дней назад

Руководитель ML/AI-платформы в Циан Москва

Building iconв офис
Person iconhead
Money bag iconне указана

Сопроводительное письмо под эту вакансию

Софи напишет его под твоё резюме. Бесплатно — 5 писем в день.

Руководитель ML/AI-платформы в Циан. Управление ML-платформой (~150 production-моделей) и LLM-платформой: шлюз к моделям, self-hosted инференс на GPU, корпоративный AI-ассистент, развитие команды и стратегии.

Задачи:

  • Развивать LLM-платформу как внутренний продукт: шлюз к моделям с учётом квот и стоимости, self-hosted инференс, выбор и оценка моделей (evals, бенчмарки), защита чувствительных данных, инфраструктура для агентских сценариев
  • Переводить продуктовые интеграции с внешних LLM на модели в собственном контуре и модели российских провайдеров
  • Отвечать за GPU-мощности: планирование ёмкости, размещение с резервированием, выбор между арендой и своим железом, расчёт окупаемости, бюджет CAPEX/OPEX
  • Поддерживать и развивать ML-платформу: Kubernetes, model registry, serving, обновления под требования безопасности, наблюдаемость и надёжность
  • Выстроить обработку входящих запросов в платформу: единая точка приёма, приоритизация, границы между платформой и прикладными решениями, документация для самообслуживания
  • Руководить командой: нанимать и развивать сильных инженеров
  • Работать на стыках: с ИБ по ПДн, 152-ФЗ, prompt injection; с SRE, инфраструктурой и Data Platform по данным, Kafka и вычислениям
  • Формировать и защищать стратегию развития ML/AI-платформы

Требования:

  • Опыт руководства ML- или LLM-платформой либо инфраструктурной командой
  • Практическое понимание LLM-инфраструктуры: serving (vLLM, TGI, Triton или аналоги), ограничения и утилизация GPU, производительность, стоимость токена, оценка качества моделей, компромисс между своими моделями и внешним API
  • Опыт MLOps: Kubernetes, model registry и tracking (MLflow или аналоги), CI/CD моделей, эксплуатация большого числа моделей
  • Умение управлять внутренним продуктом: переводить размытые запросы в задачи с критериями результата, говорить «нет» с альтернативой, держать фокус команды на 2–3 главных целях
  • Уверенная коммуникация с топ-менеджментом и заказчиками
  • Опыт работы с требованиями безопасности и регуляторики: умение договориться об этапности
  • Финансовая грамотность: бюджет, обоснование закупок железа и найма, прогноз потребления

Условия:

  • Удалённая работа с возможностью приходить в офис в Москве, Санкт-Петербурге и Новосибирске
  • Офисы с кухнями, снеками, фруктами, кофе и тихими комнатами
  • Ментор в первые месяцы, личный план развития, обучение и конференции
  • ДМС с первого рабочего дня (стоматология, госпитализация, страховка за рубежом)
  • 5 day off в год помимо основного отпуска
  • Кафетерий льгот Aladdin и PrimeZone
  • Денежный депозит 25000 рублей на фитнес, обучение, развлечения и др.
  • Доплата за 10 рабочих дней больничного в год после испытательного срока

Навыки:

  • LLM
  • vLLM
  • TGI
  • Triton
  • GPU
  • MLOps
  • Kubernetes
  • MLflow
  • CI/CD
  • Kafka
  • Spark
  • Feast
  • JupyterHub
  • Kubeflow
  • MCP
  • KV-cache
  • NLP
  • evals
Эту вакансию мы нашли в huntflow
Циан

Циан

Москва

Получить оффер

Зарплата vs рынок

Зарплата не указана. Обычно на такой позиции платят 180 000 – 487 500 ₽, медиана 285 500 ₽.

99k286k1,0M

обычно платят (p25–p75): 180 000 – 487 500 ₽

Когорта Data · 704 вакансии за 90 дней

Зарплаты Data →

Похожие вакансии

Это единственная вакансия по вашему фильтру

Не то, что искал?

Автоотклики