Опубликовано 8 дней назад
MLOps в Selecty удалённо
Ключевой инженер для превращения исследовательских прототипов в отказоустойчивую GenOps-фабрику цифровых агентов в банке.
Задачи:
- Проектирование и развитие самообслуживания CI/CD пайплайнов для внутреннего деплоя AI-агентов и мультиагентных систем
- Развертывание и оптимизация LLM/VLM в процессе разработки с использованием vLLM, Triton Inference Server, SGLang
- Обеспечение высокой доступности сервисов, работа с масштабированием горизонтальных подов и управление состоянием агентов
- Внедрение комплексного наблюдения: от стандартных метрик до ML-метрик
Требования:
- Опыт вывода LLM-решений в прод
- Уверенное владение Python и асинхронным программированием (asyncio)
- Уверенное владение Kubernetes (Helm, управление кластерами)
- Знание Gitlab CI, Jenkins и пр
- Понимание архитектуры RAG-систем, работы embedding-моделей и ранжирования
- Умение оптимизировать инференс: квантизация, continuous batching, PagedAttention
Условия:
- Оформление по ТК РФ в IT-аккредитованную компанию
- ДМС (включая стоматологию)
- Компенсация фитнеса
- Скидки на обучение английскому (Skyeng)
- Индексация заработной платы
- Современная техника
- IT-аккредитация компании
Навыки:
- Python
- FastAPI
- langchain
- llamaindex
- haystack
- Kubernetes
- Docker
- S3
- PostgreSQL
- Gitlab CI
- Jenkins
- vLLM
- Triton Inference Server
- SGLang
- Helm
Эту вакансию мы нашли в Telegram-канал @sre_devops_jobs_rss
SE
Selecty
удалённо
Похожие вакансии
Это единственная вакансия по вашему фильтру
Не то, что искал?