LLM-backend инженер в ПАО Сбербанк Москва

LLM-backend инженер в команду БЛиК Сбера. Задача — автоматизировать бизнес-процессы блока с помощью AI-инструментов и делать AI-решения доступными сотрудникам, разрабатывая и сопровождая бэкенд AI-агентов.

Задачи:

• Разрабатывать и сопровождать бэкенд AI-агентов: оркестрация графов на LangGraph (состояния, ветвления, циклы, human-in-the-loop, retry и fallback)
• Проектировать и версионировать tools для агентов, интегрировать их с внутренними системами банка через REST/gRPC/MCP/A2A
• Работать со сложными промптами, настраивать источники данных под RAG и оценивать ответы моделей
• Упаковывать сервисы в Docker и выводить их в промышленный Kubernetes
• Проектировать и проводить эксперименты и A/B-тесты над промптами, пайплайнами и конфигурациями моделей
• Развивать систему eval: наборы задач и сценариев, метрики accuracy/relevance/robustness, автоматизация прогона экспериментов
• Заниматься тонкой настройкой и оптимизацией конфигураций моделей и агентов, балансом качества, latency и стоимости
• Выстраивать мониторинг: трассировку цепочек вызовов, метрики латентности, токенов и стоимости, алертинг
• Ревьюить код и держать высокую планку качества решений

Требования:

• Практический опыт работы с LLM: промпт-инжиниринг, сборка пайплайнов, интеграция моделей
• LangGraph — опыт разработки агентных графов, вывода их в прод и отладки
• Docker — сборка и оптимизация образов, multi-stage, работа с реестрами
• Kubernetes — реальный опыт эксплуатации сервисов в кластере
• Понимание метрик качества и практический опыт A/B-тестирования ML-решений
• Умение приоритизировать гипотезы и проектировать эффективные инженерные решения
• Опыт поставки качественного ПО и владение циклом разработки от технического дизайна до мониторинга
• Уверенное владение Python и его экосистемой
• Понимание ландшафта LLM-провайдеров: коммерческих и open-source моделей
• Знакомство с open-source инструментами для построения и оценки RAG: LangChain, LlamaIndex, Ragas, MLflow
• Умение объяснять сложные технические вещи широкой аудитории стейкхолдеров

Условия:

• Гибридный формат работы, офис на Кутузовском проспекте 32 к.1
• Ежегодный пересмотр зарплаты, квартальная и годовая премия
• Корпоративный спортзал и зоны отдыха
• Более 400 образовательных программ СберУниверситета
• Программа адаптации и помощь руководителя на старте
• Расширенный ДМС, льготное страхование для семьи и корпоративная пенсионная программа
• Гибкий дисконт по ипотечному кредиту
• Подписка Прайм на трёх близких
• Вознаграждение за рекомендацию друзей

Навыки:

• Python
• LangGraph
• Kubernetes
• Docker
• REST
• gRPC
• MCP
• A2A
• RAG
• LangChain
• LlamaIndex
• Ragas
• MLflow
• A/B-тестирование
• LLM
• промпт-инжиниринг