LLM/ML Engineer (Java-first) в Сбер. IT Москва

Мы ищем опытного LLM/ML инженера, который станет ключевым экспертом по интеграции больших языковых моделей в нашу Java-систему. Наш Продукт анализирует обратную связь корпоративных клиентов банка — от сбора данных до формирования рекомендаций через корпоративные LLM.

Первый этап отбора на эту вакансию – общение с AI-рекрутером. После отклика ждите сообщение от него в Сберчате, диалог займёт примерно 10 минут. Задача AI-рекрутера — уточнить недостающие детали и ускорить рассмотрение вашей кандидатуры.

AI-рекрутер только начинает свой путь, поэтому просим относиться с пониманием. Ваш опыт и участие помогут сделать его удобным и полезным для всех!

Обязанности

• проектирование и разработка модулей обработки с использованием LLM
• написание, версионирование и оптимизация промптов для корпоративных моделей
• построение и поддержка eval-наборов: вопросы + эталоны + метрики качества
• проведение A/B тестов промптов и параметров
• разработка интеграции LLM через REST API: подготовка данных, формирование запросов, обработка ответа
• контроль галлюцинаций, безопасности (guardrails), времени отклика и стоимости
• настройка мониторинга и отслеживания работы LLM
• передача экспертизы по LLM Java-разработчикам.

Требования

• коммерческая разработка на Java от 3 лет
• опыт интеграции LLM в промышленные условия: понимание возможностей и ограничений корпоративных моделей
• понимание промпт-инжиниринга: структура промптов, примеры, подсказки в мышлении, защита от некорректных ответов
• опыт построения eval-наборов и метрик качества LLM
• опыт работы с API: REST API, JSON, ретраи, таймауты, сериализация
• опыт работы с безопасностью API: хранение ключей, авторизация, работа с чувствительными данными
• опыт работы с асинхронными задачами и очередями
• умение самостоятельно декомпозировать задачи и принимать технические решения.

Условия

• комфортный современный офис рядом с м. Кутузовский проспект
• график – офис
• срочный ТД до 01.08.27
• ежегодный пересмотр зарплаты, годовая премия
• корпоративный спортзал и зоны отдыха
• более 400 образовательных программ СберУниверситета для
• профессионального и карьерного развития
• расширенный ДМС, льготное страхование для семьи и корпоративная
• пенсионная программа
• гибкий дисконт по ипотечному кредиту, равный 1/3 ключевой ставки ЦБ
• подписка Прайм с возможностью совместного использования на трёх близких.