Middle AI Guardrails Developer в АО "СберТех" Москва

Разработчик систем безопасности и контроля для LLM и генеративных AI-моделей. Проектирование и развитие защитных механизмов, аналитика решений и конкурентов, улучшение guardrails на основе данных и экспериментов.

Задачи:

• Разрабатывать и улучшать компоненты AI Guardrails: фильтры контента, системы детекции токсичности, bias, PII, jailbreak-попыток, prompt injection и других рисков
• Интегрировать и дообучать модели классификации / модерации (toxicity, hate speech, self-harm, sexual content и др.)
• Проектировать и реализовывать пайплайны pre-/post-processing для LLM (input/output filtering, rewriting, refusal mechanisms)
• Создавать и поддерживать evaluation-фреймворки: бенчмарки, red-teaming, adversarial testing, метрики безопасности и robustness
• Работать с LLM API / open-source моделями, оптимизировать latency и качество guardrails
• Участвовать в разработке политик безопасности, документировать решения
• Анализировать инциденты, улучшать покрытие edge-cases и снижать false positive/negative

Требования:

• 2–4+ года коммерческого опыта в ML/AI-разработке (Python)
• Опыт работы с LLM (OpenAI, Anthropic, open-source: Llama, Mistral, Qwen и т.д.)
• Практический опыт построения систем модерации / content safety / guardrails или похожих задач (toxicity detection, PII redaction, prompt defense)
• Хорошее знание NLP: классификация текста, embeddings, fine-tuning (LoRA/QLoRA), evaluation
• Опыт с PyTorch / Hugging Face Transformers, LangChain / LlamaIndex / аналогичными фреймворками
• Понимание основных угроз LLM (jailbreaks, prompt injection, data leakage, hallucination risks)
• Умение писать чистый, тестируемый код, работать с CI/CD, Docker
• Самостоятельность и ownership: способность брать задачу end-to-end (от исследования до production)
• Навыки работы с генеративными AI-моделями

Условия:

• Гибридный формат работы
• Годовой бонус и ежегодный пересмотр зарплаты
• Статус аккредитованной ИТ-компании
• Расширенный ДМС с первого дня и льготное страхование для семьи
• Корпоративный университет Сбера, внутренняя образовательная платформа, участие в IT-конференциях
• 90 дней удаленной работы из любого региона РФ
• Льготная ипотека в Сбере
• Бесплатная подписка СберПрайм, которой можно поделиться с 3 близкими

Навыки:

• Python
• LLM
• OpenAI
• Anthropic
• Llama
• Mistral
• Qwen
• NLP
• PyTorch
• Hugging Face Transformers
• LangChain
• LlamaIndex
• CI/CD
• Docker
• LoRA
• QLoRA
• FastAPI
• Kubernetes