AI application security engineer в Контур Екатеринбург

Специалист по безопасности ИИ в команду Центра киберзащиты Контура. Нужно обеспечивать безопасность AI-решений: проводить анализ защищенности LLM-приложений, выявлять AI-специфичные уязвимости и внедрять защитные механизмы.

Задачи:

• Проводить анализ защищенности (преимущественно Whitebox) LLM-приложений, AI-агентов, RAG, векторных БД, Low-Code/No-Code-систем (Dify, n8n) и интеграций с внешними API / облачными моделями.
• Выявлять специфичные для AI векторы атак: prompt injection, indirect prompt injection, jailbreak, data poisoning, excessive agency, unsafe tool calls и over-privileged agents.
• Настраивать и валидировать защитные механизмы: фильтры PII / конфиденциальных данных, ограничения контекста, rate limiting, контроль вызова tools и ручные подтверждения для критичных операций.
• Укреплять внутренний AI/ML-тулинг совместно с платформенными командами. Строить систему правил, скиллов и хуков, чтобы встраивать политики ИБ непосредственно в среду разработки: skills, rules, hooks, MCP-серверы.
• Проверять безопасность локального запуска LLM и агентов в Kubernetes и Linux-песочницах: изоляция сессий, памяти, контейнеров, RBAC, NetworkPolicy, Secrets Management.
• Формировать требования к аудиту и трассировке AI-систем: trace ID, логирование prompt/response, фиксация вызовов моделей и действий агентов.
• Консультировать команды, помогать внедрять безопасный код и выстраивать понятные процессы.

Требования:

• Опыт в сфере ИБ от двух лет в одном или нескольких направлениях: AppSec, DevSecOps, Cloud/K8s Security, Product Security или ML Security.
• Уверенное владение одним из языков программирования: Python, Go, C#, TS, Rust. Умение читать чужой код, искать уязвимости и писать PoC.
• Знание AI/LLM-стека: понимание устройства языковых моделей, RAG, векторных БД (Milvus, Qdrant, pgvector и др.), AI-агентов, agent memory, tool calling, а также стандарта взаимодействия MCP.
• Знание AI-угроз: понимание рисков OWASP for LLM, MITRE ATLAS (prompt injection, раскрытие system prompt, утечки данных, необдуманное выполнение кода агентами).
• Знание основ Linux и базовое понимание безопасности Kubernetes: RBAC, ServiceAccount, NetworkPolicy, Secrets, изоляция контейнеров.
• Знание классических веб-уязвимостей, механизмов аутентификации и авторизации OAuth2, OIDC, JWT, RBAC и безопасной разработки — Secure SDLC, Threat Modeling.
• Умение аргументированно объяснять риски, находить компромиссы с разработкой.

Условия:

• Гибридный формат работы в Екатеринбурге. Офис на ул. Малопрудной, 5.
• Предоставим все необходимое: технику, рабочее место, библиотеку с профессиональной литературой, место для отдыха и кухонную зону с фруктами и снеками.
• Уровень дохода, который зависит от ваших технических знаний и навыков. Регулярно пересматриваем зарплаты с учетом профессионального роста. Финансовые бонусы тоже есть.
• Сильное инженерное комьюнити. Регулярно проводим внутренние технические конференции, обмениваемся опытом между командами.
• Возможность сменить продукт, команду или предметную область внутри компании.
• Общение на «ты» и максимум горизонтальных связей в коллективе.
• Возможность делиться экспертизой. Помогаем выступать на конференциях, участвовать в подкастах или видео, писать статьи.
• Поддержку профессионального развития. Организуем внутреннее и внешнее обучение.

Навыки:

• Python
• Go
• C#
• TypeScript
• Rust
• RAG
• Milvus
• Qdrant
• pgvector
• MCP
• Kubernetes
• Linux
• RBAC
• NetworkPolicy
• Secrets Management
• OAuth2
• OIDC
• JWT
• OWASP for LLM
• MITRE ATLAS
• Dify
• n8n