Middle+ AI / LLM Engineer в АО Центр Цифрового Развития Национального Банка Казахстана Астана

AI/LLM-инженер в команду Центра Цифрового Развития Нацбанка Казахстана. Задача — строить инфраструктуру вокруг моделей, подключать сервисы через MCP/API и автоматизировать пайплайн с eval-пайплайнами и трейсингом.

Задачи:

• Подключать внутренние и внешние сервисы через MCP и API
• Настраивать контекст модели для точных и безопасных ответов
• Строить eval-пайплайны через DeepEval, Ragas и LLM-as-a-judge
• Отслеживать регрессии до прода и смотреть трейсы в LangFuse
• Выкатывать задачи в прод через GitLab CI и ArgoCD

Требования:

• Резидент Казахстана
• Уровень Middle+
• Опыт работы с LLM и AI-инфраструктурой
• Python, FastAPI
• LangChain, LangGraph, MCP
• vLLM, SGLang, Ray Serve
• Weaviate, LangFuse
• Docker, Kubernetes, PostgreSQL

Условия:

• Локация: Астана, офис
• Формат: Full-time
• Высокий темп работы, более 10 AI-продуктов в проде за полгода

Навыки:

• Python
• FastAPI
• LangChain
• LangGraph
• MCP
• vLLM
• SGLang
• Ray Serve
• Weaviate
• LangFuse
• DeepEval
• Ragas
• LLM-as-a-judge
• Docker
• Kubernetes
• PostgreSQL
• GitLab CI
• ArgoCD