Senior AI-инженер / Агентные LLM-системы в Институт инжиниринга и информационных технологий КБТУ Алматы

О проекте:

Мультиагентная AI-система в продакшне, строит отчёты и работает с документами через RAG. Своя GPU-инфраструктура (vLLM), реальные пользователи, растущий каталог агентов. Ищем не «промпт-инженера», а человека, который умеет проектировать и эксплуатировать агентные системы — и отвечать за архитектурные решения.

Обязанности:

• Проектируете и развиваете агентную архитектуру: оркестрацию, tool use, memory, обработку ошибок и деградаций LLM
• Строите инфраструктуру качества: eval-пайплайны, трейсинг вызовов агентов, регрессионное тестирование при смене моделей/промптов
• Развиваете RAG-пайплайн: гибридный поиск, re-ranking, устойчивость к edge cases retrieval
• Отвечаете за то, как система ведёт себя в проде — не только за то, что она делает в ноутбуке
• Самостоятельно принимаете архитектурные и продуктовые решения, без необходимости согласовывать каждый шаг
• Напрямую общаетесь с заказчиком: обсуждаете задачи, показываете результат, собираете обратную связь

• От 4 лет продакшн-разработки, из них заметная часть — с LLM/агентными системами, которые реально эксплуатируются
• Практический опыт агентных пайплайнов: function calling, оркестрация нескольких шагов, structured outputs (Pydantic / Pydantic AI или аналоги)
• Опыт наблюдаемости и оценки качества LLM-систем: трейсинг (Langfuse или аналог), eval-фреймворки, офлайн-метрики
• RAG в проде: гибридный поиск, chunking, re-ranking — не «quickstart из документации»
• Уверенный Python продакшн-уровня: async, типизация, тестирование
• Понимание LLM serving, достаточное, чтобы разговаривать с инфраструктурой на одном языке (батчинг, KV-cache, квантование)
• Портфолио: продакшн-система, open-source, статьи — на что можно посмотреть
• Разработка с использованием AI как основной способ работы: уверенное владение агентами разработки (Pi, opencode или аналоги) для написания, ревью и рефакторинга кода
• Готовность работать быстро и использовать все доступные инструменты, чтобы ускорить итерацию — от AI-агентов до автоматизации рутины
• Будет Плюсом: LangGraph, самостоятельная эксплуатация inference-серверов (vLLM/TGI/SGLang), опыт с Airflow/DWH, NLP для русского и казахского языков.

• Проект на 6 месяцев, оформление по ГПХ.