ML engineer в My Startups Алматы

MyStartups – дочерняя IT-компания Astana Motors, специализирующаяся на создании технологичных решений для оптимизации бизнес-процессов в разных сферах.

Требования:

• 2–3 года разработки ML/AI-решений, из них не менее 1 года — с LLM/RAG-системами в production.

• Опыт работы в командах с распределением задач (не соло-разработка).

• Портфолио реализованных проектов с измеримым результатом (метрики, нагрузка, количество пользователей).

• Понимание промпт-инжиниринга: few-shot, structured output, работа с системными промптами.

• Production-уровень Python (async/await, тестирование, чистая архитектура проекта).

• Уверенный уровень SQL и PostgreSQL.

• Английский язык не ниже B2 (для работы с документацией и моделями).

• Уверенное владение Docker, Docker Compose (опыт написания production Dockerfile).

• Опыт работы с CI/CD (GitHub Actions, GitLab CI).

• Опыт с системами кэширования (Redis) и объектными хранилищами (MinIO/S3).

• Понимание работы с GPU-инфраструктурой: multi-GPU setups, tensor parallelism, распределение ресурсов.

Будет большим плюсом:

• MLOps и Инфраструктура: Kubernetes, виртуализация (Proxmox или аналоги) для локальных ML-серверов.

• ML/DS: Понимание RLHF/DPO, классический ML (scikit-learn, NLP-задачи), базовый статистический анализ.

• Специфика: Опыт работы с казахоязычными или мультиязычными NLP-задачами.

• Оптимизация: Опыт вывода моделей на ограниченном железе (Apple Silicon, single-GPU) с оптимизацией throughput.

• Самостоятельное проектирование архитектуры и вывод ML-сервисов в промышленную эксплуатацию (от идеи до продакшена).

• Построение RAG-систем полного цикла: от парсинга и чанкинга документов до выдачи ответа с источниками.

• Развёртывание и инференс open-source LLM (Qwen, Llama и т.п.), настройка параметров инференса (batching, quantization, KV-cache).

• Проектирование схем, индексация и тюнинг поиска в векторных БД (pgvector, Milvus/Qdrant/Weaviate).

• Оценка качества генерации: контроль галлюцинаций (hallucination control), ручной и автоматизированный аудит, расчет метрик (faithfulness, relevance).

• Настройка стратегий ретрива (hybrid search, reranking, semantic chunking) и работы с embedding-моделями.

• Внедрение NL2SQL, структурированной генерации (JSON, function calling, tool use) и мультиагентных систем (оркестрация, MCP-серверы).

• Опционально: Fine-tuning/LoRA открытых моделей под доменные задачи, внедрение guardrails и модерации контента.

Инфраструктура и бэкенд:

• Разработка API-сервисов на FastAPI (Pydantic-схемы, async-эндпоинты) и построение дашбордов.

• Оптимизация SQL-запросов в PostgreSQL.

• Самостоятельная настройка CI/CD пайплайнов деплоя.

• Настройка мониторинга сервисов (Prometheus/Grafana: алерты и дашборды) и версионирования моделей/данных (MLflow, DVC).

• Координация задач в команде, техническое лидирование небольшой группы разработчиков.

• Декомпозиция задач и оценка сроков.

• Погружение в новые доменные области (юридические, HR, промышленные регламенты) для построения специфичных RAG-систем.

• Опционально: Подготовка технической документации и памяток для внутренних команд.

• Конкурентная заработная плата и официальное оформление по ТК РК;

• Комфортный офис со всеми удобствами на Розыбакиева 263;

• Бесплатная парковка в ТРЦ Mega — 24/7;

• Корпоративная связь при необходимости;

• Медицинское обслуживание для тебя и двух близких родственников (лимит 400 000 ₸ в год, включая аптеку и стоматологию);

• 50% компенсация абонемента в любой фитнес-центр города;

• 1 Day Off в честь дня рождения;

• Профессиональный рост и внутренние переходы внутри группы компаний Astana Group;

• Регулярные тимбилдинги и яркая корпоративная культура;

• Ежемесячные Sprint Review с акционерами и IT-специалистами — вкусная еда, напитки и живое общение.