DevOps / MLOps Engineer (Junior+ / Middle) — KOZ AI в KOZ AI Алматы

В KOZ AI мы создаём AI-решения для бизнеса и ищем DevOps / MLOps Engineer в основную инженерную команду.

Тебе предстоит взять на себя развитие инфраструктуры компании: автоматизировать развёртывание, выстроить надёжные рабочие среды и обеспечить безопасный запуск LLM-решений в облаке и закрытых контурах крупных заказчиков.

Мы ищем специалиста с крепкой DevOps-базой, который хочет развиваться в MLOps. Если у тебя пока нет опыта работы с LLM и GPU-инфраструктурой — готовы обучить специфике AI.

Чем предстоит заниматься

• Развивать инфраструктуру компании в облаке и на серверах заказчиков.

• Автоматизировать сборку и развёртывание приложений через CI/CD, описывать инфраструктуру и конфигурации с помощью Terraform и Helm.

• Организовать и изолировать среды локальной разработки, тестирования и промышленной эксплуатации: Local, Stage и Prod.

• Обеспечивать стабильную работу Kubernetes, Kafka и Redis.

• Настроить мониторинг, логирование и оповещения для серверов, API и AI-сервисов, включая учёт потребления токенов LLM.

• Обеспечивать изоляцию данных и развёртывание решений в закрытых контурах с учётом требований информационной безопасности заказчиков.

• Участвовать в развёртывании и оптимизации открытых LLM на GPU-серверах — этому направлению готовы обучить.

• Участвовать в проектировании Data Lake на базе Apache Iceberg.

Что мы ожидаем

• Уверенные практические знания Linux, Docker и Kubernetes.

• Опыт настройки CI/CD-пайплайнов.

• Понимание Terraform и Helm.

• Понимание принципов работы облачной инфраструктуры — AWS, GCP или Яндекс Cloud — и размещения систем на собственных серверах.

• Интерес к MLOps, PyTorch, RAG, локальным LLM и работе с GPU.

• Самостоятельность: умение выявлять проблемы, предлагать решения и доводить задачи до результата.

• Готовность брать ответственность за инфраструктуру и взаимодействовать с командой разработки.

Будет плюсом

• Опыт развёртывания LLM и оптимизации инференса, в том числе квантования моделей.

• Работа с GPU-серверами в облаке или на собственном оборудовании.

• Опыт настройки Prometheus, Grafana, Loki или ELK.

• Работа с Kafka, Redis, Apache Iceberg или Service Mesh.

• Опыт внедрения решений в закрытых корпоративных контурах.

Что предстоит выстроить за первые 6–12 месяцев

• Автоматизированные CI/CD-пайплайны вместо ручных деплоев.

• Инфраструктуру и конфигурации, описанные в коде.

• Изолированные и настроенные среды Local, Stage и Prod.

• Единую систему мониторинга, логирования и оповещений.

• Надёжное развёртывание AI-решений с учётом требований безопасности заказчиков.

• Стабильную основу для сервисов обработки данных и дальнейшего развития Data Lake.

Наш стек

• Инфраструктура: Linux, Docker, Kubernetes, Terraform, Helm, Cloud и On-Premise.

• AI/ML: PyTorch, RAG, локальные LLM, GPU-инфраструктура.

• Данные и сервисы: Apache Iceberg, Kafka, Redis, FastAPI, Service Mesh.

• Мониторинг и логи: Prometheus, Grafana, Loki/ELK.

Что предлагаем

• Работу в основной инженерной команде KOZ AI рядом с сильными инженерами.

• Возможность влиять на архитектуру и развитие инфраструктуры компании.

• Практический опыт внедрения AI-решений для крупных заказчиков.

• Обучение специфике MLOps, работе с LLM и GPU-инфраструктурой.

• Возможность роста до Senior DevOps / MLOps по результатам работы и готовности брать более сложные задачи.

• Офисный или гибридный формат работы.

• Полную или частичную занятость.