ML-инженер (LLM / Python) в TG @datajobschannel Москва

ML-инженер на аналитический проект с локальным развёртыванием LLM в закрытом контуре. Работа с мощным железом в офисе Москвы, задачи по запуску и дообучению моделей.

Задачи:

• Локальное развёртывание LLM-моделей (Llama-3, Qwen)
• Работа с форматами GGUF / FP8 / AWQ
• Дообучение моделей (Fine-Tuning, LoRA, QLoRA)
• Построение RAG-систем (ChromaDB / Qdrant)
• Написание парсеров (Selenium, Playwright)

Требования:

• Python
• vLLM
• Ollama
• llama.cpp
• Опыт локального развёртывания LLM-моделей (Llama-3, Qwen)
• Работа с форматами GGUF / FP8 / AWQ

Условия:

• Работа в офисе (Москва), оффлайн-контур (Air-Gapped)
• Мощнейшее железо: Mac Studio 512GB + Ubuntu (NVIDIA RTX PRO 6000 96GB)
• Формат работы: офис / гибрид (Москва)
• Тестовое задание с необходимостью приехать в офис
• Оплата: кэш/крипта, выше рынка

Навыки:

• Python
• vLLM
• Ollama
• llama.cpp
• Llama-3
• Qwen
• GGUF
• FP8
• AWQ
• Fine-Tuning
• LoRA
• QLoRA
• RAG
• ChromaDB
• Qdrant
• Selenium
• Playwright