ML/NLP Engineer (Voice AI / LLM Dialogs / ASR / TTS) удалённо

ML/NLP инженер в проект крупной телеком-компании по созданию интеллектуальных голосовых ассистентов. Задача — поэтапно перевести диалоговую систему с графовых сценариев на управляемый LLM-based диалог, дебажить голосовой пайплайн от ASR до TTS и оптимизировать инференс под реальное время.

Задачи:

• Поэтапный перевод системы с графа сценариев и скиллов на управляемый LLM-based диалог
• Дебаг голосового пайплайна: поиск и устранение причин high latency, галлюцинаций LLM, проблем с передачей аудио и графовых ошибок
• Оперативное принятие архитектурных решений и их самостоятельная реализация в коде
• Поддержка и отладка few-shot классификации сценариев (Qwen) и классификаторов на BERT, учёт краевых случаев и исправление ошибочных срабатываний интентов
• При необходимости — finetuning локальных LLM (извлечение сущностей, удерживание инструкций)
• Интеграция и поддержка ASR на базе GigaAMv2 (отладка качества распознавания, работы VAD)
• Дообучение и настройка инференса собственных и опенсорсных TTS, систем клонирования голоса

Требования:

• Уверенный опыт работы с LLM/SLM (few-shot learning, prompt engineering) и BERT (классификация сценариев и интентов)
• Практический опыт finetuning LLM (PEFT, LoRA/QLoRA) под узкие прикладные задачи
• Уверенный дебаг LLM: умение быстро понять причину некорректного ответа и исправить промптом, гиперпараметром или файнтюном
• Опыт дообучения и оптимизации TTS-моделей
• Опыт работы и интеграции современных ASR-систем (в частности, GigaAMv2)
• Практика работы с потоковым аудио в реальном времени (streaming ASR/TTS, gRPC-контракты)
• Уверенное владение Python (PyTorch, huggingface, фреймворки инференса)
• Знание Go: базовое понимание дизайна сервисов, SOLID/DRY/KISS, типизация, примитивы синхронизации и конкуренция (горутины, каналы), указатели, observability
• Опыт оптимизации инференса под low-latency (vLLM, TensorRT-LLM, Triton Inference Server, ONNX Runtime)
• Опыт работы как с графовыми/сценарийными диалоговыми движками, так и с LLM-агентами
• Высокая скорость диагностики проблем в инференсе и локализации багов
• Релевантность опыта от 85%
• Гражданство РФ

Условия:

• Удалённый формат работы
• Full-time, полная занятость
• Ставка обсуждается
• Аутстаффинговая позиция
• Проект крупной телекоммуникационной компании

Навыки:

• Python
• Go
• LLM
• NLP
• BERT
• Qwen
• PEFT
• LoRA
• QLoRA
• ASR
• TTS
• GigaAMv2
• VAD
• PyTorch
• Hugging Face
• vLLM
• TensorRT-LLM
• Triton Inference Server
• ONNX Runtime
• gRPC
• Kubernetes
• TCP