Python-разработчик в команду AI-ассистента в Авито Москва

Python-бэкенд разработчик для платформенной части AI-ассистента, который помогает продавцам на Avito. Нужно строить надёжную, быструю и наблюдаемую систему вокруг LLM.

Задачи:

• Развивать платформенную часть AI-ассистента: сервисы вокруг LLM и агентов, стриминг ответов, хранение состояния диалогов и память
• Проектировать потоковую передачу ответов пользователю и делать её устойчивой к отменам запросов, ошибкам и неполным ответам модели
• Строить наблюдаемость: метрики, трейсинг и дашборды
• Отвечать за надёжность сервисов: корректную работу с данными и состоянием, обработку сбоев, нагрузочное тестирование, алерты и эксплуатационную готовность
• Развивать инфраструктуру для оценки качества ассистента: превращать решения и прототипы DS-инженеров в сервисы, готовые к продакшену
• Развивать хранилища состояния и памяти на Redis, MongoDB и PostgreSQL
• Участвовать в архитектурных решениях, проводить ревью кода и вести технический бэклог платформенного слоя

Требования:

• Уверенно пишете на Python и работали с асинхронными сервисами
• Умеете проектировать бэкенд-системы с нуля, доводить их до продакшена и брать за них ответственность
• Понимаете, как устроены потоковые сценарии, отмена запросов, таймауты, обработка ошибок и backpressure
• Умеете строить наблюдаемые и тестируемые сервисы: метрики, логи, трейсинг, нагрузочные тесты и алерты
• Работали с Redis, MongoDB и PostgreSQL
• Умеете проектировать устойчивые к сбоям системы и думаете об идемпотентности, консистентности данных и корректной обработке ошибок
• Готовы работать с LLM- и агентными системами
• Готовы развиваться в Go

Условия:

• Возможность реализовать свои идеи в проекте с многомиллионной аудиторией
• Команда, готовая поддержать ваши инициативы
• Производительное оборудование, дополнительные мониторы и всё, что нужно для продуктивной работы
• Прозрачная система премий и зарплата, размер которой обсудим на собеседовании
• Личный бюджет на обучение, который можно тратить на книги, курсы и конференции
• ДМС со стоматологией с первого дня, в офисе принимают терапевт и массажист
• Комфортный офис в двух минутах от метро «Белорусская»: панорамный вид на центр города, места для уединённой работы и зоны отдыха, а также возможность работать удалённо

Навыки:

• Python
• Redis
• MongoDB
• PostgreSQL
• Go
• LLM