Встречается на собеседованиях • сегодня

С какой стороны возникнет проблема при отправке тысячи асинхронных HTTP запросов в Python

При отправке тысячи асинхронных запросов могут возникнуть несколько проблем:

  1. Лимиты операционной системы - исчерпание файловых дескрипторов (ulimit). Решение - использовать пул соединений (aiohttp.ClientSession).

  2. Ограничения сервера - сервер может забанить за слишком частые запросы. Нужно добавлять задержки (asyncio.sleep) или ограничивать количество одновременных запросов (semaphore).

  1. Потребление памяти - большое количество незавершенных корутин. Решение - ограничивать параллелизм.

Пример с ограничением через семафор:

python
import aiohttp
import asyncio

async def fetch(url, session, sem):
    async with sem:
        async with session.get(url) as response:
            return await response.text()

async def main():
    sem = asyncio.Semaphore(100)  # Максимум 100 одновременных запросов
    async with aiohttp.ClientSession() as session:
        tasks = [fetch(url, session, sem) for url in urls]
        await asyncio.gather(*tasks)

Также стоит учитывать возможные таймауты и добавлять обработку ошибок для каждого запроса.

Sophi
Софи собрала все вопросы. Тренируйся и получай
офферы быстрее!
Попробовать бесплатноArrow

Следующий вопрос

Это единственный вопрос по вашему фильтру

как отвечать на вопрос
пример собеседования
фреймворки на собеседовании
типичные вопросы junior
интервью вопросы и ответы