Рубрики
Без рубрики

Быстрее, чем запросы с многопотативным веб-скребком

Быстрее, чем запросы v0.9 с многопоточным веб-скребком встроенным. Теги с Python.

  • Альтернативный HTTP-клиент, новая версия 0,9 API для людей.
  • Добавлен многоточный веб-скребок встроенный встроенный вкладыш.
  • Добавлен многопоточный файл загрузчика встроенного одноклассника.
  • 1 файл, 0 Зависимость, ~ 100 строк кода, 2.7 к 3.8 , Альпийский и рука.
  • Github Действия CI Строительство с нуля.
  • Github Действия CI работает в замешательстве с нуля.
  • Примеры для веб-скребка и загрузчик файлов.
  • Дополнительно для науки о данных, веб-соскоб, HTTP REST JSON API.
  • Примеры, Dockerfile, Tests, FAQ, COC, DEBUG HEMPLEY, JSON PEREMENS.
  • Документы имеют все функции с подробными аргументами и возвращаются с типами.
338 >17 1 152.39 Pywget. Нет Врач
2558 Нет >20 15.58 Запросы >527
1200 ?? ? ?? ? 4.00 Урлыб Нет 0 (std lib)
5242 >188 >40 3.55 Urllib3. Нет > 5 (SSL)
5932 >50 >15 0.75 Пикурл Нет Curl, libcurl.
99 1 1 0.45 Ftr. Да, 2 0
requests.get("http://httpbin.org/get")
  • Получить , ПОЧТА , Патч , Поставить , Удалить и более.
requests.scrapper(["http://example.org", "http://example.io"], threads=True)
  • Theres 2 Готовые веб-скребки встроенные, простые в использовании одноклассника.
requests.download2([("http://example.org/foo.jpg", "output.jpg"), ], threads=True)
  • задержка = 1000 За 1 секунду задержки сна между загрузками.
requests.get2str2(["http://example.org", "http://example.io"], threads=True)
  • Темы = false без мульти-нити.

🐍😼👍.

Оригинал: “https://dev.to/juancarlospaco/faster-than-requests-with-multithread-web-scrapper-4lpi”