Вопросы по теме 'scrapyd'
Запустите несколько пауков Scrapy одновременно, используя scrapyd
Я использую scrapy для проекта, в котором я хочу очистить несколько сайтов (возможно, сотни), и мне нужно написать конкретного паука для каждого сайта. Я могу запланировать одного паука в проекте, развернутом в scrapyd, используя:
curl...
7043 просмотров
schedule
20.09.2022
MySQL не сохраняет данные, которые очищаются
Я сделал небольшой проект, используя Scrapy. Дело в том, что мой скрапер сканирует страницы и парсит данные. Но он не сохраняется в моей базе данных. Я использую MySQL в качестве моей базы данных.
Я предполагаю, что есть что-то, что я упускаю в...
342 просмотров
schedule
25.11.2023
Запланируйте паука в scrapyd и передайте параметры конфигурации паука
Я пытаюсь настроить пауков, созданных с помощью slyd, для использования scrapy-elasticsearch , поэтому я отправляю -d parameter=value для его настройки:
curl http://localhost:6800/schedule.json -d project=myproject -d spider=myspider -d...
951 просмотров
schedule
21.02.2024