Scrapy: обработка ошибок Spider в Windows 7

Я пытаюсь создать паука, чтобы я мог сканировать и очищать контент с других веб-сайтов. Я сделал пример из scrapy, и все работало нормально, однако при реализации моего собственного кода я не смог заставить его работать. Я продолжаю получать следующую ошибку:

2016-02-02 17:57:15 [scrapy] DEBUG: Crawled (200) <GET http://www.andina.com.pe/agencia/seccion-clic-35.aspx/> (referer: None)
2016-02-02 17:57:15 [scrapy] ERROR: Spider error processing <GET http://www.andina.com.pe/agencia/seccion-clic-35.aspx/> (referer: None)
Traceback (most recent call last):
  File "c:\python27\lib\site-packages\scrapy\utils\defer.py", line 102, in iter_errback
    yield next(it)
  File "c:\python27\lib\site-packages\scrapy\spidermiddlewares\offsite.py", line 28, in process_spider_output
   for x in result:
  File "c:\python27\lib\site-packages\scrapy\spidermiddlewares\referer.py", line 22, in <genexpr>
    return (_set_referer(r) for r in result or ())
  File "c:\python27\lib\site-packages\scrapy\spidermiddlewares\urllength.py", line 37, in <genexpr>
    return (r for r in result or () if _filter(r))
  File "c:\python27\lib\site-packages\scrapy\spidermiddlewares\depth.py", line 54, in <genexpr>
    return (r for r in result or () if _filter(r))
  File "C:\Users\iaguilar\Desktop\scrap\andina\andinanews\andinanews\spiders\andina_spider.py", line 15, in parse yield scrapy.Requests(url, callback=self.parse_dir_contents)
AttributeError: 'module' object has no attribute 'Requests'
2016-02-02 17:57:15 [scrapy] INFO: Closing spider (finished)
2016-02-02 17:57:15 [scrapy] INFO: Dumping Scrapy stats:
    {'downloader/request_bytes': 244,
     'downloader/request_count': 1,
     'downloader/request_method_count/GET': 1,
     'downloader/response_bytes': 247210,
     'downloader/response_count': 1,
     'downloader/response_status_count/200': 1,
     'finish_reason': 'finished',
     'finish_time': datetime.datetime(2016, 2, 2, 22, 57, 15, 929000),
     'log_count/DEBUG': 2,
     'log_count/ERROR': 1,
     'log_count/INFO': 7,
     'response_received_count': 1,
     'scheduler/dequeued': 1,
     'scheduler/dequeued/memory': 1,
     'scheduler/enqueued': 1,
     'scheduler/enqueued/memory': 1,
     'spider_exceptions/AttributeError': 1,
     'start_time': datetime.datetime(2016, 2, 2, 22, 57, 10, 504000)}
2016-02-02 17:57:15 [scrapy] INFO: Spider closed (finished)

А это мой паук:

import scrapy

from andinanews.items import AndinanewsItem

class AndinaSpider(scrapy.Spider):
name = "andina"
allowed_domains = ["andina.com.pe"]
start_urls = [
    "http://www.andina.com.pe/agencia/seccion-clic-35.aspx/"
]

def parse(self, response):
    for href in response.css("article.seccion5 > h3 > a::attr('href')"):
        url = response.urljoin(href.extract())
        yield scrapy.Requests(url, callback=self.parse_dir_contents)

def parse_dir_contents(self, response):
    for sel in response.xpath('//section[class=cuerpo_cont]'):
        item = AndinanewsItem()
        item['title'] = sel.xpath('h1/text()').extract()
        item['image'] = sel.xpath('article[class=fotoportada]/img/@src').extract()
        item['desc'] = sel.xpath('//section[class=cuerpo_cont]/section/text()').extract()
        yield item

Я был в этом весь день и не могу найти, в чем ошибка. Я также действительно новичок в Python. Если бы вы могли указать мне в правильном направлении, было бы здорово!


person Ant100    schedule 02.02.2016    source источник
comment
В вашем текущем рабочем каталоге случайно нет файла с именем scrapy.py? Если это так, вам нужно переименовать его и удалить scrapy.pyc.   -  person mechanical_meat    schedule 03.02.2016
comment
@bernie нет :( Хотя у меня есть scrapy.cfg   -  person Ant100    schedule 03.02.2016
comment
Используйте scrapy.Request (единственное число) вместо scrapy.Requests (множественное число)   -  person paul trmbrth    schedule 03.02.2016


Ответы (1)