V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
klklklkl
V2EX  ›  Google

如何批量抓取谷歌搜索每项结果的链接页面

  •  
  •   klklklkl · Jun 28, 2016 · 3758 views
    This topic created in 3599 days ago, the information mentioned may be changed or developed.

    不是谷歌的结果页面,是结果页面里每个链接点进去的第一个页面抓取, page only 或者文本都行。

    请问如何实现,谢谢!

    5 replies    2016-06-29 09:02:03 +08:00
    knightdf
        1
    knightdf  
       Jun 28, 2016
    提取链接跟进抓取啊
    klklklkl
        2
    klklklkl  
    OP
       Jun 28, 2016
    @knightdf
    谢谢,我用 GScraper 抓去了链接,请问有什么简便的方法在 win7 下批量根据抓取的链接下载页面?
    ho121
        3
    ho121  
       Jun 28, 2016 via Android
    太频繁会输验证码的
    suduo1987
        4
    suduo1987  
       Jun 29, 2016
    按照你的频率 ,可以考虑 google apps script
    knightdf
        5
    knightdf  
       Jun 29, 2016
    @klklklkl 把链接再丢到任务队列里去
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1074 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 33ms · UTC 18:11 · PVG 02:11 · LAX 11:11 · JFK 14:11
    ♥ Do have faith in what you're doing.