牛骨文教育服务平台(让学习变的简单)
博文笔记

python scrapy爬取微信公众号文章的爬虫

创建时间:2017-09-07 投稿人: 浏览次数:2690

  • 环境:python 2.7 64bit,win10 64bit,SqlServer 2008
  • 微信公众号文章爬取器
  • 从搜狗微信公众号入口爬取公众号新闻列表
  • 支持爬取新闻标题、Icon、作者、时间等
  • 支持文章内容图片下载替换
  • 支持去掉含有二维码的图片
  • 支持去掉带有超链接的html 标签
  • 支持保存数据到数据库sql server
  • 二维码识别采用zbar,支持用python zbar插件和用zbar的windows exe两种方式解析二维码
  • 微信文章过于频繁,搜狗和微信会反爬虫,提示输入验证码,自动识别和输入验证码采用 若快打码(收费)
完整源码地址:https://github.com/beng0305/WechatSpider
声明:该文观点仅代表作者本人,牛骨文系教育信息发布平台,牛骨文仅提供信息存储空间服务。