Skip to content

Latest commit

 

History

History

大众点评爬虫

Folders and files

NameName
Last commit message
Last commit date

parent directory

..
 
 
 
 
 
 
 
 
 
 
 
 

大众点评评论爬虫脚本使用指南

爬取前的准备

  • mysql数据库安装、打开服务
  • 修改mysqls.py程序中数据库的用户名密码等,并创建对应的database和table,可以使用mysqls.creat_table()函数
  • 登录大众点评官网,通过谷歌开发者工具等获取到当前的cookie,修改main.py中的cookie变量
  • 查看爬取的店铺的店铺ID以及评论的页数,修改main.py 中对应的位置
  • 如果有xuchuan.txt(保存当前点评爬取进度),请在爬取前删除(每换一个店铺要删除一次)

爬取过程中

  • 由于大概每爬取100页左右,需要进行一次验证,当发现获取评论为0条或者异常时,请用浏览器打开点评页面,滑动滑块解锁,然后重启程序,有断点续传,不虚~
  • 当更换店铺时,需要把店铺ID进行替换,还有评论的页数也要替换,还要删除xuchuan.txt

爬取结束后

数据存储于MYSQL数据库中,可以使用各种方法读取,啦啦啦啦~