爬取天天基金网上的所有基金,辅助对基金投资的选择
!刚刚重构完毕,可能存在bug等不稳定的情况
-
爬取基金的近1、3、6月,近1、3年及成立来的收益率,当前基金经理及其任职时间、任职来的收益率及总的任职时间
-
模仿tcp的拥塞避免的线程数量控制,慢开始,当出现错误时,线程最大值减半,成功则线程最大值+1
-
爬取全部数据需要136s,瓶颈为网站的反爬策略
- 下载所有脚本文件(除MonkeyTest外)
- 运行CrawlingFund.py并等待
- 数据可视化 (计划做个简单的晴雨表?显示这个月多少基金赚钱,多少赔钱)
- 数据清洗,按照要求筛选基金
- 代理?(好像这个需求不大,可能不做)