700字范文,内容丰富有趣,生活中的好帮手!
700字范文 > 这可能是中文网上关于Twitter信息爬虫检索最全的项目了

这可能是中文网上关于Twitter信息爬虫检索最全的项目了

时间:2021-01-11 23:56:43

相关推荐

这可能是中文网上关于Twitter信息爬虫检索最全的项目了

最近因为工作需要爬虫了一段时间推特。

Twitter网站是用AJAX异步加载的,用request请求到json文件的数据url也是拒绝的

所以只能慢慢模拟浏览器下滑慢慢加载json文件咯(当然我没有用类似于selenium一类的库,效率太低)

举个例子:

我们需要爬trump的1000条推特,输入以下命令就行了

GetOldTweets3 --username "realDonaldTrump" --toptweets --maxtweets 100

爬虫结果如下(因为用windows系统需要fanqiang,所以直接在linux下使用了)

用python代码读一下csv文档(穷苦民众只能买没有图形界面的服务器):

import csvimport pandas as pddf=pd.read_csv("/opt/test/output_got.csv")print(df)

再比如,我们想检索在推特上搜索 “changsha”的新闻

GetOldTweets3 --querysearch " changsha " --maxtweets 10

没什么问题,如果在windows系统下不能使用可以私信我或者应该是被墙住了吧。

优秀的程序员我觉得就是要一键和兼容 ,具体怎么使用看看我写的readme就行了

具体github地址如下:

Solin1998/SearchTT​

希望各位有需要的老哥可以fork我一下,谢谢!!!!

当然,情感分析,事件抽取一类的事情我也做不来,只是做了一部分原始数据的来源爬虫,

有时间应该会更新看有没有办法绕过twitter开发者账号比如爬取关注的人,多级关注等

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。