700字范文,内容丰富有趣,生活中的好帮手!
700字范文 > 实战大项目:模拟登录丁香园 并抓取论坛页面所有的人员基本信息与回复帖子内容----爬

实战大项目:模拟登录丁香园 并抓取论坛页面所有的人员基本信息与回复帖子内容----爬

时间:2022-03-18 03:09:25

相关推荐

实战大项目:模拟登录丁香园 并抓取论坛页面所有的人员基本信息与回复帖子内容----爬

接着上一步模拟登录操作。学了两天的session 了没有搞定登录。还是回到selenium模拟登录爬取。但是验证码这一块,没有搞定,在文中用的人工辅助登录成功。代码太丑,实在是无言面对同行。

import timefrom selenium import webdriverimport csvfrom lxml import etreebrowser = webdriver.Firefox() # 先模拟登录url = '/bbs/thread/626626#626626/' #丁香医生browser.get(url)time.sleep(3)browser.maximize_window()#打开网页窗口time.sleep(4)#denglu = browser.find_element_by_class_name("activate-info-tip-btn")[1]#账号输入框 'FirefoxWebElement' object does not support indexingdenglu = browser.find_element_by_xpath('//div[@class="nav_account"]/a') #找到第一个a节点denglu.click() #点击进入到登录网站time.sleep(4)dl = browser.find_element_by_xpath('//a/i[@class="wechat__ico ico_pc"]')dl.click()time.sleep(5)#这里进入电脑版登录界面input= browser.find_element_by_name("username") #找到账号输入的地方input.send_keys("17353239795")password = browser.find_element_by_name("password")#密码输入框password.send_keys('wq1255462268')login_em = browser.find_element_by_class_name("button")#登录按钮login_em.click()time.sleep(15) #需要验证码 要显示登录成功啊。。。。加上人工操作点击验证cookie = browser.get_cookies()cookie_dict = {i['name']: i['value'] for i in cookie}# 转到抓取页面browser.get(url)html = browser.page_sourcehtml = etree.HTML(html)result1 = html.xpath('//div[@class="auth"]') #评论者姓名result2 = html.xpath('//div[@class="info clearfix"]')result3 = html.xpath('//div[@class="user_atten"]/ul/li[1]')result4 = html.xpath('//div[@class="user_atten"]/ul/li[2]')result5 = html.xpath('//div[@class="user_atten"]/ul/li[3]')result6 = html.xpath('//tbody//td[@class="postbody"]') # 取出对应的回复评论 都是list型result7 = html.xpath('//div[@class="post-info"]/span[1]')# 创建空列表存放数据user = []level = []jifen = []depiao = []dingdang = []content = []time = []with open("dingxiang4.csv", 'a', encoding='utf-8',newline='') as csvfile:writer = csv.writer(csvfile)writer.writerow(["user", "level","jifen","depiao","dingdang","content", "time"])for data in result1:x = data.xpath('string(.)') .strip() # 对单个对象去掉换行符,只留下字符串user.append(x) # 做成字典型for data in result2:y = data.xpath('string(.)').strip()level.append(y)for data in result3:z = data.xpath('string(.)').strip()jifen.append(z)for data in result4:x = data.xpath('string(.)').strip() # 对单个对象去掉换行符,只留下字符串depiao.append(x) # 做成字典型for data in result5:x = data.xpath('string(.)').strip() # 对单个对象去掉换行符,只留下字符串dingdang.append(x) # 做成字典型for data in result6:x = data.xpath('string(.)').strip() # 对单个对象去掉换行符,只留下字符串content.append(x) # 做成字典型for data in result7:x = data.xpath('string(.)').strip() # 对单个对象去掉换行符,只留下字符串time.append(x) # 做成字典型print(len(content))for i in range(len(user)):result = user[i],level[i] ,jifen[i],depiao[i],dingdang[i],content[i], time[i]print(result)writer.writerow(result)呵呵呵确实丑

运行结果如下:

('楼医生', '常驻站友', '3积分', '1得票', '168丁当', '我遇到一个“怪”病人,向大家请教。她,42岁。反复惊吓后晕厥30余年。每次受响声惊吓后发生跌倒,短暂意识丧失。无逆行性遗忘,无抽搐,无口吐白沫,无大小便失禁。多次跌倒致外伤。婴儿时有惊厥史。入院查体无殊。ECG、24小时动态心电图无殊;头颅MRI示小软化灶;脑电图无殊。入院后有数次类似发作。请问该患者该做何诊断,还需做什么检查,治疗方案怎样?', '-11-17 19:12')('lion000', '丁香园准中级站友', '43积分', '7得票', '82丁当', '从发作的症状上比较符合血管迷走神经性晕厥,直立倾斜试验能协助诊断。在行直立倾斜实验前应该做常规的体格检查、ECG、UCG、holter和X-ray胸片除外器质性心脏病。贴一篇“口服氨酰心安和依那普利治疗血管迷走性晕厥的疗效观察”作者:林文华 任自文 丁燕生/ccheart_site/Templates/jieru/200011/1-1.htm', '-11-17 21:02')('xghrh', '丁香园荣誉版主', '68积分', '15得票', '413丁当', '同意lion000版主的观点:如果此患者随着年龄的增长,其发作频率逐渐减少且更加支持,不知此患者有无这一特点。入院后的HOLTER及血压监测对此患者只能是一种安慰性的检查,因在这些检查过程中患者发病的机会不是太大,当然不排除正好发作的情况。对此患者应常规作直立倾斜试验,如果没有诱发出,再考虑有无可能是其他原因所致的意识障碍,如室性心动过速等,但这需要电生理尤其是心腔内电生理的检查,毕竟是有一种创伤性方法。因在外地,下面一篇文章可能对您有助,请您自己查找一下。心理应激事件诱发血管迷走性晕厥1例 ,杨峻青、吴沃栋、张瑞云,中国神经精神疾病杂志, 2002 Vol.28 No.2', '-11-17 21:45')('keys', '常驻站友', '8积分', '0得票', '141丁当', '该例不排除精神因素导致的,因为每次均在受惊吓后出现。当然,在作出此诊断前,应完善相关检查,如头颅MIR(MRA),直立倾斜试验等。', '-11-17 21:52')('楼医生', '常驻站友', '3积分', '1得票', '168丁当', '谢谢上面几位的热心。这个病人从学会走路就出现症状,并且近几年发作越来越频繁,一个月有4、5次。如果说是血管迷走性晕厥,它的机理是什么?在这个病人身上如何解释?', '-11-17 22:32')('shilly', '丁香园中级站友', '244积分', '253得票', '362丁当', '不会是心因性癫痫吧?我不是专科,猜猜', '-11-17 22:42')('jrhs', '丁香园准中级站友', '71积分', '45得票', '361丁当', '倾斜试验一定先排除器质性心脏病。', '-11-18 12:40')('yangwein', '铁杆站友', '26积分', '9得票', '216丁当', '1,头颅MRI示小软化灶;脑电图无殊,惊吓后晕厥30余年,婴儿时有惊厥史。先做动态脑电图排查癫痫,还有视觉诱发试验等,请神经内科会诊。2,排除神经内科问题后,行直立倾斜实验筛查血管迷走神经性晕厥。彩超排除器质性心脏病。', '-11-18 13:08')

关于session 我在去学学。

实战大项目:模拟登录丁香园 并抓取论坛页面所有的人员基本信息与回复帖子内容----爬取第二步

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。