吾爱破解 - LCG - LSG |安卓破解|病毒分析|www.52pojie.cn

 找回密码
 注册[Register]

QQ登录

只需一步,快速开始

查看: 4313|回复: 28
收起左侧

[Python 转载] 我写的第一个py爬新浪新闻源码

  [复制链接]
danran 发表于 2019-3-18 21:18
QQ截图20190318211606.png
我就想发帖纪念一下我写的第一个python爬虫,新手可以拿去学习一下,如果是大神希望可以指导我优化一下 哈哈大家相互学习学习{:1_918:}

[Python] 纯文本查看 复制代码
import urllib.request  #导入模块
import re
data=urllib.request.urlopen("http://news.sina.com.cn").read()   #读取网页
data=data.decode("utf-8","ignore")  #编码
pat='href="(https://news.sina.com.cn/.*?[.shtml])"'   #正则表达式
allurl=re.compile(pat).findall(data)
for i in range(0,len(allurl)):
    try:
        data2=urllib.request.urlopen(allurl[i]).read()
        data2 = data2.decode("utf-8", "ignore")
        pat2 = 'og:title" content="(.*?)"'
        tittle = re.compile(pat2).findall(data2)
        if(len(tittle)>=1):
            print(tittle[0] + "\n" + allurl[i])      #获取标题并且输出
        else:
            print("标题爬取失败"+ "\n" + allurl[i])
    except urllib.error.URLError as e:  # 捕获异常并且输出
        if hasattr(e, "code"):
            print(e.code)
        if hasattr(e, "reason"):
            print(e.reason)


免费评分

参与人数 8吾爱币 +8 热心值 +7 收起 理由
fouf4 + 1 + 1 大神有如此神通,可否写一个新浪微博阅读量软件或者点赞的
fstar22 + 1 + 1 我很赞同!
zhwb024 + 1 + 1 热心回复!
wwwwwn + 1 + 1 谢谢@Thanks!
mink0325 + 1 用心讨论,共获提升!
lxm042 + 1 + 1 热心回复!
豫黄河 + 1 + 1 大师,教教我怎么入门的
Loser2019 + 1 + 1 热心回复!

查看全部评分

发帖前要善用论坛搜索功能,那里可能会有你要找的答案或者已经有人发布过相同内容了,请勿重复发帖。

jinzilao 发表于 2019-3-21 15:29

就是在每次请求的时候  加一句  time.sleep(3)  每次尽量大于3秒  也可以加个随机数
 楼主| danran 发表于 2019-3-19 12:31
jinzilao 发表于 2019-3-19 09:53
测试的话还好,如果想长时间运行,恳请加个timesleep,这样对大家都好

怎么搞,求教
吾爱小洪 发表于 2019-3-18 21:30
Loser2019 发表于 2019-3-18 21:32
向大佬低头!!!
hill_king 发表于 2019-3-18 21:42
给大佬倒茶
mini5pusb 发表于 2019-3-18 21:59
我是新手,得向你多学习下
文西思密达 发表于 2019-3-18 22:05
大佬 ,请问输出之后在哪里?运行了没反应的
豫黄河 发表于 2019-3-18 22:18
大师,教教我怎么入门的
htss 发表于 2019-3-18 22:26
支持支持,坚决支持!!!!!
guzhenguo 发表于 2019-3-18 22:50
向大佬学习
 楼主| danran 发表于 2019-3-19 09:02
addision 发表于 2019-3-18 22:05
大佬 ,请问输出之后在哪里?运行了没反应的

用python3的ide打开按f5运行
您需要登录后才可以回帖 登录 | 注册[Register]

本版积分规则 警告:本版块禁止灌水或回复与主题无关内容,违者重罚!

快速回复 收藏帖子 返回列表 搜索

RSS订阅|小黑屋|处罚记录|联系我们|吾爱破解 - LCG - LSG ( 京ICP备16042023号 | 京公网安备 11010502030087号 )

GMT+8, 2024-3-28 16:23

Powered by Discuz!

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表