您当前的位置:首页 > IT编程 > python
| C语言 | Java | VB | VC | python | Android | TensorFlow | C++ | oracle | 学术与代码 | cnn卷积神经网络 | gnn | 图像修复 | Keras | 数据集 | Neo4j | 自然语言处理 | 深度学习 | 医学CAD | 医学影像 | 超参数 | pointnet | pytorch | 异常检测 | Transformers | 情感分类 | 知识图谱 |

自学教程:Python 短视频爬虫教程

51自学网 2022-02-21 10:47:46
  python
这篇教程Python 短视频爬虫教程写得很实用,希望能帮到您。

好难受,上次发了做游戏的居然没人看,每天为了给你们写啥,老夫心都操碎了~

在这里插入图片描述

真的是,今天来给大家爬一波短视频网站吧,都是些很养眼的~

在这里插入图片描述

网站地址在代码里面,大家用心一下就能看到了。

使用的软件

python 3.8pycharm 2021.2

模块

requestsparselreconcurrent.futurestimewarnings

不会安装模块看这篇:python模块的安装以及安装失败的解决方法

知道你们不想看那些步骤,我直接上代码吧

import requestsimport parselimport reimport concurrent.futuresimport timeimport warnings# 取消警告warnings.filterwarnings("ignore")def get_html(url):    """发送请求获取网页源代码"""    html_data = requests.get(url=url, verify=False).text    return html_datadef parse_data_1(html_data):    """第一次解析, 拿到所有的详情页链接"""    selector = parsel.Selector(html_data)    url_list = selector.xpath('//a[@class="meta-title"]/@href').getall()    return url_listdef parse_data_2(html_data):    """第二次解析, 获取视频链接"""    video_url = re.findall('url: "(.*?)",', html_data)[0]    return video_urldef save(video_url):    """保存视频"""    title = video_url.split('/')[-1]    # 取链接当中的字段作为标题    video_data = requests.get(video_url, verify=False).content    # 发送网络请求    with open(f'video/{title}', mode='wb') as f:        f.write(video_data)    print(title, "爬取成功!!!")start_time = time.time()url = 'https://www.520mmtv.com/hd/rewu.html'# 1. 向目标网站发送请求html_data = get_html(url=url)# 2. 第一次解析数据 提取详情页链接url_list = parse_data_1(html_data=html_data)for info_url in url_list[:10]:    # 3. 向详情页发送请求    html_data_2 = get_html(url=info_url)    # 4. 第二次解析数据 提取视频播放地址    video_url = parse_data_2(html_data=html_data_2)    # 5. 保存视频    save(video_url=video_url)print('花费时间:', time.time() - start_time)

到此这篇关于Python 短视频爬虫教程的文章就介绍到这了,更多相关Python 爬虫教程内容请搜索51zixue.net以前的文章或继续浏览下面的相关文章希望大家以后多多支持51zixue.net!


Python批量操作Excel文件详解
python算法深入理解风控中的KS原理
万事OK自学网:51自学网_软件自学网_CAD自学网自学excel、自学PS、自学CAD、自学C语言、自学css3实例,是一个通过网络自主学习工作技能的自学平台,网友喜欢的软件自学网站。