news 2026/7/11 2:19:09

Selenium实战指南:用浏览器驱动轻松实现网络爬虫

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
Selenium实战指南:用浏览器驱动轻松实现网络爬虫

Selenium 介绍

1、Selenium 是什么?

Selenium 最初是一款用于 Web 应用程序测试的工具,它可以驱动浏览器执行特定操作,自动按照脚本代码完成点击、输入、打开页面、验证结果等一系列行为,就像真实用户在操作一样。

目前 Selenium 已不仅限于测试领域,还广泛用于网络爬虫、网页自动化、批量操作等场景。

它支持多种主流浏览器,包括:

Internet Explorer(IE)

Firefox

Safari

Microsoft Edge

Google Chrome

等,几乎覆盖了日常开发与爬虫工作中会遇到的所有浏览器类型。

2、Selenium 与 requests 库的区别

很多人在做爬虫时会用到 Python 的 requests库,它通过直接发送 HTTP 请求来获取网页内容,速度快、资源占用少,但只能拿到服务器返回的原始 HTML,对于由 JavaScript 动态渲染生成的数据无能为力。

而 Selenium​ 是基于浏览器驱动程序来控制浏览器执行操作的,浏览器会对网页进行完整的渲染(包括执行 JS、加载 Ajax 数据等),因此 Selenium 可以轻松获取渲染后的页面数据。

简单来说:

requests→ 静态抓取,速度快,适合结构简单、无 JS 渲染的页面。

selenium→ 动态抓取,能获取 JS 渲染后的内容,适合复杂交互或现代前端框架(如 React、Vue)生成的页面,但速度较慢、资源占用高。

3、Selenium 的工作原理

Selenium 的核心是通过 WebDriver​ 与浏览器进行通信。其工作流程如下:

浏览器内核驱动(WebDriver)​

每种浏览器都有自己的 WebDriver,例如 ChromeDriver(Chrome)、GeckoDriver(Firefox)、msedgedriver(Edge)等,并且驱动版本必须与浏览器版本匹配,否则可能无法正常工作。

驱动程序与浏览器内核交互​

WebDriver 会通过浏览器内核提供的接口,将脚本发出的指令(如打开网址、点击按钮、填写表单)转化为浏览器可执行的操作。

浏览器执行并返回结果​

浏览器完成操作后,会将渲染完成的页面信息返回给 WebDriver,再由 WebDriver 将数据传递给我们的脚本进行后续处理。

关键点:不同浏览器使用不同的 WebDriver,且必须对应相应版本的浏览器,否则会出现兼容性问题。

如何使用 Selenium?

(1)使用前准备

要开始使用 Selenium,需要完成以下两个步骤:

a. 安装 Selenium 库​

在命令行中使用 pip 安装(这里以 4.11.0 版本为例):

pipinstallselenium==4.11.0 -i https://pypi.mirrors.ustc.edu.cn/simple/

也可以在 PyCharm 等 IDE 的包管理界面直接搜索安装。
b. 下载并配置浏览器驱动​

不同浏览器需要对应的驱动程序:

Edge 驱动:https://developer.microsoft.com/en-us/microsoft-edge/tools/webdriver/

Chrome 驱动:https://chromedriver.storage.googleapis.com/index.html

Firefox 驱动(GeckoDriver):https://github.com/mozilla/geckodriver/releases

注意浏览器内核对应关系:

新版 360 安全浏览器、360 极速浏览器​ 使用的是 Edge 内核​

QQ 浏览器​ 有的版本使用 IE 内核(需注意具体版本)

如果目标网页在 IE 中才能正常显示,则需要用 IE 驱动

(2)驱动程序的放置

Windows 系统:将下载并解压后的驱动文件放到 Python 安装目录下的 Scripts 文件夹​ 中(确保该路径已加入系统环境变量)。

Linux / macOS 系统:同样放在 Python 的 Scripts(或对应可执行路径)目录下;如果系统中有多个 Python 版本,要确定当前运行脚本的 Python 环境,并将其路径配置到环境变量中,避免版本冲突。

实例1:打开网页

fromseleniumimportwebdriverfromselenium.webdriver.edge.optionsimportOptions edge_options=Options()edge_options.binary_location=r"C:\Program Files (x86)\Microsoft\Edge\Application\msedge.exe"driver=webdriver.Edge(options=edge_options)driver.get('https://www.ptpress.com.cn/')input('dengdai')

实例2:打开多个网页

fromseleniumimportwebdriverfromselenium.webdriver.edge.optionsimportOptions edge_options=Options()edge_options.binary_location=r"C:\Program Files (x86)\Microsoft\Edge\Application\msedge.exe"driver=webdriver.Edge(options=edge_options)driver.get('https://www.baidu.com')driver.execute_script("window.open('https://www.bilibili.com/','_blank');")driver.execute_script("window.open('https://www.shuyishe.com/','_blank');")driver.execute_script("window.open('https://www.shuyishe.com/course','_blank');")input('dengdai')
版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/7/8 16:00:30

ASTM D4169-DC13 标准,包装完整性

标准全称:Standard Practice for Performance Testing of Shipping Containers and Systems (运输集装箱和系统性能测试的标准实施规程)发布机构:美国材料与试验协会 (ASTM International)最新版本:ASTM D4169-2023e1(2024 年 3 月…

作者头像 李华
网站建设 2026/7/11 9:53:50

Linux新手必学:tail命令图解指南

快速体验 打开 InsCode(快马)平台 https://www.inscode.net输入框内输入如下内容: 制作一个交互式新手教程,包含:1. tail命令基础介绍动画 2. 实时命令行模拟器 3. 渐进式练习(从查看文件末尾到实时监控) 4. 常见错误提示。使用HTMLJS实现&a…

作者头像 李华
网站建设 2026/7/9 10:11:06

19、利用Scapy和Python进行网络数据包处理与扫描

利用Scapy和Python进行网络数据包处理与扫描 1. Scapy数据包捕获与重放 Scapy具备监听网络接口并捕获所有传入数据包的能力,它可以像tcpdump一样将数据包写入pcap文件。此外,Scapy还提供了读取和重放pcap文件的额外功能。 1.1 简单数据包重放 以下是一个简单的数据包重放…

作者头像 李华
网站建设 2026/7/10 8:55:03

性能测试里MySQL的锁

这篇文章我想来聊聊 MySQL 的锁是怎么加上的,为啥想聊这个呢?主要是因为业务中我们或多或少都会使用到锁,毕竟锁是保障我们数据安全性的关键法宝。但是由于不了解原理,往往可能导致我们在”刻意“或者”无意“的使用场景下&#x…

作者头像 李华
网站建设 2026/7/9 18:34:24

OBS教程:OBS实时字幕插件如何下载?直播字幕翻译怎么弄?

OBS教程:OBS实时字幕插件如何下载?直播字幕翻译怎么弄?直播实时翻译软件哪个好?OBS实时字幕插件官方下载地址 首先介绍一下OBS实时字幕插件支持哪些功能: 1、将主播所说的话显示为文字,逐字逐句实时显示字…

作者头像 李华
网站建设 2026/7/4 8:35:46

MagicTime: Time-Lapse Video Generation Models asMetamorphic Simulators论文精读(1)

T2V的最新进展在文本描述合成高质量的一般视频方面取得了显著成功,但是在T2V中有一个被忽视的问题:没有充分编码真实世界的物理知识,因此生成的视频往往运动会被限制,变化不佳。因此本文提出了一个变形延时视频生成模型&#xff0…

作者头像 李华