正文

爬虫 （4）- Selenium与PhantomJS（chromedriver）与爬取案例

IP云
IP云V管理员/21 阅读
10/26
提示：扫一扫查出行
【扫一扫了解最新限行尾号】
复制提示

Selenium文档

Selenium是一个Web的自动化测试工具，最初是为网站自动化测试而开发的，类型像我们玩游戏用的按键精灵，可以按指定的命令自动操作，不同是Selenium 可以直接运行在浏览器上，它支持所有主流的浏览器（包括PhantomJS这些无界面的浏览器）。

Selenium 可以根据我们的指令，让浏览器自动加载页面，获取需要的数据，甚至页面截屏，或者判断网站上某些动作是否发生。

Selenium 自己不带浏览器，不支持浏览器的功能，它需要与第三方浏览器结合在一起才能使用。但是我们有时候需要让它内嵌在代码中运行，所以我们可以用一个叫 PhantomJS 的工具代替真实的浏览器。

PhantomJS

PhantomJS 是一个基于Webkit的“无界面”(headless)浏览器，它会把网站加载到内存并执行页面上的 JavaScript，因为不会展示图形界面，所以运行起来比完整的浏览器要高效。

如果我们把 Selenium 和 PhantomJS 结合在一起，就可以运行一个非常强大的网络爬虫了，这个爬虫可以处理 JavaScrip、Cookie、headers，以及任何我们真实用户需要做的事情。

PhantomJS已经弃用，chrome用chromedriver代替

chromedriver下载地址

注意 ：chromedriver的版本要与你使用的chrome版本对应，对应关系如下：

下载完成后：

windows 下，新建一个命名为chromedriver文件夹，将解压的chromedriver.exe放进文件夹，再配置进path环境变量

详细安装方法链接

Linux下，把下载好的文件放在 /usr/bin 目录下就可以了。

分享一个selenium中经常会有人遇到的坑

selenium.common.exceptions.StaleElementReferenceException: Message: stale element reference: element is not attached to the page document

问：“我循环去点击一列链接，但是只能点到第一个，第二个就失败了，为什么？”。

原因就在这里：你点击第二个时已经是新页面，当然找不到之前页面的元素。

问：“可是明明元素就在那里，没有变，甚至我是回退回来的，页面都没有变，怎么会说是新页面？”。

这个就需要你明白页面长得一样不代表就是同一张页面，就像两个人长得一样不一定是同一个人，他们的身份证号不同。

页面，甚至页面上的元素都是有自己的身份证号（id）的。

解决办法：

目前只能sleep一下，让爬虫先把当前页面的内容爬完，再去跳转下一页吧。实则有效。

Selenium 库里有个叫 WebDriver 的 API。WebDriver 有点儿像可以加载网站的浏览器，但是它也可以像 BeautifulSoup 或者其他 Selector 对象一样用来查找页面元素，与页面上的元素进行交互 (发送文本、点击等)，以及执行其他动作来运行网络爬虫。

案例一：斗鱼直播房间数据统计

源码下载，将源码仍进PyCharm直接运行即可

源码分析

#!/usr/bin/env python
# -*- coding:utf-8 -*-import unittest
from selenium import webdriver
from bs4 import BeautifulSoup as bs
from selenium.webdriver.chrome.options import Options
import timeclass douyu(unittest.TestCase):
# 初始化方法，必须是setUp()
def setUp(self):
# 配置自动化浏览器
chrome_options = Options()
chrome_options.add_argument('--headless')
chrome_options.add_argument('--disable-gpu')
chrome_options.add_argument('--shm-size=1g')
self.driver = webdriver.Chrome(chrome_options=chrome_options)
# self.driver = webdriver.Chrome()
self.num = 0
self.count = 0 # 测试方法必须有test字样开头
def testDouyu(self):
self.driver.get("https://www.douyu.com/directory/all") while True:
soup = bs(self.driver.page_source, "lxml")
# 房间名, 返回列表
names = soup.find_all("h3", {"class" : "ellipsis"})
# 观众人数, 返回列表
numbers = soup.find_all("span", {"class" :"dy-num fr"}) # zip(names, numbers) 将name和number这两个列表合并为一个元组 : [(1, 2), (3, 4)...]
for name, number in zip(names, numbers):
print (u"观众人数: -" + number.get_text().strip() + u"-\t房间名: " + name.get_text().strip() )
self.num += 1
#self.count += int(number.get_text().strip()) time.sleep(0.2) # 如果在页面源码里找到"下一页"为隐藏的标签，就退出循环
if self.driver.page_source.find("shark-pager-disable-next") != -1:
break # 一直点击下一页
self.driver.find_element_by_class_name("shark-pager-next").click() # 测试结束执行的方法
def tearDown(self):
# 退出PhantomJS()浏览器
print ("当前网站直播人数" + str(self.num) )
print ("当前网站观众人数" + str(self.count) )
self.driver.quit()if __name__ == "__main__":
# 启动测试模块
unittest.main()

案例二：煎蛋妹子图爬取

由于煎蛋的妹子图实在太多人爬取，所以网站做了一点反爬虫处理，所以要爬取不能想爬百度贴吧那么简单，必须使用Selenium与chromedriver的方式来爬取

源码下载，将源码仍进PyCharm直接运行即可

源码分析

# -*- coding:utf-8 -*-
# Author:shifu204import urllib.request
import urllib.parse
from lxml import etree
from selenium import webdriver
from bs4 import BeautifulSoup
import requests
from selenium.webdriver.chrome.options import Optionsdef loadPage(url):
"""
作用：根据url发送请求，获取服务器响应文件
url: 需要爬取的url地址
""" chrome_options = Options()
chrome_options.add_argument('--headless')
chrome_options.add_argument('--disable-gpu')
chrome_options.add_argument('--shm-size=1g')
driver = webdriver.Chrome(chrome_options=chrome_options) driver.get(url)
img_url = []
path = "G:/mm/" # 保存图片的路径 data = driver.page_source soup = BeautifulSoup(data, "lxml") images = soup.select("a.view_img_link") print(images) for image in images: dynamic = image.get('href') # if str('gif') in str(dynamic): #  去除gif
# pass
# else: http_url = "http:" + dynamic
img_url.append(http_url)
# print("http:%s" % dynamic) for j in img_url:
r = requests.get(j) print('正在下载 %s' % j) with open(path + j[-15:], 'wb')as jpg:
jpg.write(r.content)def tiebaSpider(url, beginPage, endPage):
"""
beginPage : 起始页
endPage : 结束页
"""
for page in range(beginPage, endPage + 1):
#filename = "第" + str(page) + "页.html"
fullurl = url + "/page-" + str(page) + "#comments"
# print (fullurl)
loadPage(fullurl)
#print (html) print("谢谢使用")if __name__ == "__main__":
kw = input("请输入需要爬取的内容: 1-搞笑，2-美女 :") if kw == '1':
k = 'pic'
else:
k = 'ooxx' beginPage = int(input("请输入起始页："))
endPage = int(input("请输入结束页：")) # url = "http://jandan.net/pic/page-230#comments"
url = "http://jandan.net/" fullurl = url + k
# print(fullurl)
tiebaSpider(fullurl, beginPage, endPage)

案例三：优酷羽毛球教学视频链接批量爬取

这个纯粹个人爱好，优酷某些带版权的视频不能在客户端下载，然后，你懂的~~

将你关注频道的链接复制下来，例如下面这个

源码下载，将源码仍进PyCharm直接运行即可

源码分析

# -*- coding:utf-8 -*-
# Author:shifu204import urllib.request
import urllib.parse
from lxml import etree
from selenium import webdriver
from bs4 import BeautifulSoup
import requests
from selenium.webdriver.chrome.options import Optionsdef loadPage(url):
"""
作用：根据url发送请求，获取服务器响应文件
url: 需要爬取的url地址
""" chrome_options = Options()
chrome_options.add_argument('--headless')
chrome_options.add_argument('--disable-gpu')
chrome_options.add_argument('--shm-size=1g')
driver = webdriver.Chrome(chrome_options=chrome_options) driver.get(url) # 点击视频链接
# divs = driver.find_elements_by_class_name("v-link")
# for links in divs:
# links.click() data = driver.page_source soup = BeautifulSoup(data, "lxml") video_urls = soup.select("div.v-link > a") for video_url in video_urls:
# video_url.click()
dynamic = video_url.get('href') http_url = "https:" + dynamic
# img_url.append(http_url)
print(http_url)def tiebaSpider(url, beginPage, endPage):
"""
beginPage : 起始页
endPage : 结束页
"""
for page in range(beginPage, endPage + 1):
fullurl = url + str(page) + ''
# print (fullurl)
loadPage(fullurl)
#print (html) print("谢谢使用")if __name__ == "__main__": beginPage = int(input("请输入起始页："))
endPage = int(input("请输入结束页：")) # 关注频道页面的url黏贴到这里
fullurl = "http://i.youku.com/i/UNDIyMzkyNDMy/videos?spm=a2hzp.8253869.0.0&order=1&page=" # print(fullurl)
tiebaSpider(fullurl, beginPage, endPage)