python爬虫怎么使用BeautifulSoup库

本篇内容介绍了“python爬虫怎么使用BeautifulSoup库”的有关知识，在实际案例的操作过程中，不少人都会遇到这样的困境，接下来就让小编带领大家学习一下如何处理这些情况吧！希望大家仔细阅读，能够学有所成！

海口网站建设公司创新互联,海口网站设计制作，有大型网站制作公司丰富经验。已为海口成百上千提供企业网站建设服务。企业网站搭建\成都外贸网站制作要多少钱，请找那个售后服务好的海口做网站的公司定做！

BeautiSoup类的基本元素及用bs4遍历HTML基本方法

1，BeautifulSoup类的基本元素

有5种基本元素：

Tag: 标签，最基本的信息组织单元， .

Name: 标签名字， ..name ：返回一个字符串

Attributes: 标签的属性， ..attrs ：返回一个字典类型

NavigableString:标签中的字符串, ..string ：返回一个字符串

Comment: 标签中的注释信息，会在 ..string中获得。

比如现在有一个HTML文档：

The demo python introduces several python courses.

Python is a wonderful general-purpose programming language. You can learn Python from novice to professional by tracking the following courses:

Basic Python

and

Advanced Python.

This is not a Comment.

我们对此文档用BS类的基本元素进行应用：

先煲一锅汤：>>> soup = BeautifulSoup(html, "html.parser")

用 .获得一个标签的全部信息：

如：>>> soup.p

用.name获得这个标签的名字：

如：>>> p.name

Tag属性还有另外一个重要的用法, 就是当我们对一个标签内的子节点进行遍历时，可能会有不是标签的节点，比如’\n’等，此时可利用bs4库提供的bs4.element.Tag属性来进行甄别。

用到 isinstance()方法。比如：isinstance(soup.a, bs4.element.Tag)

用.attrs获得这个标签的属性：

如>>> soup.a.attrs

可以对a标签的具体属性进行获得：>>> soup.a['href']

用.string获得这个标签中的字符串信息：

如：>>> soup.p.string:

我们看到.string可以跨越标签，直接获得标签内的字符串。

但是： 当外层标签内含有多个平行的内层标签时，就不行了：

比如：郑州人流医院哪家好 http://m.zzzy120.com/

此p标签内有多个平行的a标签，直接用p.string返回为None

最后，说说Comment属性

可用>>> soup.b.string来获得注释的信息：

二者类型是不同的，因此可用bs4库的 isinstance(, bs4.element.Comment)来过滤注释信息，或者获得注释信息。

2，用BeautifulSoup遍历HTML的方式

1，下行遍历：

3个属性：

1，.contents : 子节点的列表，将所有儿子节点存入列表(还包括所有的\n)

2，.children : 子节点的迭代类型，与.contents类似，用于循环遍历儿子节点。

3, .descendants : 包含所有的子孙节点。与children一样，只能用于迭代。

2，上行遍历：

2个属性：

1，.parent ： 节点的父亲标签

2，.parents: 节点先辈的迭代类型，用于循环遍历先辈节点(所有的先辈)。

3，平行遍历：

4个平行遍历属性：(需要发生在同一个父亲节点下的各节点间。)

1，.next_sibling : 返回按照HTML文本顺序的下一个平行节点标签。

2，.previous_sibling: 返回。。的上一个平行节点标签。

3，.next_siblings: 迭代类型， 返回按照顺序的所有平行节点标签。

4，.previous_sibings:迭代类型 。。。。。。。。。

3，BeautifulSoup的格式化输出与编码：

prettify()函数：能够为HTML标签，文本增加换行符，

1,世界上的所有信息都可以用3中标记形式进行标记。

XML 格式: 类似于HTML，标签形式。

JSON: 有类型的键值对 key:value 如：

"name" : "北京" -----;一个键值对

"name" : ["hello", "hello"] -----: 一个键对应多个值1

"name" : {"subkey" : "subvalue"} -----:一个键值对作为一个值对应于一个键

YAML: 无类型的键值对 ： key : value

name : 北京

name :

-newName : 北京

-newName : 上海 (并列)

name :

newname : hello (嵌套)

比较：：

XML用<>标记 ： 扩展性好，但是繁琐。 Internet上的信息交互与传递，多用XML。

JSON用“” ： 信息有类型，适合程序处理(js)，较XML整洁。(无法注释) 用于移动应用云端和节点的信息通信。用在对程序接口处处理。

YAML用缩进 ： 信息无类型， 文本信息比例最高，可读性好。各类系统的配置文件，有注释易读。

2，信息的提取方式

1，完整解析信息的标记形式，再提取关键信息。

2，无视标记形式，直接搜索关键信息。

3，融合方法。

如：提取HTML中所有的URL标签。

思路)：

1，搜索所有的标签

2，解析标签格式，提取href后的链接内容。

3，find_all()方法

最常用的查找方法

<>.find_all(name, attrs, recursive, string, **kwargs)

返回一个列表类型，存储查找的结果.

使用方法：

可单独指定name,attrs, recursive, string等

标签名， 属性(或字典形式的键值对), 默认为对子孙节点搜索， 字符串。

(..) 等价于 .find_all(..)

soup(..) 等价于 soup.find_all(..)

<>.find()搜索只返回一个结果，字符串结果。

“python爬虫怎么使用BeautifulSoup库”的内容就介绍到这里了，感谢大家的阅读。如果想了解更多行业相关的知识可以关注创新互联网站，小编将为大家输出更多高质量的实用文章！