Xpath如何提取HTML数据

今天就跟大家聊聊有关Xpath如何提取HTML数据，可能很多人都不太了解，为了让大家更加了解，小编给大家总结了以下内容，希望大家根据这篇文章可以有所收获。

10多年的新城网站建设经验，针对设计、前端、开发、售后、文案、推广等六对一服务，响应快，48小时及时工作处理。网络营销推广的优势是能够根据用户设备显示端的尺寸不同，自动调整新城建站的显示方式，使网站能够适用不同显示终端，在浏览器中调整网站的宽度，无论在任何一种浏览器上浏览网站，都能展现优雅布局与设计，从而大程度地提升浏览体验。创新互联从事“新城网站设计”,“新城网站推广”以来，每个客户项目都认真落实执行。

1.简介

XPath是一门在 XML 文档中查找信息的语言。XPath 用于在 XML 文档中通过元素和属性进行导航。
相比于BeautifulSoup，Xpath在提取数据时会更加的方便。

2. 安装

在Python中很多库都有提供Xpath的功能，但是最基本的还是lxml这个库，效率最高。在之前BeautifulSoup章节中我们也介绍到了lxml是如何安装的。

pip install lxml

3. 语法

XPath 使用路径表达式在 XML 文档中选取节点。节点是通过沿着路径或者 step 来选取的。

我们将用以下的HTML文档来进行演示：

html_doc = '''
    

        
            Everyday Italian
            Giada De Laurentiis
            2005
            30.00
        

        
            Harry Potter
            J K. Rowling
            2005
            29.99
        

        
            XQuery Kick Start
            James McGovern
            Per Bothner
            Kurt Cagle
            James Linn
            Vaidyanathan Nagarajan
            2003
            49.99
        

        
            Learning XML
            Erik T. Ray
            2003
            39.95
        

    '''

导入语句，并生成HTML的DOM树：

from lxml import etree

page = etree.HTML(html_doc)

3.1. 路径查找

查找当前节点的子节点

In [1]: page.xpath('head')
Out[1]: []

从根节点进行查找

In [2]: page.xpath('/html')
Out[2]: []

从整个文档中所有节点查找

In [3]: page.xpath('//book')
Out[3]:
[, , , ]

选取当前节点的父节点

In [4]: page.xpath('//book')[0].xpath('..')
Out[4]: []

选取属性

In [5]: page.xpath('//book')[0].xpath('@category')
Out[5]: ['COOKING']

3.2. 节点查找

nodename[1]

选取第一个元素。

nodename[last()]

选取最后一个元素。

nodename[last()-1]

选取倒数第二个元素。

nodename[position()<3]

选取前两个子元素。

nodename[@lang]

选取拥有名为 lang 的属性的元素。

nodename[@lang='eng']

选取拥有lang属性，且值为 eng 的元素。

选取第二个book元素

In [1]: page.xpath('//book[2]/@category')
Out[1]: ['CHILDREN']

选取倒数第三个book元素

In [2]: page.xpath('//book[last()-2]/@category')
Out[2]: ['CHILDREN']

选取第二个元素开始的所有元素

In [3]: page.xpath('//book[position() > 1]/@category')
Out[3]: ['CHILDREN', 'WEB', 'WEB']

选取category属性为WEB的的元素

In [4]: page.xpath('//book[@category="WEB"]/@category')
Out[4]: ['WEB', 'WEB']

3.3. 未知节点

匹配第一个book元素下的所有元素

In [1]: page.xpath('//book[1]/*')
Out[1]:
[,
 ,
 ,
 ]

3.4. 获取节点中的文本

用text()获取某个节点下的文本

In [1]: page.xpath('//book[1]/author/text()')
Out[1]: ['Giada De Laurentiis']

如果这个节点下有多个文本，则只能取到一段。

用string()获取某个节点下所有的文本

In [2]: page.xpath('string(//book[1])')
Out[2]: '\n            Everyday Italian\n            Giada De Laurentiis\n

3.5. 选取多个路径

通过在路径表达式中使用“|”运算符，您可以选取若干个路径。

In [1]: page.xpath('//book[1]/title/text() | //book[1]/author/text()')
Out[1]: ['Everyday Italian', 'Giada De Laurentiis']

看完上述内容，你们对Xpath如何提取HTML数据有进一步的了解吗？如果还想了解更多知识或者相关内容，请关注创新互联行业资讯频道，感谢大家的支持。