Beautiful Soup 修改树结构
BeautifulSoup的一个重要方面是搜索解析树,并允许根据需求对网页文档进行修改。我们可以使用标签的属性(例如.name、.string或.append()方法)来修改标签的属性。它允许您使用.new_string()和.new_tag()方法向现有标签添加新的标签和字符串。还有其他方法,如.insert()、.insert_before()或.insert_after(),可以对您的HTML或XML文档进行各种修改。
更改标签名称和属性
一旦您创建了Soup对象,就很容易进行修改,比如重命名标签、修改其属性、添加新属性和删除属性。
>>> soup = BeautifulSoup('<b class="bolder">Very Bold</b>')
>>> tag = soup.b
修改和添加新属性的方法如下:
>>> tag.name = 'Blockquote'
>>> tag['class'] = 'Bolder'
>>> tag['id'] = 1.1
>>> tag
<Blockquote class="Bolder" id="1.1">Very Bold</Blockquote>
删除属性的步骤如下:
>>> del tag['class']
>>> tag
<Blockquote id="1.1">Very Bold</Blockquote>
>>> del tag['id']
>>> tag
<Blockquote>Very Bold</Blockquote>
修改 .string
您可以轻松修改标签的 .string 属性 –
>>> markup = '<a href="https://www.tutorialspoint.com/index.htm">Must for every <i>Learner>/i<</a>'
>>> Bsoup = BeautifulSoup(markup)
>>> tag = Bsoup.a
>>> tag.string = "My Favourite spot."
>>> tag
<a href="https://www.tutorialspoint.com/index.htm">My Favourite spot.</a>
从上面的例子我们可以看出如果标签包含其他的标签,则它们和它们的内容将会被替换为新的数据。
append()
使用tag.append()方法可以向现有的标签添加新的数据或内容,它与Python列表的append()方法非常相似。
>>> markup = '<a href="https://www.tutorialspoint.com/index.htm">Must for every <i>Learner</i></a>'
>>> Bsoup = BeautifulSoup(markup)
>>> Bsoup.a.append(" Really Liked it")
>>> Bsoup
<html><body><a href="https://www.tutorialspoint.com/index.htm">Must for every <i>Learner</i> Really Liked it</a></body></html>
>>> Bsoup.a.contents
['Must for every ', <i>Learner</i>, ' Really Liked it']
NavigableString()和.new_tag()
如果您想将字符串添加到文档中,可以通过使用append()或NavigableString()构造函数轻松实现-
>>> soup = BeautifulSoup("<b></b>")
>>> tag = soup.b
>>> tag.append("Start")
>>>
>>> new_string = NavigableString(" Your")
>>> tag.append(new_string)
>>> tag
<b>Start Your</b>
>>> tag.contents
['Start', ' Your']
注意: 如果在访问NavigableString()函数时出现任何名称错误,如下所示−
NameError: name ‘NavigableString’ is not defined
只需从bs4包中导入NavigableString目录−
>>> from bs4 import NavigableString
我们可以解决上述错误。
您可以给现有标签添加注释,或者添加其他的NavigableString子类,只需调用构造函数即可。
>>> from bs4 import Comment
>>> adding_comment = Comment("Always Learn something Good!")
>>> tag.append(adding_comment)
>>> tag
<b>Start Your<!--Always Learn something Good!--></b>
>>> tag.contents
['Start', ' Your', 'Always Learn something Good!']
可以使用Beautifulsoup内置的方法 BeautifulSoup.new_tag() 添加一个全新的标签(而不是追加到现有标签上)-
>>> soup = BeautifulSoup("<b></b>")
>>> Otag = soup.b
>>>
>>> Newtag = soup.new_tag("a", href="https://www.tutorialspoint.com")
>>> Otag.append(Newtag)
>>> Otag
<b><a href="https://www.tutorialspoint.com"></a></b>
只有第一个参数,即标签名,是必需的。
insert()
类似于Python列表上的.insert()方法,tag.insert()将插入新元素,但与tag.append()不同,新元素不一定在其父元素的末尾。新元素可以在任何位置添加。
>>> markup = '<a href="https://www.djangoproject.com/community/">Django Official website <i>Huge Community base</i></a>'
>>> soup = BeautifulSoup(markup)
>>> tag = soup.a
>>>
>>> tag.insert(1, "Love this framework ")
>>> tag
<a href="https://www.djangoproject.com/community/">Django Official website Love this framework <i>Huge Community base</i></a>
>>> tag.contents
['Django Official website ', 'Love this framework ', <i>Huge Community base</i
>]
>>>
insert_before()和insert_after()
要在解析树中的某个位置之前插入某个标签或字符串,我们使用insert_before()方法 −
>>> soup = BeautifulSoup(" **Brave** ")
>>> tag = soup.new_tag("i")
>>> tag.string = "Be"
>>>
>>> soup.b.string.insert_before(tag)
>>> soup.b
<b><i>Be</i>Brave</b>
与插入某个标签或字符串在解析树中的某个位置类似,可以使用 insert_after()。
>>> soup.b.i.insert_after(soup.new_string(" Always "))
>>> soup.b
<b><i>Be</i> Always Brave</b>
>>> soup.b.contents
[<i>Be</i>, ' Always ', 'Brave']
clear()
要删除标签的内容,请使用tag.clear() –
>>> markup = '<a href="https://www.tutorialspoint.com/index.htm">For <i>technical & Non-technical&lr/i> Contents</a>'
>>> soup = BeautifulSoup(markup)
>>> tag = soup.a
>>> tag
<a href="https://www.tutorialspoint.com/index.htm">For <i>technical & Non-technical</i> Contents</a>
>>>
>>> tag.clear()
>>> tag
<a href="https://www.tutorialspoint.com/index.htm"></a>
extract()
从树中删除标签或字符串,使用PageElement.extract()。
>>> markup = '<a href="https://www.tutorialspoint.com/index.htm">For <i&grtechnical & Non-technical</i> Contents</a>'
>>> soup = BeautifulSoup(markup)
>>> a_tag = soup.a
>>>
>>> i_tag = soup.i.extract()
>>>
>>> a_tag
<a href="https://www.tutorialspoint.com/index.htm">For Contents</a>
>>>
>>> i_tag
<i>technical & Non-technical</i>
>>>
>>> print(i_tag.parent)
None
decompose()
tag.decompose()从树中移除一个标签并删除其所有内容。
>>> markup = '<a href="https://www.tutorialspoint.com/index.htm">For <i>technical & Non-technical</i> Contents</a>'
>>> soup = BeautifulSoup(markup)
>>> a_tag = soup.a
>>> a_tag
<a href="https://www.tutorialspoint.com/index.htm">For <i>technical & Non-technical</i> Contents</a>
>>>
>>> soup.i.decompose()
>>> a_tag
<a href="https://www.tutorialspoint.com/index.htm">For Contents</a>
>>>
Replace_with()
正如其名称所示,pageElement.replace_with()函数将在树中将旧标签或字符串替换为新标签或字符串 −
>>> markup = '<a href="https://www.tutorialspoint.com/index.htm">Complete Python <i>Material</i></a>'
>>> soup = BeautifulSoup(markup)
>>> a_tag = soup.a
>>>
>>> new_tag = soup.new_tag("Official_site")
>>> new_tag.string = "https://www.python.org/"
>>> a_tag.i.replace_with(new_tag)
<i>Material</i>
>>>
>>> a_tag
<a href="https://www.tutorialspoint.com/index.htm">Complete Python <Official_site>https://www.python.org/</Official_site></a>
在上述输出中,您注意到replace_with()返回替换的标签或字符串(在我们的例子中为“Material”),因此您可以检查它或将其添加回树的其他部分。
wrap()
pageElement.wrap()将元素包装在您指定的标签中并返回一个新的包装器 –
>>> soup = BeautifulSoup("<p>tutorialspoint.com</p>")
>>> soup.p.string.wrap(soup.new_tag("b"))
<b>tutorialspoint.com</b>
>>>
>>> soup.p.wrap(soup.new_tag("Div"))
<Div><p><b>tutorialspoint.com</b></p></Div>
unwrap()
标签.unwrap()与wrap()相反,它会用标签内部的内容取代该标签。
>>> soup = BeautifulSoup('<a href="https://www.tutorialspoint.com/">I liked <i>tutorialspoint</i></a>')
>>> a_tag = soup.a
>>>
>>> a_tag.i.unwrap()
<i></i>
>>> a_tag
<a href="https://www.tutorialspoint.com/">I liked tutorialspoint</a>
从上面你可能注意到像replace_with()一样,unwrap()也会返回被替换的标签。
以下是unwrap()的另一个例子,以更好地理解它 –
>>> soup = BeautifulSoup("<p>I <strong>AM</strong> a <i>text</i>.</p>")
>>> soup.i.unwrap()
<i></i>
>>> soup
<html><body><p>I <strong>AM</strong> a text.</p></body></html>
unwrap()对于去除标记很好。