2022年01月14日整理发布:python网络爬虫步骤是什么

导读 让我们向您解释python Webcrawler的步骤是什么。相信朋友们也应该密切关注这个话题。现在,让我们为朋友们讲讲python Webcrawler的步...

让我们向您解释python Webcrawler的步骤是什么。相信朋友们也应该密切关注这个话题。现在,让我们为朋友们讲讲python Webcrawler的步骤。边肖还收集了关于python网络爬虫步骤的相关信息。我希望你看到后会喜欢。

Python网络爬虫步骤:首先,准备好编写爬虫调度程序所需的库;然后写url管理器,写网页下载器;然后编写网页解析器;最后,只需编写网页导出器。

本教程的操作环境:windows7系统,python3.9版DELL G3电脑。

Python网络爬虫步骤

(1)准备所需的库

我们需要准备一个名为BeautifulSoup的开源库来解析下载的网页。我们使用PyCharm编译环境,所以可以直接下载开源库。

步骤如下:

选择文件-设置。

在项目: python项目下打开项目解释器。

单击加号添加新库。

输入bs4选择bs4,点击安装软件包下载。

(2)编写爬虫调度程序。

这里bike_spider是由项目名引入的四个类,对应于下面四段代码:url管理器url下载器url解析器url导出器。

#爬网程序计划程序

从bike_spider导入url_manager,html_downloader,html_parser,html_outputer

#爬虫初始化

类SpiderMain(对象):

def __init__(self):

self.urls=url _ manager。UrlManager

self . downloader=html _ downloader。HtmlDownloader

self.parser=html_parser。HtmlParser

self.outputer=html_outputer。HtmlOutputer

def craw(self,my_root_url):

计数=1

self . URLs . add _ new _ URL(my _ root _ URL)

而self . URL . has _ new _ URL :

尝试:

new _ URL=self . URL . get _ new _ URL

打印('爬网%d : %s' %(计数,new_url))

#下载网页

html _ cont=self . downloader . download(new _ URL)

#分析网页

new_url,new_data=self.parser.parse

self . URL . add _ new _ URL(new _ URL)

#网页导出器收集数据

self . outputer . collect _ data(new _ data)

if计数==10:

破裂

count += 1 except: print("craw failed") self.outputer.output_html if __name__ == "__main__": root_url = "http://baike.baidu.com/item/Python/407313" obj_spider = SpiderMain obj_spider.craw(root_url)

(3)编写url管理器

我们把已经爬取过的url和未爬取的url分开存放以便我们不会重复爬取某些已经爬取过的网页。

# url管理器 class UrlManager(object): def __init__(self): self.new_urls = set self.old_urls = set def add_new_url(self, url): if url is None: return if url not in self.new_urls and url not in self.old_urls: self.new_urls.add(url) def add_new_urls(self, urls): if urls is None or len(urls) == 0: return for url in urls: self.new_urls.add(url) def get_new_url(self): # pop方法会帮我们获取一个url并且移除它 new_url = self.new_urls.pop self.old_urls.add(new_url) return new_url def has_new_url(self): return len(self.new_urls) != 0

(4)编写网页下载器

通过网络请求来下载页面

# 网页下载器 import urllib.request class HtmlDownloader(object): def download(self, url): if url is None: return None response = urllib.request.urlopen(url) # code不为200则请求失败 if response.getcode != 200: return None return response.read

(5)编写网页解析器

对网页进行解析时我们需要知道我们要查询的内容都有哪些特征我们可以打开一个网页点击右键审查元素来了解我们所查内容的共同之处。

# 网页解析器 import re from bs4 import BeautifulSoup from urllib.parse import urljoin class HtmlParser(object): def parse(self, page_url, html_cont): if page_url is None or html_cont is None: return soup = BeautifulSoup(html_cont, "html.parser", from_encoding="utf-8") new_urls = self._get_new_urls(page_url, soup) new_data = self._get_new_data(page_url, soup) return new_urls, new_data def _get_new_data(self, page_url, soup): res_data = {"url": page_url} # 获取标题 title_node = soup.find("dd", class_="lemmaWgt-lemmaTitle-title").find("h1") res_data["title"] = title_node.get_text summary_node = soup.find("p", class_="lemma-summary") res_data["summary"] = summary_node.get_text return res_data def _get_new_urls(self, page_url, soup): new_urls = set # 查找出所有符合下列条件的url links = soup.find_all("a", href=re.compile(r"/item/")) for link in links: new_url = link['href'] # 获取到的url不完整学要拼接 new_full_url = urljoin(page_url, new_url) new_urls.add(new_full_url) return new_urls

(6)编写网页输出器

输出的格式有很多种我们选择以html的形式输出这样我们可以的到一个html页面。

# 网页输出器 class HtmlOutputer(object): def __init__(self): self.datas = [] def collect_data(self, data): if data is None: return self.datas.append(data) # 我们以html表格形式进行输出 def output_html(self): fout = open("output.html", "w", encoding='utf-8') fout.write("<html>") fout.write("<meta charset='utf-8'>") fout.write("<body>") # 以表格输出 fout.write("<table>") for data in self.datas: # 一行 fout.write("<tr>") # 每个单元行的内容 fout.write("<td>%s</td>" % data["url"]) fout.write("<td>%s</td>" % data["title"]) fout.write("<td>%s</td>" % data["summary"]) fout.write("</tr>") fout.write("</table>") fout.write("</body>") fout.write("</html>") # 输出完毕后一定要关闭输出器 fout.close

相关免费学习推荐:python视频教程

以上就是python网络爬虫步骤是什么的详细内容!

来源:php中文网

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。

猜你喜欢

最新文章