简而言之，爬虫是一种探测机器。它的基本操作是模拟人类行为，在各种网站上漫步，点击按钮，查看数据，或者背诵你看到的信息。就像一只不知疲倦地在建筑物周围爬行的虫子。
因此，爬虫系统有两个功能：
爬虫数据。例如，你想知道1000件商品在不同的电子商务网站上的价格，这样你就可以得到最低的价格。手动打开一个页面太慢，而且这些网站不断更新价格。你可以使用爬虫系统，设置逻辑，帮你从n个网站上抓取想要的商品价格，甚至同步比较计算，最后输出一个报告给你，哪个网站最便宜。
市场上有许多0代码免费的爬虫系统。例如，为了抓取不同网站上两个游戏虚拟项目之间的差异，我以前使用过它们，这非常简单。这里没有名字。有做广告的嫌疑。
点击爬虫系统的按钮类似12306票证软件，通过nid不断访问并触发页面动作。但是正规的好网站有反爬虫技术，比如最常见的验证码。
最后，爬虫系统无处不在。你最熟悉的爬虫系统可能是百度。像百度这样的搜索引擎爬虫每隔几天就会扫描一次整个网页供你查看。
爬行不行，爬行的本质是用脚本批量访问。就像你去过无数次一样。
知网的访问权是爬行知网的首要要求。
未经允许，您不能爬行。
其次，即使您有访问权限，也不能批量下载。知网对访问有限制。如果你抓取超过20篇论文，你的帐户将被锁定，你无法继续下载它们。
首先，我们需要弄清楚，我们能看到的所有网页，无论是文本、图片还是动画，都用html标记。然后浏览器以视觉和美学的方式向我们显示这些标签。如果我们想成为一个网络爬虫，那么我们的爬虫没有远见，只有逻辑。在爬虫的眼中，只有html标记，其他样式正在使用中爬虫的眼中有云，所以爬虫实际上读取html标记（这里涉及的一个知识点是获取html标记）。库是请求库，它可以通过web请求获取html元素，然后在html标记中显示所需内容。这是一个网络爬虫。逻辑就这么简单。如果您有使用python的经验，建议您使用crawler框架
crawler本身不是法律禁止的，但它取决于数据的来源和爬网方式。就好像卖刀是合法的。当你用刀做违法的事情时，法律是不能容忍的。那么哪些人应该承担风险呢？
1.违反爬行网站的意志，网站采取反爬行措施，强行破解和爬行数据。
2.爬虫程序给web服务带来了巨大的资源开销，干扰了网站的运行。
3.爬虫程序获取受法律保护的数据或信息。
4.抓取不允许在他人网站上转载或商业化的数据信息。
5.抓取其他网站，个人隐私，个人信息，商业秘密等，所以我们应该避免这些问题在爬虫程序。
严格遵守网站设置规则；
优化自己的代码，同时避免反爬网措施，避免对访问过的网站造成干扰；
在使用和传播捕获的信息时，应查看捕获的内容。如果发现属于用户的个人信息、隐私或他人商业秘密，应及时制止并删除。
