- 目录 爬虫背景 基本需求 分析参数 观察请求头参数 编写代码 重要提示 发帖成功 博客园自动评价Over 爬虫背景 爬虫最核心的问题就是解决重复操作，当一件事情可以重复的进行的时候，就可以用爬虫来解决这个问题，今天要实现的一个基本需求是完成“博客园“ 博客的自动评论，其实原理是非常简单的，提炼一下需求 基本需... 目录 爬虫背景 基本需求 分析参数 观察请求头参数 编写代码 重要提示 发帖成功 博客园自动评价Over 爬虫背景 爬虫最核心的问题就是解决重复操作，当一件事情可以重复的进行的时候，就可以用爬虫来解决这个问题，今天要实现的一个基本需求是完成“博客园“ 博客的自动评论，其实原理是非常简单的，提炼一下需求 基本需...
- 文章目录 图片比对 计算缺口坐标 移动滑块 验证失败 写在后面 图片比对 昨天的博客已经将图片存储到了本地，今天要做的第一件事情，就是需要在两张图片中进行比对，将图片缺口定位出来 缺口图片 完整图片 计算缺口坐标 对比两张图片的所有RBG像素点，得到不一样像素点的x值，即要移动的距离 def get_di... 文章目录 图片比对 计算缺口坐标 移动滑块 验证失败 写在后面 图片比对 昨天的博客已经将图片存储到了本地，今天要做的第一件事情，就是需要在两张图片中进行比对，将图片缺口定位出来 缺口图片 完整图片 计算缺口坐标 对比两张图片的所有RBG像素点，得到不一样像素点的x值，即要移动的距离 def get_di...
- 背景 在新创建python环境之后，总是免不了要去找selenium-driver 二进制文件，然后安装相应的python selenium包，实在是太麻烦了，下面介绍一种省时省力的方法 pip install webdriver-manager 12 pip install webdriver-manager 使用以上命令安... 背景 在新创建python环境之后，总是免不了要去找selenium-driver 二进制文件，然后安装相应的python selenium包，实在是太麻烦了，下面介绍一种省时省力的方法 pip install webdriver-manager 12 pip install webdriver-manager 使用以上命令安...
- 爬前叨叨 全站爬虫有时候做起来其实比较容易，因为规则相对容易建立起来，只需要做好反爬就可以了，今天咱们爬取知乎。继续使用scrapy当然对于这个小需求来说，使用scrapy确实用了牛刀，不过毕竟本博客这个系列到这个阶段需要不断使用scrapy进行过度，so，我写了一会就写完了。 你第一步找一个爬取种子，算作爬虫入口 https://www.zhihu.com/pe... 爬前叨叨 全站爬虫有时候做起来其实比较容易，因为规则相对容易建立起来，只需要做好反爬就可以了，今天咱们爬取知乎。继续使用scrapy当然对于这个小需求来说，使用scrapy确实用了牛刀，不过毕竟本博客这个系列到这个阶段需要不断使用scrapy进行过度，so，我写了一会就写完了。 你第一步找一个爬取种子，算作爬虫入口 https://www.zhihu.com/pe...
- 入手golang,对比python聊聊想法 背景 学习 感悟 背景 入职几个月以来，花了一点时间入门go ，平时上下班路上读读<Go语言编程>或者<Go语言实践>，写了大量的书本代码，然后上手写了两个项目:一个后端高IO的api，另外一个是 web 调度系统，等到第一个系统写完并上线后，完成了各种监控(prometheus),错误发现(sentry... 入手golang,对比python聊聊想法 背景 学习 感悟 背景 入职几个月以来，花了一点时间入门go ，平时上下班路上读读<Go语言编程>或者<Go语言实践>，写了大量的书本代码，然后上手写了两个项目:一个后端高IO的api，另外一个是 web 调度系统，等到第一个系统写完并上线后，完成了各种监控(prometheus),错误发现(sentry...
- 目录 背景 简介 测试 结论 背景 一直以来，python的web框架给别人的感觉就是: 一个能打的都没有。社区也在不断的努力,特别在 asyncio 爆发之后，出现了一些新的异步框架，比如sanic,比如vibora,相比传统的flask, django，这些新的框架相对成熟了很多，而且在性能上已经有长足的进步了，和node, golang ，已经有一战之力了，大家可以... 目录 背景 简介 测试 结论 背景 一直以来，python的web框架给别人的感觉就是: 一个能打的都没有。社区也在不断的努力,特别在 asyncio 爆发之后，出现了一些新的异步框架，比如sanic,比如vibora,相比传统的flask, django，这些新的框架相对成熟了很多，而且在性能上已经有长足的进步了，和node, golang ，已经有一战之力了，大家可以...
- 写在前面 最近该系列的爬虫更新比较慢了，原因是实在写不动了，70多篇博客，每一篇都是一个案例，在写好多都不是篇博客可以容纳的了，而且爬虫的技术在70多篇中都有所涉及了，但是flag既然历下了，那么就必须要把它完成，接下来进入一些稍微稍微麻烦一点的内容，第一个咱就写分布式爬虫，这个其实核心就是提高爬取效率的，属于套路，而且是常见的讨论，走起。 为什么要用分布式 好问... 写在前面 最近该系列的爬虫更新比较慢了，原因是实在写不动了，70多篇博客，每一篇都是一个案例，在写好多都不是篇博客可以容纳的了，而且爬虫的技术在70多篇中都有所涉及了，但是flag既然历下了，那么就必须要把它完成，接下来进入一些稍微稍微麻烦一点的内容，第一个咱就写分布式爬虫，这个其实核心就是提高爬取效率的，属于套路，而且是常见的讨论，走起。 为什么要用分布式 好问...
- 混乱的代价 稍后等于永不 – 勒布朗法则 简单代码规则 能通过所有的测试 没有重复的代码 体现系统中的全部设计理念 包括尽量少的实体，比如类，方法，函数等 更改的原则 更改一个变量名 拆分一个过长的函数 消除重复的代码 清理嵌套的if语句 函数 函数要么做事情，要么回答什么事 要么do什么操作 要么返回值 这种指定需要分割开 使用异常替代返回的错误码 ... 混乱的代价 稍后等于永不 – 勒布朗法则 简单代码规则 能通过所有的测试 没有重复的代码 体现系统中的全部设计理念 包括尽量少的实体，比如类，方法，函数等 更改的原则 更改一个变量名 拆分一个过长的函数 消除重复的代码 清理嵌套的if语句 函数 函数要么做事情，要么回答什么事 要么do什么操作 要么返回值 这种指定需要分割开 使用异常替代返回的错误码 ...
- 如果if判断中存在多个表达式判断，需要使用逻辑运算符。 例如有一个变量a，需要判断是否在1到5之间，那么则需要判断a是否大于1且a小于5。这个时候需要使用and逻辑运算符进行判断。 and python中使用and判断左右两边表达式是同时正确，正确时返回最后一个对象（或者说值），错误时返回第一个对象（或者说值）。 a=10 if a>1 and a<5: ... 如果if判断中存在多个表达式判断，需要使用逻辑运算符。 例如有一个变量a，需要判断是否在1到5之间，那么则需要判断a是否大于1且a小于5。这个时候需要使用and逻辑运算符进行判断。 and python中使用and判断左右两边表达式是同时正确，正确时返回最后一个对象（或者说值），错误时返回第一个对象（或者说值）。 a=10 if a>1 and a<5: ...
- 爬前叨叨 第40篇博客吹响号角，爬取博客园博客~本文最终抓取到了从2010年1月1日到2019年1月7日的37W+文章，后面可以分析好多东西了呢 经常看博客的同志知道，博客园每个栏目下面有200页，多了的数据他就不显示了，最多显示4000篇博客如何尽可能多的得到博客数据，是这篇文章研究的一点点核心内容，能√get到多少就看你的了~ 单纯的从每个栏目去爬取是不显... 爬前叨叨 第40篇博客吹响号角，爬取博客园博客~本文最终抓取到了从2010年1月1日到2019年1月7日的37W+文章，后面可以分析好多东西了呢 经常看博客的同志知道，博客园每个栏目下面有200页，多了的数据他就不显示了，最多显示4000篇博客如何尽可能多的得到博客数据，是这篇文章研究的一点点核心内容，能√get到多少就看你的了~ 单纯的从每个栏目去爬取是不显...
- 写在前面 曾经有人问我，为何要写100篇关于爬虫的博客？我想说，因为吹牛吹过头了呗，100篇是真的难写。 希望在未来爬虫100例系列博客能在Python爬虫教学领域有那么一点点的位置。 今天开始，我将从一些成熟框架入手，继续提高你的爬虫知识面。 Portia是啥？ 这个框架在最开始就计划写一下了，没想到拖到这里，Portia属于可视化爬虫，基本描述参照下述内容... 写在前面 曾经有人问我，为何要写100篇关于爬虫的博客？我想说，因为吹牛吹过头了呗，100篇是真的难写。 希望在未来爬虫100例系列博客能在Python爬虫教学领域有那么一点点的位置。 今天开始，我将从一些成熟框架入手，继续提高你的爬虫知识面。 Portia是啥？ 这个框架在最开始就计划写一下了，没想到拖到这里，Portia属于可视化爬虫，基本描述参照下述内容...
- 文章目录 本面试题题库，由公号：非本科程序员 整理发布第1题：是否遇到过python的模块间循环引用的问题，如何避免它?第2题：简单介绍一下python函数式编程？第3题：python中函数装饰器有什么作用？第4题： 按照要求完成编码？第5题：按照要求完成编码？第6题：关注题，最近在公号更新一个神奇的系列入门文章 本面试题题库，由公号：非本科程序员 整... 文章目录 本面试题题库，由公号：非本科程序员 整理发布第1题：是否遇到过python的模块间循环引用的问题，如何避免它?第2题：简单介绍一下python函数式编程？第3题：python中函数装饰器有什么作用？第4题： 按照要求完成编码？第5题：按照要求完成编码？第6题：关注题，最近在公号更新一个神奇的系列入门文章 本面试题题库，由公号：非本科程序员 整...
- 帮粉丝写爬虫会成为这个系列的最后10篇内容，如果你有想要爬取的网站，在评论区告诉我吧，当然爬虫100例课程结束之后，还会持续为大家提供一些更加有趣的爬虫博客或者Python视频课 写在前面-Ruia 本篇博客介绍的框架为Ruia，一款基于 asyncio 和 aiohttp 的异步爬虫框架，其余过多的介绍咱就不废话了，直接看一下github地址：https... 帮粉丝写爬虫会成为这个系列的最后10篇内容，如果你有想要爬取的网站，在评论区告诉我吧，当然爬虫100例课程结束之后，还会持续为大家提供一些更加有趣的爬虫博客或者Python视频课 写在前面-Ruia 本篇博客介绍的框架为Ruia，一款基于 asyncio 和 aiohttp 的异步爬虫框架，其余过多的介绍咱就不废话了，直接看一下github地址：https...
- 背景交代 在反爬圈子的一个大类，涉及的网站其实蛮多的，目前比较常被爬虫coder欺负的网站，猫眼影视，汽车之家，大众点评，58同城，天眼查…还是蛮多的，技术高手千千万，总有五花八门的反爬技术出现，对于爬虫coder来说，干！就完了，反正也996了~ 作为一个系列的文章，那免不了，依旧拿猫眼影视“学习”吧，为什么？因为它比较典型~ 猫眼影视 打开猫眼专业版，常规操... 背景交代 在反爬圈子的一个大类，涉及的网站其实蛮多的，目前比较常被爬虫coder欺负的网站，猫眼影视，汽车之家，大众点评，58同城，天眼查…还是蛮多的，技术高手千千万，总有五花八门的反爬技术出现，对于爬虫coder来说，干！就完了，反正也996了~ 作为一个系列的文章，那免不了，依旧拿猫眼影视“学习”吧，为什么？因为它比较典型~ 猫眼影视 打开猫眼专业版，常规操...
- 文章目录 写在前面 第一种方式 you-get 第二种方式 自己动手，丰衣足食 第一步 第二步 第三步 第四步 第五步 第六步 编码时间 写在后面 写在前面 爬虫核心概念是分析数据包，提取想要的数据，数据入库。 我们学习到的各种手段，都是为了提高数据爬取的效率，提高解析数据的便携与准确性，提高入库存取的效率这些问题。 ... 文章目录 写在前面 第一种方式 you-get 第二种方式 自己动手，丰衣足食 第一步 第二步 第三步 第四步 第五步 第六步 编码时间 写在后面 写在前面 爬虫核心概念是分析数据包，提取想要的数据，数据入库。 我们学习到的各种手段，都是为了提高数据爬取的效率，提高解析数据的便携与准确性，提高入库存取的效率这些问题。 ...
上滑加载中
推荐直播
-
华为云码道-玩转OpenClaw，在线养虾2026/03/11 周三 19:00-21:00
刘昱，华为云高级工程师/谈心，华为云技术专家/李海仑，上海圭卓智能科技有限公司CEO
OpenClaw 火爆开发者圈，华为云码道最新推出 Skill ——开发者只需输入一句口令，即可部署一个功能完整的「小龙虾」智能体。直播带你玩转华为云码道，玩转OpenClaw
回顾中 -
华为云码道-AI时代应用开发利器2026/03/18 周三 19:00-20:00
童得力，华为云开发者生态运营总监/姚圣伟，华为云HCDE开发者专家
本次直播由华为专家带你实战应用开发，看华为云码道(CodeArts)代码智能体如何在AI时代让你的创意应用快速落地。更有华为云HCDE开发者专家带你用码道玩转JiuwenClaw，让小艺成为你的AI助理。
回顾中 -
Skill 构建 × 智能创作：基于华为云码道的 AI 内容生产提效方案2026/03/25 周三 19:00-20:00
余伟，华为云软件研发工程师/万邵业（万少），华为云HCDE开发者专家
本次直播带来两大实战：华为云码道 Skill-Creator 手把手搭建专属知识库 Skill；如何用码道提效 OpenClaw 小说文本，打造从大纲到成稿的 AI 原创小说全链路。技术干货 + OPC创作思路，一次讲透！
回顾中
热门标签