• [技术干货] (7)RPA与Python
    部分朋友可能是了解Python的。Python这两年,火的两点,就是聚焦于两个场景:数据抓取和办公自动化。那么Python算RPA吗?RPA是一种概念,依托于这个概念诞生了很多产品。而Python是一种计算机语言,Python不仅仅可以做RPA概念范围内的东西,还可以做其他东西。但是,Python做数据抓取也好,做办公自动化也好,他都是聚焦于具体的场景本身。而并非聚焦于RPA概念上的。所以,很少见到Python与RPA挂钩。当然很多RPA产品是使用python去做的。在主流的市场观点中,RPA是个概念,而实现这个概念的通常是一个产品。而非一个计算机语言。
  • [技术干货] Python 哈啤酒式写法
    爬虫分析数据接口,两次请求获取热榜前 100 数据。https://blog.csdn.net/phoenix/web/blog/hotRank?page=0&pageSize=50 https://blog.csdn.net/phoenix/web/blog/hotRank?page=1&pageSize=50数据返回格式:JSON{ "code": 200, "message": "success", "data": [ # 实际数据 ] }分析完毕,开始编码,全套代码可直接使用 requests 库。热榜爬虫这么简单的代码,首先编写一个基础爬虫,获取到数据,然后再对其进行优化。import requests import json for i in range(2): headers = { "user-agent": "Baiduspider" } res = requests.get(f"https://blog.csdn.net/phoenix/web/blog/hotRank?page={i}&pageSize=50", headers=headers) data = res.json() if data["code"] == 200: data = data["data"] with open(f"{i}.json", "w+", encoding="utf-8") as f: f.write(json.dumps(data))运行代码,会在代码目录中生成两个 json 文件,每个文件存在 50 条数据,即热榜所有数据。以上代码合计 12 行,接下来内卷开始,让代码行数变短。缩写变量的声明import requests import json for i in range(2): json_data = requests.get(f"https://blog.csdn.net/phoenix/web/blog/hotRank?page={i}&pageSize=50",headers={"user-agent": "Baiduspider"}).json() if json_data and json_data["code"] == 200: with open(f"{i}.json", "w+", encoding="utf-8") as f: f.write(json.dumps(json_data))进行简单整理,从 12 行降低到 7 行,略有进步。再将代码开头部分的 json 和 requests 合并为一行,代码降低为 6 行。增加生成器代码将循环部分替换为生成器,进行代码再次精简,本步减少代码比较少,只减少 1 行代码。import requests, json for i, data in enumerate([requests.get(f"https://blog.csdn.net/phoenix/web/blog/hotRank?page={i}&pageSize=50",headers={"user-agent": "Baiduspider"}).json() for i in range(2)]): with open(f"{i}.json", "w+", encoding="utf-8") as f: f.write(json.dumps(data))请忽略自动折行代码,目前剩余 4 行代码。继续优化,将折行与 json 模块去除掉。换行也去除import requests for i, data in enumerate([requests.get(f"https://blog.csdn.net/phoenix/web/blog/hotRank?page={i}&pageSize=50", headers={"user-agent": "Baiduspider"}).text for i in range(2)]): with open(f"{i}.json", "w+", encoding="utf-8") as f: f.write(data)按照上述代码整理之后,此时只剩下 3 行代码。这难道是极限了吗?我们就不能写出正常人理解不了的代码吗?1 行代码最终版使用最简单的知识,实现最刺激的效果,为了让代码到最少行数,我写出了下面这个版本。import requests with open("file.json", "a+", encoding="utf-8") as f: [f.write(my_str + "\n") for my_str in [ requests.get(f"https://blog.csdn.net/phoenix/web/blog/hotRank?page={i}&pageSize=50", headers={"user-agent": "Baiduspider"}).text for i in range(2)]]你没看错,除去 模块导入外,只有 1 行代码。这行代码展开之后长成下面的样子,一大长行,而它抓到了热榜 100 数据。with open("file.json", "a+", encoding="utf-8") as f: [f.write(my_str + "\n") for my_str in [requests.get(f"https://blog.csdn.net/phoenix/web/blog/hotRank?page={i}&pageSize=50",headers={"user-agent": "Baiduspider"}).text for i in range(2)]]
  • 请问 obs python sdk 是否支持并行文件系统的修改对象功能
    官网资料里边 JAVA 和 C 实现的 SDK 中有提到修改对象功能的实现,Python 的未发现,请问是否有支持计划
  • [问题求助] 函数计算的python3.6无法导入pymysql。
    函数计算python3.6运函数计算python3.6运行时无法引入pymysql 报错“ModuleNotFoundError: No module named 'pymysql'”,另外希望也提供python3.6的mysql.connector 以及 BeautifulSoup行时无法引入pymysql 报错“ModuleNotFoundError: No module named 'pymysql'”,另外希望也提供python3.6的mysql.connector 以及 BeautifulSoup。很多python功能包是wheel文件,是否也能通过“添加依赖代码包”导入?
  • [公告] 华为RPA WeAutomate 2.14版本发布-易用性优化及新功能介绍
    新增“UI自动化”,整合桌面应用自动化、web应用自动化和基于图像的自动化控件;chrome回放采用浏览器扩展进行;优化控件目录模型、控件分类结构及图标显示等;优化录制器UI,支持在录制过程中修改;新增快捷键设置;新增最近使用项固定功能优化选择文件/文件夹为工程目录时,自动替换为@{WORK_DIR}新增用户偏好设置:开启录制时最小化优化参数&变量使用逻辑优化参数显示,支持国际化显示优化参数帮助格式打开来自不同版本Studio编辑出来的工程时新增提示信息许可申请步骤新增具体操作描述易用性提升-变量引用支持下标和关键字AI模块增加NLP目录,即自然语言处理功能(试用),含有文本分词、提取文本关键字、对比文本相似度等控件;新增如下原子命令:            1. exec.statement:执行多行python代码;            2. getfileinfo:获取文本属性;            3. pandas.dropDuplicates:去除DataFrame中的重复行;            4. excelColumnIndexToName:根据数字获取excel对应字母列名称;            5. pdfGetContents:根据坐标获取pdf文件某一页中矩形范围的内容或截取为图片保存;            6. mc.queryFileList:从管理中心的共享文件中查询文件列表;新增支持UOS系统的web回放;原子控件优化:            1. OCR识别:图片中附带文字的坐标或者偏移量            2. filelist:支持自定义排序            3. elementshot:保存目录不存在时自动创建目录            4. pandas.csvToExcel:支持选择读取csv文件的编码            5. eSpace.sendMessage:使用eSpace应用号发送消息WeAutomate官网:cid:link_0WeAutomate公众号
  • [问题求助] 请问python如何注册到cse6.5,sc8.0,主要是如何维持心跳?
    最近想将python微服务与cse微服务进行整合,之所以用python微服务主要是做一些数据治理方面的工作,但从sce官方文档中,只看到微服务的注册,没有看到如何维持心跳。
  • python控制台打印的log重复解决方案
    代码示例: '''功能描述:实现控制台和文件同时记录日志的功能编写人:超哥编写日期:步骤分析:  1-配置日志记录器名称  2-配置日志级别  3-配置日志格式(可以分别设置,也可以统一设置)  4-创建并添加handler-控制台  5-创建并添加handler-文件  6-提供对外获取logger''' import loggingimport sys  def log():   # 1 - 配置日志记录器名称   logger = logging.getLogger('AutoTest')    # 2-配置日志级别   logger.setLevel(logging.DEBUG)    # 3-配置日志格式(可以分别设置,也可以统一设置)   format = logging.Formatter('%(name)s-%(asctime)s-%(message)s')    # 4 - 创建并添加handler - 控制台   sh = logging.StreamHandler()   sh.setFormatter(format)   logger.addHandler(sh)    # 5 - 创建并添加handler - 文件   fh = logging.FileHandler('test.log')   fh.setFormatter(format)   logger.addHandler(fh)    # 6 - 提供对外获取logger   return logger if __name__ == '__main__':   logger = log()   logger.info('使用函数定义的log方法')
  • [技术干货] python控制台打印的log重复解决方案
    代码示例: '''功能描述:实现控制台和文件同时记录日志的功能编写人:超哥编写日期:步骤分析:  1-配置日志记录器名称  2-配置日志级别  3-配置日志格式(可以分别设置,也可以统一设置)  4-创建并添加handler-控制台  5-创建并添加handler-文件  6-提供对外获取logger''' import loggingimport sys  def log():   # 1 - 配置日志记录器名称   logger = logging.getLogger('AutoTest')    # 2-配置日志级别   logger.setLevel(logging.DEBUG)    # 3-配置日志格式(可以分别设置,也可以统一设置)   format = logging.Formatter('%(name)s-%(asctime)s-%(message)s')    # 4 - 创建并添加handler - 控制台   sh = logging.StreamHandler()   sh.setFormatter(format)   logger.addHandler(sh)    # 5 - 创建并添加handler - 文件   fh = logging.FileHandler('test.log')   fh.setFormatter(format)   logger.addHandler(fh)    # 6 - 提供对外获取logger   return logger if __name__ == '__main__':   logger = log()   logger.info('使用函数定义的log方法')
  • [技术干货] Python机器学习算法之决策树算法
    决策树算法是在已知各种情况发生概率的基础上,通过构成决策树来求取净现值的期望值大于等于零的概率,评价项目风险,判断其可行性的决策分析方法。分类算法是利用训练样本集获得分类函数即分类模型(分类器),从而实现将数据集中的样本划分到各个类中。分类模型通过学习训练样本中属性集与类别之间的潜在关系,并以此为依据对新样本属于哪一类进行预测。
  • [技术干货] Python数据可视化—Matplotlib初体验
    Matplotlib初体验初次看到这个名字,是不是会想到另外一个著名的数学工具:Matlab(没想到也不要紧,毕竟 Matlab 是一个在数学及相关领域使用的专门工具)。之所以要提及 Matlab,是因为它在与数学有关的应用方面颇有些神通,历史也很悠久。但是,随着应用的要求越来越多,这个有点“古老”的工具,显得力不从心了,于是乎在数据分析、机器学习领域 Python 就异军突起。随着 Python 的广泛应用,还要有很多的工具分别实现不同的应用。那么,在数据可视化层面,最早出现的就是 Matplotlib,因此,标题称其为“开山鼻祖”,丝毫不为过。Matplotlib 的发明者是 John D. Hunter(一定要向大神献上敬意、崇拜和感谢).2003 年发布了 Matplotlib 的 0.1 版,一路发展而来,版本不断更迭、功能不断丰富。截止到写这段内容为止,官方网站(http://matplotlib.org/)上发布的最新版本是 3.02。Matplotlib 的使用方法有点类似于 Matlab。同时,它提供了“面向对象的 API”,让经过严格程序开发训练的人用起来也相当顺手。并且,它继承了 Python 的优良传统和一贯作风,即免费、开源和跨平台。随着技术的进步和时代的变迁,现在能够实现数据可视化的工具越来越多,它们都意欲向 Matplotlib 发起挑战。尽管如此,Matplotlib 的江湖地位依然稳固,并且有很多新生代工具也是依靠它而建立的,比如 Seaborn。因此,学习 Matplotlib,合算且有必要,更何况,Matplotlib 也在与时俱进。
  • [技术干货] 数据分析系列 之python中数据探索与预处理
    1 概述1.1 数据探索检查数据错误,了解数据分布特征和内在规律1.2 数据预处理数据清洗 Data cleaning数据集成 Data integration数据变换 Data transformation数据规约 Data reduction2 数据清洗2.1 缺失值处理删除填充:固定值、均值、中位数、上下数据、插值函数、最可能的值(回归分析填充)举例:DataFrame缺失值处理
  • [技术干货] Dorefa
    最近在学习量化,想先复现一下Dorefa,官网确实有源代码,貌似挺简单,但当我真正去跑的时候,“坑之大,不知其几千里也!”,特来记录一番。tensorpack需要的环境:    Python 3.3+.    Python bindings for OpenCV. (这是大坑)    TensorFlow ≥ 1.5, < 2首先想到的是在服务器上跑,但服务器是docker镜像,而且全是tf2.0以上,为止奈何?    先在自己window下跑通简单的样例吧,之后再想办法一、失败尝试v1windows里刚好装了anaconda,可以比较方便配置环境,于是便装了python3.6(3.7以上的版本跑不了tenflow1.x)和Tensorflow 1.8。本想再装个jupyter好调试,结果python3.6对应的jupyter是5.0版本,不是6.0版本,装好后总是连接不上。最后幸好可以在命令行跑,每次跑的过程会说缺乏依赖,我最开始憨憨地下载“tensorpack”的github,然后在目录下运行样例,结果好多模块加载路径错误,其实直接可以pip安装tensorpack的包:conda create -n tf1.8 python=3.6conda activate  tf1.8// 我电脑没有GPUpip install -i https://pypi.tuna.tsinghua.edu.cn/simple tensorflow==1.8.0 pip install tensorpack //直接安装就行pip install scipy  // 必要计算库pip install opencv-python //图像预处理的包   再python 运行dorefa的代码,确实下载了数据集,最后卡在了AssertionError: ZMQ IPC doesn't support windows!也就是window不支持ZMQ本地进程间通信传输协议!还是要用linux!二、失败尝试v2刚好也有ubuntu的虚拟机,装anaconda,配置环境试试。anaconda清华镜像,下载很快配置好环境之后,确实运行成功,开始训练,但是悲剧又来了!内存不够,权重加载不了!还是得用服务器啊!三、成功跑通,仍有大坑虽然服务器的镜像都是tf2.0以上,但进入镜像后是root权限,可以随意安装软件,因此毫不犹豫装了anaconda,并且配置环境,先和v2一致,看看能否跑通,奇怪的是,一直出现这个错误:module 'tensorpack.dataflow.imgaug' has no attribute 'Resize'明明装了opencv-python,为什么老是这样,虚拟机了都可以跑通!于是我做了简单的测试,在python里import cv2,发现报错:ImportError: libGL.so.1: cannot open shared object file: No such file or directory,原来是docker容器缺少依赖,需要安装一个包!!!apt updateapt install libgl1-mesa-glx   这真是个大坑!这要跑通还真不简单,一路那么多坑!最后罗列需要的命令:tensorflow 的版本对应python和cudaconda更换源pip更换源conda create -n tf1.14 python=3.6conda activate  tf1.14//服务器有GPU,可以登陆网站看有哪些版本的tensorflowpip install -i https://pypi.tuna.tsinghua.edu.cn/simple tensorflow==1.14.0 pip install tensorpack //直接安装就行pip install scipy  // 必要计算库pip install opencv-python //图像预处理的包
  • [技术干货] tensorpack——Dorefa样例
    最近在学习量化,想先复现一下Dorefa,官网确实有源代码,貌似挺简单,但当我真正去跑的时候,“坑之大,不知其几千里也!”,特来记录一番。tensorpack需要的环境:    Python 3.3+.    Python bindings for OpenCV. (这是大坑)    TensorFlow ≥ 1.5, < 2首先想到的是在服务器上跑,但服务器是docker镜像,而且全是tf2.0以上,为止奈何?    先在自己window下跑通简单的样例吧,之后再想办法一、失败尝试v1windows里刚好装了anaconda,可以比较方便配置环境,于是便装了python3.6(3.7以上的版本跑不了tenflow1.x)和Tensorflow 1.8。本想再装个jupyter好调试,结果python3.6对应的jupyter是5.0版本,不是6.0版本,装好后总是连接不上。最后幸好可以在命令行跑,每次跑的过程会说缺乏依赖,我最开始憨憨地下载“tensorpack”的github,然后在目录下运行样例,结果好多模块加载路径错误,其实直接可以pip安装tensorpack的包:conda create -n tf1.8 python=3.6conda activate  tf1.8// 我电脑没有GPUpip install -i https://pypi.tuna.tsinghua.edu.cn/simple tensorflow==1.8.0 pip install tensorpack //直接安装就行pip install scipy  // 必要计算库pip install opencv-python //图像预处理的包   再python 运行dorefa的代码,确实下载了数据集,最后卡在了AssertionError: ZMQ IPC doesn't support windows!也就是window不支持ZMQ本地进程间通信传输协议!还是要用linux!二、失败尝试v2刚好也有ubuntu的虚拟机,装anaconda,配置环境试试。anaconda清华镜像,下载很快配置好环境之后,确实运行成功,开始训练,但是悲剧又来了!内存不够,权重加载不了!还是得用服务器啊!三、成功跑通,仍有大坑虽然服务器的镜像都是tf2.0以上,但进入镜像后是root权限,可以随意安装软件,因此毫不犹豫装了anaconda,并且配置环境,先和v2一致,看看能否跑通,奇怪的是,一直出现这个错误:module 'tensorpack.dataflow.imgaug' has no attribute 'Resize'明明装了opencv-python,为什么老是这样,虚拟机了都可以跑通!于是我做了简单的测试,在python里import cv2,发现报错:ImportError: libGL.so.1: cannot open shared object file: No such file or directory,原来是docker容器缺少依赖,需要安装一个包!!!apt updateapt install libgl1-mesa-glx   这真是个大坑!这要跑通还真不简单,一路那么多坑!最后罗列需要的命令:tensorflow 的版本对应python和cudaconda更换源pip更换源conda create -n tf1.14 python=3.6conda activate  tf1.14//服务器有GPU,可以登陆网站看有哪些版本的tensorflowpip install -i https://pypi.tuna.tsinghua.edu.cn/simple tensorflow==1.14.0 pip install tensorpack //直接安装就行pip install scipy  // 必要计算库pip install opencv-python //图像预处理的包  最后终于跑起来了!
  • [互动交流] OBS python SDK, 通过AK/SK创建obs client实例失败
    您好,我在华为云modelarts平台的开发环境notebook想通过OBS SDK访问下载OBS桶的文件,但在使用AK/SK建立连接时失败了。请大家帮助解疑问题可能出在哪里?谢谢!我用的是IAM用户账号,通过在“我的凭证”创建的访问秘钥。(之前以同样的方法创建秘钥来访问使用pycharm toolkit,也失败了)访问秘钥都是新创建的,一共允许创建两组秘钥,两组AK/SK都试过了但还是同样的错误。怀疑是访问秘钥的管理权限受限:鼠标悬停在编辑、停用、删除按钮提示缺少权限。但实际上点击后可以执行相应操作(操作未受限)。根据常见问题,查询了安全设置>敏感操作的访问秘钥保护状态,确认已关闭,即本IAM用户应该可以管理自己的访问秘钥。
  • [技术干货] 如何改变软件测试比软件开发薪酬差别大的现状?
     改变现状,从树立目标开始!  行动的目标,就是要“只做测试工程师里更懂编程的人”。  但为什要树立这个目标?请看下方的阐述:  不懂代码逻辑,不懂代码原理,测试人员就会陷入“为何要测这么多点,要测这么多项”的困惑,那还怎么做测试?  测试学不透,进入企业,大概率也只能按照企业的规定去做常规性工作,怎会有稀缺?技术实力不够就接触不到核心项目,还怎么能冲击高薪?  懂源代码的测试和不懂源代码的测试,哪个能测的更深呢?不懂代码,就不会理解代码逻辑层次的耦合,就会不理解数据库设计,甚至还可能不理解网络层如何通信,拓扑架构……  这种“不不不”同学能明白研发项目的风险么? 不明白风险,就难于精确设计测试用例,遗漏高风险场景可怎么办? 这种“不不不”的软件测试人员,哪个大企业敢要?  没有代码能力,你能有机会成为测试领域最前沿的人员吗?不懂编程,你既不能做企业急需的自动化测试,又做不了当前大厂疯抢的测试开发,那到了35岁你怎么办?  原来,测试圈会编程的人很少,因为企业不需要;现在,会编程做自动化测试的人薪资很高,因为市场上和企业里都很稀缺。  只有懂编程,测试才能学得透,才能更值钱。当今测试领域还算前沿的技术:接口测试、UI自动化测试、性能测试,测试开发…. 无一不需要读懂代码,甚至还要会写代码。  所以这两年在互联网上,针对测试是不是好找工作,出现了两种极为矛盾的声调:  · 一方面大量测试人员,在知乎贴吧吐槽测试饱和不好找工作。  · 一方面却是大量互联网公司在招聘网站疯狂招聘测试,导致测试平均薪资年年上涨,现在已经快达到20 K(饱和的岗位能薪资年年涨?)。  上述矛盾体深刻揭露一个现象:软件测试行业已经分化,懂编程的中高端测试人员稀缺,不懂编程的手工测试人员饱和。  结论:现在学测试,一定要“只做测试工程师里更懂编程的人”,因为这样才能更值钱,升薪更快,才会不惧35岁危机。如还有一丝丝疑问,请将上方的文字再看一遍。  改变现状,从行动开始!  明确了目标,接下来就要明确行动,不然就不会有任何改变,给个建议:  技术储备  当务之急,是尽快重新认识现在的 “软件测试” 行业,重新认识 新的 “软件测试工程师”。尽快建立完善的 软件测试知识体系。知识不系统,人就不值钱,劳动也变得廉价。  新时代的 软件测试行业,测试技术大致分为三大类别:  1)高薪测试工程师需掌握的 基础测试技术  1、系统方面。掌握Linux操作系统安装配置;会使用linux常用命令  2、关系型数据库。掌握数据库增删改查操作。熟悉数据库索引、视图、事务等功能。  3、非关系型数据库。掌握Redis常见基础数据类型和相关操作。如:string、hash、set、list 等。  4、掌握功能测试与数据库的关系。  5、掌握黑盒测试用例设计方法,掌握缺陷报告的编写。  6、掌握Web项目UI界面测试、功能测试分析和用例编写。  以上技术,对于有3年工作经验的题主来说,绝大多数应该是不需要填补的。并且相对下面的内容而言,即便过往没有深入接触,以后用到,也可以快速学习上手,难度不大!  以下,大多数,应该是楼主需要努力的方向!  2)高薪测试工程师最建议掌握的编程语言-Python(自动化的基础)  java和Python是企业要求较多的两门语言  相对而言Python上手更为轻松些,非常适合编程零基础的测试人学习。  通过Python语言建立编程思维以及面向对象程序设计思想。  最终要求能编写自动化测试脚本。  结论:只要用我刚推荐的10天python测试学习资料即可。难度不会大。  3)高薪测试工程师需掌握的测试专业技术  1.接口测试—— 迈向高薪的起点  需要掌握一定的http协议。  会使用常用的工具或使用代码编写测试用例脚本。  能借助工具或脚本实现自动化测试。  2.测试工具—— 君子善假于物  会使用常用测试工具。如:禅道、JIRA、fiddler,Postman、Jmeter 等。  掌握一些常见的框架 ,如 、pymysql、parameterized、requests、unittest、pytest等。  3.自动化测试—— 所有企业软件测试的目标  掌握断言的用法,使用工具、程序代替人工,判断测试结果。是实现自动化的必备技术。  4.性能测试—— 开始接触高端测试  软件测试更高端的领域。也是高级软件测试工程师和普通软件工程师的分水岭。  主要以软件的时间性、空间性、稳定性、并发性等为主要测试点。以上这部分,难度要大一些!楼主可以分步走,逐个击破,每拿下一项技术,薪水会上自然涨2千左右。
总条数:2474 到第 页
上滑加载中