- 本文揭示AI改版常见陷阱:离线用例全通过,线上却悄然退化。根源在于手写样本覆盖窄,难触真实长尾问法。提出“影子流量回放”方案——将脱敏后的真实线上请求,在影子环境同步运行新旧版本,通过拒答翻转、实体丢失、长度比等可解释指标精准识别退化,让改版在切流前照见真实效果。 本文揭示AI改版常见陷阱:离线用例全通过,线上却悄然退化。根源在于手写样本覆盖窄,难触真实长尾问法。提出“影子流量回放”方案——将脱敏后的真实线上请求,在影子环境同步运行新旧版本,通过拒答翻转、实体丢失、长度比等可解释指标精准识别退化,让改版在切流前照见真实效果。
- 本文提出用“事实一致性(groundedness)断言”自动化拦截大模型幻觉:不看回答是否“像样”,而逐句校验每个事实性陈述能否溯源至给定上下文。编造即红,零容忍上线,让幻觉无处藏身。 本文提出用“事实一致性(groundedness)断言”自动化拦截大模型幻觉:不看回答是否“像样”,而逐句校验每个事实性陈述能否溯源至给定上下文。编造即红,零容忍上线,让幻觉无处藏身。
- 本文揭示大模型结构化输出的隐性风险:看似合法的JSON,实则存在寒暄前缀、类型漂移、字段缺失/冗余等契约违约问题。裸用`json.loads`无法拦截脏数据,导致静默入库、对账失败。提出将结构化输出视为“接口契约”,通过Pydantic定义严格Schema、正则提取JSON主体、参数化回归测试+线上Golden样本门禁,实现格式校验前置化、自动化、可追溯——让每一次Prompt或模型变更都经得起契 本文揭示大模型结构化输出的隐性风险:看似合法的JSON,实则存在寒暄前缀、类型漂移、字段缺失/冗余等契约违约问题。裸用`json.loads`无法拦截脏数据,导致静默入库、对账失败。提出将结构化输出视为“接口契约”,通过Pydantic定义严格Schema、正则提取JSON主体、参数化回归测试+线上Golden样本门禁,实现格式校验前置化、自动化、可追溯——让每一次Prompt或模型变更都经得起契
- 本文揭示灰度上线中“单开关正常、组合却出错”的典型陷阱,指出全开/全关测试存在巨大盲区。提出以pairwise组合测试为核心解法:用allpairspy自动生成覆盖任意两开关所有搭配的精简用例(如12个开关仅需数十条),结合pytest参数化执行关键链路,并对风控等高危开关对强制全覆盖。兼顾可落地性与缺陷拦截率,让组合测试真正融入CI。 本文揭示灰度上线中“单开关正常、组合却出错”的典型陷阱,指出全开/全关测试存在巨大盲区。提出以pairwise组合测试为核心解法:用allpairspy自动生成覆盖任意两开关所有搭配的精简用例(如12个开关仅需数十条),结合pytest参数化执行关键链路,并对风控等高危开关对强制全覆盖。兼顾可落地性与缺陷拦截率,让组合测试真正融入CI。
- AI时代,测试工程师的核心价值正从“执行用例”转向“定义验收标准”。AI可高效生成用例,却无法替代人类对模糊需求的业务判断——如界定“体验好”的具体口径、为模型不确定性设定拒答边界与评测标准。这才是不可替代的老本行。 AI时代,测试工程师的核心价值正从“执行用例”转向“定义验收标准”。AI可高效生成用例,却无法替代人类对模糊需求的业务判断——如界定“体验好”的具体口径、为模型不确定性设定拒答边界与评测标准。这才是不可替代的老本行。
- 以脚本经浏览器调试协议驱动表单填写时,按等待策略、控件取值、校验复用的顺序排查,能快速定位超时、空值与断言失效问题,提升脚本稳定性与复用率。 以脚本经浏览器调试协议驱动表单填写时,按等待策略、控件取值、校验复用的顺序排查,能快速定位超时、空值与断言失效问题,提升脚本稳定性与复用率。
- 先说结论:不是标题党。上个月我们发版前最后一次回归,从早上9点干到晚上11点,三个人轮着点,点到后面眼睛都花了。结果还是漏了一个优惠券叠加的边界场景,上线第二天客服就炸了。那天晚上我就在想,这破事儿能不能让ChatGPT干。试了两周,现在回归测试基本3小时收工。不是全自动,但至少不用人肉当点读机了。下面直接把我的用法和提示词全倒出来,能不能复用你们自己判断。先说说我们之前的蠢办法项目是电商后... 先说结论:不是标题党。上个月我们发版前最后一次回归,从早上9点干到晚上11点,三个人轮着点,点到后面眼睛都花了。结果还是漏了一个优惠券叠加的边界场景,上线第二天客服就炸了。那天晚上我就在想,这破事儿能不能让ChatGPT干。试了两周,现在回归测试基本3小时收工。不是全自动,但至少不用人肉当点读机了。下面直接把我的用法和提示词全倒出来,能不能复用你们自己判断。先说说我们之前的蠢办法项目是电商后...
- 同一张JD下面,坐着两个完全不同的人大家好,我是某互联网大厂的质量保障团队负责人,今年深度参与了秋招面试。先说一个让我印象很深的场景。秋招提前批,一个候选人走到三面。前两轮技术面都过了,代码写得干净,接口自动化框架也搭过。面试官打开一张架构图——用户请求经过网关,打到后端服务,后端调用一个AI Agent做意图识别,Agent再调下游大模型API做推理,结果回传,后端决策后返回给用户。面试官... 同一张JD下面,坐着两个完全不同的人大家好,我是某互联网大厂的质量保障团队负责人,今年深度参与了秋招面试。先说一个让我印象很深的场景。秋招提前批,一个候选人走到三面。前两轮技术面都过了,代码写得干净,接口自动化框架也搭过。面试官打开一张架构图——用户请求经过网关,打到后端服务,后端调用一个AI Agent做意图识别,Agent再调下游大模型API做推理,结果回传,后端决策后返回给用户。面试官...
- 先说结论:不是标题党。上个月我们发版前最后一次回归,从早上9点干到晚上11点,三个人轮着点,点到后面眼睛都花了。结果还是漏了一个优惠券叠加的边界场景,上线第二天客服就炸了。那天晚上我就在想,这破事儿能不能让ChatGPT干。试了两周,现在回归测试基本3小时收工。不是全自动,但至少不用人肉当点读机了。下面直接把我的用法和提示词全倒出来,能不能复用你们自己判断。先说说我们之前的蠢办法项目是电商后... 先说结论:不是标题党。上个月我们发版前最后一次回归,从早上9点干到晚上11点,三个人轮着点,点到后面眼睛都花了。结果还是漏了一个优惠券叠加的边界场景,上线第二天客服就炸了。那天晚上我就在想,这破事儿能不能让ChatGPT干。试了两周,现在回归测试基本3小时收工。不是全自动,但至少不用人肉当点读机了。下面直接把我的用法和提示词全倒出来,能不能复用你们自己判断。先说说我们之前的蠢办法项目是电商后...
- 不是岗位变少了,是同一张JD下面,坐着两个完全不同的人大家好,我是某互联网大厂的质量保障团队负责人,今年深度参与了秋招面试。先说一件让我印象很深的事。今年秋招提前批,一个候选人面试走到三面。前两轮技术面都过了,代码写得干净,自动化框架也搭过。三面的时候,面试官打开一张架构图——用户请求进来,经过网关,打到后端服务,后端服务调用一个AI Agent做意图识别,Agent再调下游的大模型API做... 不是岗位变少了,是同一张JD下面,坐着两个完全不同的人大家好,我是某互联网大厂的质量保障团队负责人,今年深度参与了秋招面试。先说一件让我印象很深的事。今年秋招提前批,一个候选人面试走到三面。前两轮技术面都过了,代码写得干净,自动化框架也搭过。三面的时候,面试官打开一张架构图——用户请求进来,经过网关,打到后端服务,后端服务调用一个AI Agent做意图识别,Agent再调下游的大模型API做...
- 本文从工具选型角度探讨驱动页面填写表单的关键点,聚焦控件取值、事件派发与等待策略,给出可操作的经验建议。 本文从工具选型角度探讨驱动页面填写表单的关键点,聚焦控件取值、事件派发与等待策略,给出可操作的经验建议。
- 上线第二天,产品群里甩来两张截图:暗色模式下,主按钮的文字和背景几乎融成一片,看不清;换到某款手机上,首页卡片布局错位、文字被截断。这两类缺陷,我们的视觉回归一条都没报——因为基线只在桌面亮色下存过。等把三档断点、两套主题都补齐,麻烦立刻反噬:基线图数量瞬间 ×6,CI 跑一次视觉回归二十几分钟,截图产物把存储吃得死死的。团队嫌烦,很快又退回「只跑桌面亮色」,兜了一圈回到原点。本篇讲的就是怎... 上线第二天,产品群里甩来两张截图:暗色模式下,主按钮的文字和背景几乎融成一片,看不清;换到某款手机上,首页卡片布局错位、文字被截断。这两类缺陷,我们的视觉回归一条都没报——因为基线只在桌面亮色下存过。等把三档断点、两套主题都补齐,麻烦立刻反噬:基线图数量瞬间 ×6,CI 跑一次视觉回归二十几分钟,截图产物把存储吃得死死的。团队嫌烦,很快又退回「只跑桌面亮色」,兜了一圈回到原点。本篇讲的就是怎...
- 本文提出“评测即门禁”理念:将大模型应用的评测集、执行器、阈值三者代码化并接入CI,实现每次PR自动触发冒烟+基线比对。通过分层执行(PR跑几十条秒级反馈,nightly跑全量)、规则优先裁判、固定裁判版本等设计,让评测从“发版前人工抽查”变为“不可绕过的自动化红线”,真正守住线上质量底线。 本文提出“评测即门禁”理念:将大模型应用的评测集、执行器、阈值三者代码化并接入CI,实现每次PR自动触发冒烟+基线比对。通过分层执行(PR跑几十条秒级反馈,nightly跑全量)、规则优先裁判、固定裁判版本等设计,让评测从“发版前人工抽查”变为“不可绕过的自动化红线”,真正守住线上质量底线。
- 探索如何用AI做自动化测试:涵盖预测分析、AI生成测试用例、测试执行、测试策略、未来趋势。 探索如何用AI做自动化测试:涵盖预测分析、AI生成测试用例、测试执行、测试策略、未来趋势。
- 上周接了个活,一个电商中台系统的接口回归测试。需求文档87页,涉及用户、订单、支付、库存四个模块,前后端分离,接口文档挂在Swagger上,但有些字段的校验规则只写在PRD的表格注释里。按老规矩,我得先花一天啃文档,再花一天写接口用例,UI自动化那块如果时间够就补几页,不够就手工点。测试报告?等跑完再说。这次我换了个路子。把PRD和Swagger文件一起丢进工作区,配好执行环境,剩下的交给流... 上周接了个活,一个电商中台系统的接口回归测试。需求文档87页,涉及用户、订单、支付、库存四个模块,前后端分离,接口文档挂在Swagger上,但有些字段的校验规则只写在PRD的表格注释里。按老规矩,我得先花一天啃文档,再花一天写接口用例,UI自动化那块如果时间够就补几页,不够就手工点。测试报告?等跑完再说。这次我换了个路子。把PRD和Swagger文件一起丢进工作区,配好执行环境,剩下的交给流...
上滑加载中
推荐直播
-
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战,从0到1打通消息通道;码道鸿蒙端云一体化实战,快速搭建员工签到系统。
回顾中 -
华为云开发者AI素养直播课·第五期2026/09/04 周五 16:00-18:00
林华鼎-华为云AI开发者运营负责人;蒋春阳-华为云AI开发者案例开发专家
本期直播内容: AI工具体验营 · 第5-8课连讲。Agent-Team 多智能体协作完成毕业设计实践
回顾中 -
华为云开发者AI素养ClassRoom·第六期2026/09/08 周二 19:00-20:00
樊渊-2026华为软件挑战赛冠军
高手来了:看软挑高手解析二维排样问题—从工业难题到算法突破
回顾中
热门标签