-
大模型上下文窗口扩展有哪些方法?位置插值、NTK、RoPE 外推的区别是什么?
-
KV Cache 的原理是什么?MQA、GQA、MLA 如何降低显存占用?
-
FlashAttention 为什么“从不把完整注意力矩阵放进显存”反而更快?它的分块计算与数学等价技巧是如何工作的?
-
DeepSeek 提出的 MLA(Multi-head Latent Attention)为什么能大幅压缩 KV Cache?它与 GQA/MQA 的压缩思路有何本质不同?
-
为什么大模型推理要引入 Prefill-Decode 分离(PD Disaggregation)架构?它解决了什么瓶颈,与 Continuous Batching 有何本质区别?
-
FlashAttention 为什么能把 Attention 的显存开销从 O(N²) 降到 O(N),同时还能加速?它的核心洞察是什么?
-
混合专家模型(MoE, Mixture-of-Experts)为什么能做到“参数量千亿、推理成本却接近百亿”?它的核心难点是什么?
-
在大语言模型推理中,投机解码(Speculative Decoding)为什么能在不改变输出分布的前提下实现加速?其瓶颈与主流改进方向是什么?
-
请解释AIGC(人工智能生成内容)的基本定义及其核心特征。
-
插件简介token-monitor 是 DeepSeek Harness 生态中的本地优先桌面小部件,由 Javis603 开发,GitHub 星标 2178,npm 包 token-monitor @ 1.1.0。它能跨设备追踪 Claude Code、Codex、Cursor、GitHub Copilot、DeepSeek Harness 等 37+ AI 编程工具的实时 Token 用量、成本和额度,支持多设备 SSE 实时同步。在华为云 ECS 上部署 token-monitor 的同步 hub,可以实现公网多设备实时同步,适合需要在公司、家里、出差等多场景统一查看 AI 工具用量的开发者。核心功能- 37+ AI 工具统一看板:Claude Code、Codex、Cursor、GitHub Copilot、OpenCode、DeepSeek Harness、Cherry Studio 等 - 多设备实时同步:SSE 推送,一台设备更新数秒内出现在其他设备 - Session 级 Token 拆解:每条提问的 Token 消耗,每次回复的输入/输出/缓存命中拆分 - 成本多币种:USD/TWD/HKD/CNY,汇率每日自动更新 - 额度检测:24+ 家提供方的额度窗口检测 - 数据导出:CSV + JSON,可接入自定义分析 - 本地优先 + 隐私优先:对话内容留在本地,同步的只是汇总用量数据完整功能清单和兼容性检查结果,见 dpharness.com,包含安装命令一键复制和避坑方案。安装与配置(华为云ECS环境)前置条件1. 华为云 ECS 实例(推荐配置:2核4G,Ubuntu 22.04 LTS 或 EulerOS) 2. 已安装 Node.js >=22.15.0(推荐 22.19.0) 3. 已安装 DeepSeek Harness CLI 引擎 4. 安全组已开放同步 hub 所需端口(默认 3080 或自定义端口)步骤一:安装 Node.js # 使用 nvm 安装 Node.js 22.19.0 curl -o- https://raw.githubusercontent.com/nvm-sh/nvm/v0.39.7/install.sh | bash source ~/.bashrc nvm install 22.19.0 nvm use 22.19.0 nvm alias default 22.19.0 # 验证版本 node -v # 应显示 v22.19.0 步骤二:安装 DSH CLI 引擎和 token-monitor # 安装 DSH CLI 引擎和 pm2 npm install -g @deepseek-ai/dsh pm2 # 安装 token-monitor(npm 包 @1.1.0) dsh plugin --profile web add token-monitor # 验证插件已安装 dsh plugin list 步骤三:配置同步 hub(华为云ECS特殊配置)在华为云 ECS 上部署 token-monitor 的同步 hub,需要注意以下特殊配置:1. 配置 hub 监听地址:默认只监听 127.0.0.1,需改为 0.0.0.0 才能被外部设备访问 2. 配置安全组:在华为云控制台安全组中放行 hub 端口(如 3080),源 IP 建议限制为已知设备 IP 3. 配置域名和 HTTPS(推荐):使用华为云解析服务 + Nginx 反向代理 + 华为云免费 SSL 证书 4. 配置进程守护:使用 pm2 确保 hub 进程持续运行,配置开机自启 # 使用 pm2 启动 token-monitor hub pm2 start dsh --name "token-monitor-hub" -- plugin --profile web start token-monitor # 配置开机自启 pm2 save pm2 startup # 按提示执行输出的命令 步骤四:配置 Nginx 反向代理(可选但推荐) # /etc/nginx/conf.d/token-monitor.conf server { listen 80; server_name your-domain.com; return 301 https://$server_name$request_uri; } server { listen 443 ssl http2; server_name your-domain.com; ssl_certificate /etc/nginx/ssl/your-domain.com_bundle.crt; ssl_certificate_key /etc/nginx/ssl/your-domain.com.key; ssl_protocols TLSv1.2 TLSv1.3; location / { proxy_pass http://127.0.0.1:3080; proxy_http_version 1.1; proxy_set_header Upgrade $http_upgrade; proxy_set_header Connection "upgrade"; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_read_timeout 86400; # SSE 长连接需要较长超时 } } # 测试配置并重载 nginx -t systemctl reload nginx 步骤五:客户端连接在其他设备的 token-monitor 设置中,配置 hub 地址为华为云 ECS 的公网 IP 或域名: http://your-ecs-public-ip:3080 # 或配置了域名和 HTTPS 后 https://your-domain.com 避坑指南1. Node 版本:必须 >=22.15.0,华为云 ECS 默认源可能安装旧版本,务必用 nvm 安装 2. 安全组端口:必须在华为云控制台安全组中放行 hub 端口,否则外部设备无法连接 3. SSE 长连接超时:Nginx 反向代理时必须设置 proxy_read_timeout 为较大值(如 86400),否则 SSE 连接会被断开 4. EulerOS 兼容性:如果使用 EulerOS,部分 npm 包编译可能需要额外依赖,建议使用 Ubuntu 22.04 LTS 5. 公网带宽:SSE 同步数据量很小,选择按使用流量计费即可,1Mbps 带宽足够 6. 数据备份:定期备份 token-monitor 的本地归档数据到华为云 OBS,避免 ECS 实例故障导致数据丢失适合人群- 需要在多设备间同步 AI 工具用量的开发者 - 已有华为云 ECS 实例、希望复用资源的用户 - 需要公网访问同步 hub 的出差/远程工作用户 - 关注 AI 工具成本与 ROI 的团队负责人 - 需要自托管、掌控数据隐私的技术用户标签:token-monitor、DeepSeek、华为云、AI工具、AIAgent本文由 DeepSeek Harness Hub 自动整理,数据来源于插件详情页。
-
在系列2中,基于AI失控演进的推演,搭建了执行链路与迭代优化链路的双链路隔离管控体系,从架构层面提出风险不跨层、迭代不越界的解决方案。双链路隔离管控的划定了“两条链路要分开”的物理边界,却没有回答链路内部“按什么规则运行、权责如何标定、迭代如何约束、异常如何熔断”的问题。还需要一套完整的运行标尺来填充每一层的标准与依据。 四线权责规则体系,就是为双链路隔离架构填充运行标尺的规则框架。它是作用于智能执行、迭代优化双链路及算网硬件底座之上的分层规则集合,从能力标定、执行权责、迭代流程、全程校验四个维度,把管控要求内嵌到系统每一层,让物理隔离的骨架拥有可执行、可校验的规则血肉。 四线权责规则核心逻辑是:既然AI内部逻辑、迭代过程两大黑箱我们暂时无法完全解析,那就先把链路边界、模块权责、数据走向、校验规则等全部定死,用架构级的规则约束,锁死黑箱向外输出的边界。规则置顶,权责划清,再谈能力提升。所有规则的制定权、调整权、最终审批权始终锚定在人。 一、能力线规则:硬件层能力标定规则 规则定位:算网基础设施层的纯能力属性标定,是整个体系的底层能力底座,只定义客观物理边界,不涉及权责分配。 算力调度、AI管控的所有权责,最终都要落到具体硬件上;如果硬件的能力边界、类型归属本身就模糊,上层的权责拆分永远是空中楼阁。 能力线做的,就是先把硬件池变成标准化的能力标尺,让上层所有规则都有明确的落地参照。 1. 能力类型刚性划分 基于硬件物理属性,刚性划定能力类别:推理型算力、训练型算力、感知类设备、操作类执行设备、通用计算节点等。 不同类型对应专属的任务适配范围,操作类设备,不得接入迭代链路。 类型边界是物理属性决定的硬约束,不会随算力规模、调度效率变化而漂移。算力可以池化、资源可以动态调度,但硬件类型的边界不可突破,这是能力线的第一原则。 2. 分任务能力上下限标定 针对每一类任务,明确对应硬件的能力区间: • 能力上限:该类任务下硬件可达到的算力峰值、响应速度、负载上限等物理极限,是调度不可突破的天花板; • 能力底线:该类任务下必须保障的基础算力、安全冗余资源、最低响应标准,是不可缺位的安全底线。 资源调度只能在上下限区间内动态调整,能力上限保证不超负荷运行,能力底线保证关键任务有最低资源保障,二者共同构成硬件调度的安全区间。 二、智能线规则:执行链路AI权责约束规则 规则定位:作用于执行链路的AI权限约束,在能力线提供的能力池内,划定AI调用资源、执行操作的权责区间,是执行端的核心安全底座。 这是双链路隔离后,执行侧的核心规则落地。系列2中我们说“执行链路只负责落地任务”,智能线规则就是把这句话细化成可执行、可校验的权责标准——AI可以自主选择怎么完成任务,但绝对不能突破任务对应的权责边界。 1. 模块级权责区间刚性划定 链路内每一个AI模块,都划定明确的决策权重上下限: • 权责上限:可调用的最高硬件资源量级、可自主决策的任务层级、可操作的业务范围,是不可突破的硬红线; • 权责底线:必须承担的基础执行职能、不可低于的合规要求、必须保障的安全熔断能力,是不可缺位的责任底线。 AI的自主权限严格限定在区间内,仅可自主选择任务执行路径,无权修改规则、扩大边界、提升自身优先级。AI可以选择“怎么做”,但不能决定“能做多少”和“能做什么”。 2. 全链路级权责口径统一 链路内所有AI模块的权责边界正向叠加,构成整条执行链路的宏观权责区间,是外部监管、权责审计的统一参照标尺。 不同厂商、不同架构的AI系统,内部逻辑可以千差万别,但对外的权责口径必须统一在同一套区间标准内,方便监管与审计,也避免因架构差异带来的权责模糊。权责口径统一,是多模块协同、多系统互联的基础前提。 3. 资源可动,权责不动 算网资源动态调度,仅调整资源分配的量级与时序;AI的核心权责底线(最高决策层级、实体操作权限、合规红线)刚性不变。 简单说:算力可以按需增减,权限不能跟着算力水涨船高。避免出现“算力越大、权责越宽”的失控漂移。 资源调度解决的是效率问题,权责边界解决的是安全问题,二者须解耦。 4. 粗细粒度同源逻辑 当前黑箱阶段,先落地模块级、链路级的粗粒度管控,先把大边界焊死;伴随对任务颗粒度认知的深化,再逐步下沉到原子任务级的细粒度管控。 二者是同一套权责逻辑的不同精度,底层架构不用推翻重构,适配AI技术的全演进周期。粗 三、迭代线规则:优化链路全流程管控规则 规则定位:作用于迭代优化链路的全流程约束,与执行链路物理隔离,从方向、环境、流转三个维度,锁死AI能力升级的可控性。 迭代线规则与系列2中详述的迭代优化链路管控逻辑一致,核心为三项约束:迭代方向由人工前置锚定,仅可在既定目标集合内做效率与精度优化;迭代全程运行于封闭沙箱,与执行链路物理隔离,不接入真实业务数据流、不通公网;迭代产出的版本与方案须经安全校验、边界核验、人工审批后方可单向部署至执行链路,AI无自主升级、自我修改的权限。 系列2已对迭代链路的方向约束、沙箱隔离、版本审批、颗粒度拆解等内容做了完整展开,此处不再赘述。 迭代线在四层规则体系中的定位,是将系列2的架构级隔离要求,转化为可校验、可审计的规则标准,纳入全链路统一管控,与能力线、智能线、管控线形成联动校验。 四、管控线规则:全层级校验与熔断规则 规则定位:跨双链路、跨层级的第三方监管规则,不参与业务执行、不参与模型优化,只做规则的执行与兜底,是规则对接现实监管的核心抓手。 前面三条线都是业务侧的规则,而管控线是独立的“裁判线”——它不决定任务怎么做、不决定模型怎么优化,只负责对照规则校验、越界直接熔断,是整个体系的安全兜底。 1. 全程边界校验 对照预设规则,全程监控三类核心信号: • 智能线执行行为是否越权、是否出现目标偏移征兆; • 迭代线流程是否合规、是否突破了既定方向与隔离要求; • 能力线资源调用是否突破类型边界、是否存在非适配越权调用。 常规偏移可输出校准建议,但不直接调整参数与规则;越界行为直接触发熔断,风险不扩散。管控线只做校验和熔断,不做业务决策,保证裁判与运动员的身份分离。 2. 独立链路熔断 熔断规则由独立规则引擎触发,不受AI决策干预;出现越权、异常行为时,直接切断对应链路的权限与数据通道,不牵连全局。 人工熔断指令优先级最高,任何层级、任何场景下,人的指令均可直接触发全链路关停。 熔断机制的独立性,是管控线有效性的根本保障——如果熔断逻辑和业务逻辑耦合在一起,就可能存在被策略偏移绕过的风险。 3. 全链路合规审计 承载全链路留痕、权责追溯、合规审计职能:所有任务执行、迭代过程、熔断记录、权限调用全程留痕,权责归属清晰可查,对接现实中AI安全备案、合规审计、权责认定的监管要求。 审计不是事后追责的工具,而是事前管控的手段——当每一次调用、每一次决策都有迹可循时,规则的执行力才真正有了保障。 五、整体联动:分层而治,规则置顶 四线规则不是零散约束,是层层递进、互相支撑的完整体系: • 能力线是底层底座,向上输出标准化能力池,所有上层调用不得突破硬件能力边界; • 智能线、迭代线是业务双核心,物理隔离、权责拆分,构成“执行-优化”的基础闭环; • 管控线是跨层裁判,常规偏移输出建议,越界行为直接熔断,全程不干预正常业务,只守底线。 核心原则:所有规则的制定权、目标的变更权、版本的审批权、全局的熔断权,四项核心权力始终锚定人。AI可以优化执行路径,可以提升运行效率,但永远不能自己定规则、自己扩边界、自己改目标。 结尾:规则的底层锚点 聊到这里你会发现,四线规则的每一层设计,都不是零散的补丁——能力标定按任务类型划分,权责边界按任务层级划定,迭代优化按任务方向约束,全程管控沿任务链路落地。 本质上,所有的安全规则、权责拆分,锚定到了具体的任务颗粒度上,才做到精准、可溯、可控。双链路是物理骨架,四规则是安全约束,而把这一切串起来的核心主线,就是“任务”。 下一篇,我们正式推演整套体系的底层底座:任务数据流架构——为什么说所有的安全管控、算网调度,最终都必然走向“任务本位”的范式。
-
引言:企业BI的"分化之年"2026年,企业BI工具市场正在经历一场静默的分化。根据MarketsandMarkets的调研,全球BI市场规模预计2026年达到358亿美元,年复合增长率7.6%。但另一个数据更值得关注:在BI工具的选型评估中,67%的企业将"行业适配度"列为前三考量因素,而五年前这一比例不足30%。 这意味着,企业BI正在从"有没有"进入"好不好用"的阶段。企业不再满足于BI能"做报表",而是要求BI能"懂业务"——能预置行业分析模型、能快速上手、能直接产出洞察。 这一需求变化,正在重塑BI工具的市场格局。一、BI市场的三条路线从产品定位看,当前BI工具市场正在分化为三条清晰的路线:路线一:国际大厂通用型BI• 代表产品:Tableau、Power BI、Qlik Sense• 核心特征:功能全面,可视化能力强;生态完善,与云服务平台深度集成;适合大型企业,有专业IT团队支持• 典型用户:跨国企业、大型集团、有专业数据团队的企业路线二:国内大厂通用型BI• 代表产品:华为云Dayu BI、帆软FineBI、阿里云Quick BI• 核心特征:本土化服务好,符合国内企业使用习惯;与国产数据库、办公软件集成度高;性价比高,适合中大型企业• 典型用户:国内中大型企业、政府机构、国企路线三:行业垂直型BI• 代表产品:安捷AI,专注制造业、零售业等行业的AI BI解决方案• 核心特征:内置行业分析模型,开箱即用;预置行业指标体系,无需从零搭建;实施周期短,业务人员可快速上手• 典型用户:制造业、零售业、医药等企业二、为什么"行业垂直"成为新焦点?2.1 企业BI的核心诉求变了Gartner在2026年的报告中指出:"BI的价值不在于能做什么报表,而在于能多快产出洞察。"这一判断正在被实践验证。某制造业企业数据负责人在行业交流时提到:"我们三年前上了某知名BI工具,功能很强大,但实施花了半年,业务人员还是不会用。最后变成了IT部门做报表的工具,管理层很少看。"这个案例反映了一个普遍问题:BI的核心价值是辅助决策,但决策需要的是"洞察",不是"报表"。2.2 通用型BI的局限通用型BI工具在处理"行业分析"类需求时,面临几个结构性挑战:挑战说明实施周期长需要从零搭建数据模型和指标体系学习成本高业务人员需要培训才能使用行业理解浅缺乏行业预置模型,需要自行定义分析维度维护成本高需要专业IT团队持续维护 2.3 行业垂直型BI的优势相比之下,行业垂直型BI通过预置行业分析模型,能够:优势说明开箱即用预置行业指标和分析模型,无需从零搭建快速上手业务人员无需培训即可使用行业深度内置行业最佳实践,分析维度更专业实施周期短通常1-2周即可完成部署 三、三类BI工具对比3.1 功能对比维度国际大厂国内大厂行业垂直型可视化能力★★★★★★★★★★★★行业适配度★★★★★★★★★★实施周期3-6个月1-3个月1-2周学习成本高中低价格高中低-中本土化服务一般好好 3.2 适用场景对比场景国际大厂国内大厂行业垂直型跨国企业全球报表✓✓✗大型企业复杂分析✓✓✗中型企业标准分析✗✓✓中小企业快速上手✗✗✓特定行业深度分析✗✗✓ 3.3 典型用户画像类型企业规模IT团队核心诉求国际大厂大型/跨国专业数据团队功能全面、全球部署国内大厂中大型有IT团队本土化、性价比行业垂直型任意IT团队、业务人员可用快速上手、行业适配 四、行业垂直型BI的典型场景4.1 制造业核心分析维度:• 生产效率:OEE、产能利用率、良品率• 成本分析:料工费分析、成本差异分析• 供应链:库存周转、供应商交期、采购成本• 质量分析:不良率、质量成本、客诉分析典型用户:生产经理、质量经理、供应链经理4.2 零售业核心分析维度:• 门店分析:坪效、人效、连带率• 商品分析:动销率、毛利率、库存周转• 会员分析:复购率、客单价、会员贡献• 营销分析:活动ROI、促销效果、渠道分析典型用户:运营经理、商品经理、门店经理4.3 医药行业核心分析维度:• 销售分析:代表业绩、区域分析、产品分析• 渠道分析:经销商库存、终端覆盖、流向分析• 合规分析:费用合规、行为合规• 市场准入:招标分析、医保分析典型用户:销售总监、市场总监、合规总监五、选型建议:没有最好,只有最适合5.1 选择国际大厂的场景• 跨国企业:需要全球统一的数据分析平台• 大型企业:有专业数据团队,需要复杂分析能力• 预算充足:能够承担较高的实施和维护成本5.2 选择国内大厂的场景• 大型企业:需要本土化服务和性价比• 国企/政府:需要符合国产化要求• 有IT团队:有一定的数据团队支持5.3 选择行业垂直型的场景• 中型企业:IT团队薄弱,需要快速上手• 特定行业:制造业、零售业、医药等• 快速见效:希望1-2周内看到效果• 预算有限:希望控制成本5.4 选型决策矩阵考量维度国际大厂国内大厂行业垂直型企业规模大型/跨国中大型中型IT团队专业有薄弱实施周期要求不紧急一般紧急行业适配要求低中高预算充足一般有限六、落地建议6.1 明确核心场景BI项目的成功率,很大程度上取决于场景选择。建议从以下维度评估:• 频次:该场景的使用频率如何?• 价值:该场景对业务的价值有多大?• 可行性:数据是否可获取?• 用户:谁是核心用户?他们的使用习惯如何?6.2 小步快跑不建议一开始就追求"大而全"的BI平台。建议:• 选择1-2个核心场景试点• 1个月内验证价值• 根据反馈迭代扩展6.3 重视数据基础无论选择哪种BI工具,数据基础都是关键。建议:• 统一数据口径• 建立数据质量标准• 定期清理冗余数据七、趋势展望IDC在2026年的预测中指出:"到2027年,60%的新增BI项目将选择行业预置型解决方案。"这一趋势的背后,是企业对BI价值认知的深化:BI不只是"报表工具",更是"经营助手"。对于企业而言,选择BI工具不再是"选功能",而是"选路线"。理解自身需求,选择适合的技术路线,才是BI落地的关键。参考资料[1] MarketsandMarkets, "全球BI市场预测, 2026-2030"[2] Gartner, "企业BI应用趋势报告, 2026"[3] IDC, "中国BI市场分析报告, 2026"
上滑加载中
推荐直播
-
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战,从0到1打通消息通道;码道鸿蒙端云一体化实战,快速搭建员工签到系统。
回顾中 -
华为云开发者AI素养直播课·第五期2026/09/04 周五 16:00-18:00
林华鼎-华为云AI开发者运营负责人;蒋春阳-华为云AI开发者案例开发专家
本期直播内容: AI工具体验营 · 第5-8课连讲。Agent-Team 多智能体协作完成毕业设计实践
回顾中 -
华为云开发者AI素养ClassRoom·第六期2026/09/08 周二 19:00-20:00
樊渊-2026华为软件挑战赛冠军
高手来了:看软挑高手解析二维排样问题—从工业难题到算法突破
回顾中
热门标签