公司业务信息：云宝贝是拓维信息系统股份有限公司打造的一个为儿童成长提供一站式服务的平台。平台包含手机APP、网站、小程序，以0-6岁儿童成长需求为目标、以儿童教育为核心、以线上线下O2O为运营模式，致力于提供儿童成长教育解决方案。业务场景：园所使用云宝贝平台发布日常信息、学生活动等文本视频内容，与家长进行互动。从而达到家园共育的目的。解决问题：需要对产品中发送的信息进行敏感内容过滤。比如涉黄、涉恐、涉暴、涉政的图文及视频等，不能发布挑战：产品用户量大，使用频次高。进行人工审核肯定不可以，需要实时判断发送内容是否违规从而进行过滤。使用服务：内容审核如何解决：采用华为云内容审核API。进行文本、图片、视频敏感内容过滤。方案截图：使用收益：提高工作效率，避免人工投入的同时避免敏感内容带来的风险意见/建议：1、文本审核命中率：比如录入学生名字的时候，目前比较容易命中涉政校验。比如学生名字“李汪洋”，建议灵活设置过滤场景。一个例子：疫情期间有园所让家长每日上报学生的健康情况。格式为手机号码+名字+体温。由于包含了手机号码且开启了广告过滤，由于包含手机号码，大概率会被识别成广告而屏蔽2、图片：有测试反馈如果是在正常图片上P上一些敏感文字，有可能会通过审核

河南鸿翎信息科技有限公司，是一家专注于互联网+物联网服务的技术型公司。公司坚持“创新、创造、价值”的精神，致力于互联网和物联网的技术服务、开发及运营。其新上线运营产品“易起接龙”微信小程序，定位社群，服务于全国线上线下商家，基于快速发起，简单应用，助力商家轻松经营好社群。用户发布接龙商品需要满足其快速发布，快速审核，此场景下人工审核显得杯水车薪，其华为云内容审核服务刚好能轻松应对此场景需求。业务场景：用户发布接龙，提交接龙时先由华为云内容审核机制介入进行文本和图片的内容审核，对违规信息直接提示用户修改，对安全信息直接进行发布，对需再确认信息提交至后台进行人工审核干预，实现用户发布接龙的内容安全性和不良信息的阻止过滤。解决问题：通过内容审核机制，可有效对其内容进行审查，缩短发布时间，提高发布质量。挑战：在保证用户对产品体验友好度的前提下，尽量缩短用户等待时间和不必要的冗繁交互，既要让用户操作行云流水，又要保证平台内容的安全健康，这个在用户量逐增的情况下人工操作是不可能满足其需求的。使用服务：内容审核如何解决：华为云助力鸿翎科技打造用户智能交互平台-易起接龙，通过基于深度学习的EI企业智能内容审核平台，基于图像、文本、视频检测技术，对用户交互数据进行自动化、智能化涉黄、广告、涉政涉暴、涉政等敏感内容进行检测，从而降低产品业务违规风险，提高用户交互体验，简化审核流程，降低人工成本，更便捷更智能。使用场景：智能审核用户发布信息业务架构：调用量：当前日均30左右，后期随用户数量增加呈逐步增加趋势使用效果：线性提高用户体验，显著缩短发布时间，明显降低人工成本意见/建议：个别敏感词未能完全检测，不过能通过手动配置黑白名单进行干预实现检测。易起接龙

业务场景：QQ群文明管理解决问题：在qq群内，经常会有一些不守规矩的群员，在群内发**导致q群被封。挑战：群主和管理员不可能做到24h一直在线监管，可用机器人实现24实时监管，且处理速度快使用服务：内容审核如何解决：使用华为云内容审核接口服务，搭建Q群机器人；通过酷q机器人和配套的插件接入华为云的内容审核，既可以识别**图片，也可以识别政治敏感人物，以及暴恐等敏感信息。使用场景：QQ群文明管理，用于审核群员的聊天记录：文字、图片的敏感信息业务框架：调用量：日均50左右，根据群成员的自觉性稍有增减使用效果：目前机器人管理了十几个群，解决了类似问题导致封群的发生，相较于传统管理模式，省去了人工处理的不准确性，提高了处理速度意见和建议： 由于格式限制，只能识别常规图片，一些特殊格式的无法识别，以及辨别主要根据露出程度，而不是内容，有些内容达到**标准但露出程度不到则没法识别，望加强。

https://bbs.huaweicloud.com/forum/forum.php?mod=viewthread&tid=66194&page=1&extra=#pid273844

https://bbs.huaweicloud.com/forum/thread-66194-1-1.html

业务场景：QQ群文明管理解决问题：在qq群内，经常会有一些不守规矩的群员，在群内发**导致q群被封。挑战：群主和管理员不可能做到24h一直在线监管，可用机器人实现24实时监管，且处理速度快使用服务：内容审核如何解决：使用华为云内容审核接口服务，搭建Q群机器人；通过酷q机器人和配套的插件接入华为云的内容审核，既可以识别**图片，也可以识别政治敏感人物，以及暴恐等敏感信息。使用场景：QQ群文明管理，用于审核群员的聊天记录：文字、图片的敏感信息业务框架：调用量：日均50左右，根据群成员的自觉性稍有增减使用效果：目前机器人管理了十几个群，解决了类似问题导致封群的发生，相较于传统管理模式，省去了人工处理的不准确性，提高了处理速度意见和建议： 由于格式限制，只能识别常规图片，一些特殊格式的无法识别，以及辨别主要根据露出程度，而不是内容，有些内容达到**标准但露出程度不到则没法识别，望加强。

问：有哪些途径可以使用内容审核的API？答：共有三种方式可以基于已构建好的请求消息发起请求。①cURLcURL是一个命令行工具，用来执行各种URL操作和信息传输。cURL充当的是HTTP客户端，可以发送HTTP请求给服务端，并接收响应消息。cURL适用于接口调试。关于cURL详细信息请参见https://curl.haxx.se/。②编码通过编码调用接口，组装请求消息，并发送处理请求消息。③REST客户端Mozilla、Google都为REST提供了图形化的浏览器插件，发送处理请求消息。针对Firefox，请参见Firefox RESTClient。针对Chrome，请参见Postman。

本FAQ收集内容审核服务用户常见问题，并进行解答，供大家查询。1、内容审核官方FAQ2、内容审核如何在线体验？

内容审核（Content Moderation），基于图像、文本、视频检测技术，可自动检测涉黄、广告、涉暴、涉政等内容，帮助客户降低业务违规风险。课程简介本课程主要内容包括内容审核服务介绍和基本操作。 课程目标通过本课程的学习，了解内容审核服务及使用场景，并掌握其申请和调用方法。 课程大纲第1章 华为云内容审核服务介绍第2章 动手实践第3章 售前拓展场景总结第4章 随堂测试课程链接

尊敬的华为云用户：     为构建和谐云社区，营造良好网络环境，我们已开启内容审核机制，以及时清除违规信息。若对内容审核结果有疑问欢迎您联系我们，我们会及时进行处理。同时，也请您详细阅读本须知，避免发布违规内容。一、文本检测场景涉政涉暴检测：识别文本中的涉政敏感、反动等不良信息；涉黄检测：识别文本中不合规范的涉黄、低俗信息；广告检测：识别文本中含有推广或者售卖意向的广告信息；辱骂语句检测：识别文本中含有辱骂内容的垃圾文本信息；恶意灌水检测：识别文本中无实意字符或乱码等特征的灌水类信息；违禁物品检测：识别文本中盗抢、毒品等违禁信息；二、图像检测场景涉政涉暴检测：识别图像中涉政敏感人物、涉暴恐元素等信息涉黄检测：可对图像中涉黄信息进行识别并对涉黄程度量化，自动识别涉黄、低俗等内容广告检测：识别图像中的文字广告、二维码、水印等有推广意图的广告图像不良场景检测：识别抽烟、**博、手术等容易引人反感的图像三、易误判信息 文本-恶意灌水类 文本重复比例过高易被误判为恶意灌水，请规范书写正文，尽量避免标题、正文重复； 图像-广告类 图像中二维码、英文代码、手机号、微信号等易被误判为广告，请尽量避免发表含二维码内容；  四、申诉方式发帖路径：选择版块“版务管理-内容拦截申诉”发表申诉帖；发帖标题：务必标题注明内容所属频道“【博客/论坛/联盟（三选一）】+内容标题名称”发帖正文：内容所属频道内容标题名称内容链接    内容审核为机器智能检测，难免会存在不人性化的地方，研发小哥哥正在抓紧优化内容审核能力，给大家带来不便敬请谅解！附：有害信息范畴    违反宪法确定的基本原则的；    危害国家安全，泄露国家秘密，颠覆国家政权，破坏国家统一的；    损害国家荣誉和利益的；    煽动民族仇恨、民族歧视，破坏民族团结的；    破坏国家宗教政策，宣扬邪教和封建迷信的；    散布谣言，扰乱社会秩序，破坏社会稳定的；    散布淫秽、暴力、恐怖或者教唆犯罪的；    侮辱或者诽谤他人，侵害他人合法权益的；    煽动非法集会、结社、游行、示威、聚众扰乱社会秩序的；    以非法民间组织名义活动的；    含有法律、行政法规禁止的其它内容的(例如：恶意中伤、攻击国家领导人)制造或散播谣言、泄漏国家机密信息等；    含任何与论坛主题不相关内容包括包括但不限于各种商业、广告、垃圾或骚扰等内容；    含有虚假、有害、胁迫、侵害他人隐私、骚扰、侵害、中伤、粗俗、猥亵、或其它道德上令人反感的内容；    含有其他违反相关法律、法规、规章、条例以及任何具有法律效力之规范所限制或禁止的其它内容的；    含有其他违反社会公德、公共利益、相关协议规则或其他可能会被认为不适当的内容；    含任何引起他人身体不适的内容；    转载、抄袭未经授权的文章；

尊敬的华为云客户：华为云内容审核服务 华北-北京一区于2019/07/15 22:00:00（北京时间）起不再支持ais.cn-north-1.myhuaweicloud.com  ais.cn-north-1.myhwclouds.com域名访问。如您正在使用上述两个域名访问内容审核服务，请切换为内容审核服务专有域名moderation.cn-north-1.myhuaweicloud.com，接口调用方式不变。如您之前已使用moderation.cn-north-1.myhuaweicloud.com域名，则不受影响。如您有任何问题，可随时通过工单或者服务热线（950808）与我们联系。感谢您对华为云的支持！

《直播回看》栏目会将“华为云开发者者联盟”移动端课程平台的精品音视频直播课，定期进行展播，支持各位伙伴进行回看学习本期推荐：图像内容审核介绍和应用【主讲人介绍】主讲人：Allan华为云EI内容检测服务研发负责人，专注在EI云化，为企业客户提供最好的EI.【课程大纲】1.图像识别简介。2.图像识别的应用——图像审核。3.如何用图像审核服务。【课程链接】可扫描下方二维码进入“华为云开发者联盟“移动端直播间收听课程

    尊敬的华为云客户：    为了更好的理解服务特性，华为云“内容检测”服务中文名更名为“内容审核”，更名后用户使用该服务不会受影响，请知。    感谢您对华为云的支持！

视频点播发布日志管理服务【新功能】：基于视频AI自动鉴黄、鉴恐、鉴政，审核范围包括视频、封面图片、文字描述详细的操作与描述：

视频直播发布日志管理服务【新功能】：内容审核/鉴黄功能描述：支持自动识别涉黄、涉恐和涉暴内容，并一键禁播。特性：产品文档：https://support.huaweicloud.com/live_dld/index.html#  立即前往>