声波是一种信号，可以将其称为音频信号。原始的音频信号通常由于人类发声器官或语音采集设备所带来的静音片段、混叠、噪声、高次谐波失真等因素，会在一定程度上对语音信号质量产生影响。所以，在正式使用声学模型进行语音识别之前，必须对音频信号进行预处理和特征提取。最初始的预处理工作就是静音切除，也叫作语音激活检测(Voice Activity Detection,VAD)或语音边界检测。其目的是从音频信号流中识别和消除长时间的静音片段，在截取出来的有效片段上进行后续处理会在很大程度上降低静音片段带来的干扰。除此之外，还有许多其他的音频预处理技术。其次就是特征提取工作，音频信号中通常包含非常丰富的特征参数，不同的特征向量表征着不同的声学意义，从音频信号中选择有效的音频表征的过程就是语音特征提取。常用的语音特征包括线性预测倒谱系数（LPCC）和梅尔频率倒谱系数(MFCC)，其中LPCC特征是根据声管模型建立的特征参数，是对声道响应的特征表征；而MFCC特征是基于人的听觉特征提取出来的特征参数，是对人耳听觉的特征表征。所以，在对音频信号进行特征提取时通常使用MFCC特征。MFCC主要由预加重、分帧、加窗、快速傅里叶变换(FFT)、梅尔滤波器组、离散余弦变换几部分组成，其中FFT与梅尔滤波器组是MFCC最重要的部分。在实际的语音研究工作中，也不需要我们再重新构造一个MFCC特征提取方法，Python提供了pyaudio和librosa等语音处理工作库，可以直接调用MFCC算法的相关模块快速实现音频预处理工作。过去在语音识别上所取得的成果证明MFCC是一种行之有效的特征提取方法。但随着深度学练的发展，受限玻尔兹曼机(RBM)、卷积神经网络(CNN)、CNN-LSTM-DNN(CLDNN)等深度神经网络模型作为一个直接学练滤波器代替梅尔滤波器组，被用于自动学练的语音特征提取中，并取得了良好的效果。

因为语音识别相较于一般的自然语言处理任务特殊之处就在于声学模型，所以语言识别的关键也就是信-号预处理技术和声学模型部分。在深度学习兴起应用到语言识别领域之前，声学模型已经有了非常成熟的模型体系，以及被成功应用到实际系统中的案例，例如，经典的高斯混合模型(GMM)和隐马尔可夫模型(HMM)等。神经网络和深度学习兴起以后，循环神经网络、LSTM、编码-解码框架、注意力机制等基于深度学习的声学模型将此前各项基于传统声学模型的识别案例错误率降低了一个层次，所以基于深度学习的语音识别技术也正在逐渐成为语音识别领域的核心。语音识别发展到如今，无论是基于传统声学模型的语音识别系统还是基于深度学习的语音识别系统，语音识别的各个模块都是分开优化的。但是语音识别本质上是一个序列识别问题，如果模型中的所有组件都能够联合优化，那么很可能会获取更好的识别准确度，因而端到端的自动语音识别是未来语音识别最重要的发展方向之一所以，语音识别顺序，首先是声波信-号处理与特征提取等预处理技术；然后是GMM和HMM等传统的声学模型，其中重点是语音识别的技术原理；之后是基于深度学习的声学模型，最后是端到端的自动语音识别。

语音识别的输入和输出都是什么？ 声音从本质上来说是一种波，也就是声波，这种波可以作为一种信号来进行处理，所以输入实际上就是一段随时间播放的信号序列，而输出则是一段文本序列。将语音片段输入转化为文本输出的过程就是语音识别。一个完整的语音识别系统通常包括信息处理与特征提取、声学模型语言模型和解码搜索四个模块。信号处理与特征提取可以视作音频数据的预处理部分，一般来说，一段高保真、无噪声的语言是非常难得的，在实际研究中用到的语音片段或多或少都有噪声，所以在正式进入声学模型之前，需要通过消除噪声和信道增强等预处理技术，将信号从时域转化到频域，然后为之后的声学模型提取有效的特征向量。接下来声学模型会将预处理部分得到的特征向量转化为声学模型得分，与此同时，语言模型，即在自然语言处理中的类似NGGram和RNN等模型，会得到一个语言模型得分。最后在解码搜索阶段会针对声学模型得分和语言模型得分进行综合将得分最高的词序列作为最后的识别结构。这便是语音识别的一般原理。

在自然语言处理中，注意力模型通常是应用在经典的编码G解码(EncoderGDecoder)框架下的，seq2seq模型正是一种典型的编码G解码框架。编码G解码作为一种通用框架，在具体的自然语言处理任务上还不够精细化。换句话说，单纯的编码G解码框架并不能有效地聚焦到输入目标上，这使得像seq2seq的模型在独自使用时并不能发挥其最大功效。例如，编码器将输入编码成上下文向量C，在解码时每一个输出Y都会不加区分地使用这个C进行解码。而注意力模型要做的事就是根据序列的每个时间步将编码器编码为不同的C, 在解码时，结合每个不同的C进行解码输出，这样得到的结果会更加准确。在应用了注意力模型之后，每个输入会被独立编码，解码时就会有各自对应的C进行解码，而不是简单的一刀切。一段汉译英的机器翻译注意力模型图解示意图。

所谓seq2seq模型，翻译过来就是序列对序列的模型。seq2seq本质上就是一种多对多(N VS M)RNN模型，即输入序列和输出序列不等长的RNN模型。也正是因为seq2seq的这个特性，使得其有着广泛的应用场景，例如，神经机器翻译、文本摘要、语音识别、文本生成、机器创作等。seq2seq模型虽然强大，但如果仅仅是单一使用，那么效果会打一些折扣。注意力模型就是基于编码G解码框架下的一种模拟人类注意力直觉的一种模型。人脑的注意力机制本质上是一种注意力资源分配的模型。例如，在阅读一篇论文时，在某个特定时刻我们的注意力肯定只会在某一行的文字描述，而在看到一张图片时，我们的注意力肯定会聚焦于某一局部。随着目光移动，我们的注意力肯定又聚焦到另外一行文字，另外一个图像局部上。所以，对于一篇论文、一张图片，在任意一时刻我们的注意力分布是不一样的。这便是著名的注意力机制模型的由来。在计算机视觉目标检测领域，目标检测中的FastRCNN利用RoI（兴趣区域）来更好地执行检测任务，其中RoI便是注意力模型在计算机视觉中的应用。注意力模型的使用更多的是在自然语言处理领域，在机器翻译等序列模型应用上有着更为广泛的应用。

普通神经网络和卷积神经网络都有梯度爆炸和梯度消失，那么RNN也有吗？有。而且梯度爆炸和梯度消失的问题对RNN的伤害更大。当RNN网络加深时，因为梯度消失的问题使得前层的网络权重得不到更新，RNN就会在一定程度上丢失记忆性。为此，在传统的RNN结构基础上，研究人员给出一些著名的改进方案，因为这些改进方案都脱离不了经典的RNN结构，所以一般来说我们也称这些改进方案为RNN变种网络。比较著名的就是循环门控单元(GRU)和长短期记忆网络(LSTM)。GRU和LSTM的结构基本一致，但有部分不同的地方。要明确的是，LSTM的本质是一种RNN网络；LSTM在传统的RNN结构上做了相对复杂的改进，这些改进使得LSTM相对于经典RNN能够更好地解决梯度爆炸和梯度消失问题，让循环袢经网络具备更强、更好的记忆性能，这也是LSTM的价值所在。

神经网络的训练机制，不管是哪种神经网络，其训练都是通过反向传播计算梯度来实现权重更新的。通过设定损失函数，建立损失函数关于各层网络输入、输出的梯度计算，当网络训练开动起来时，系统便按照反向传播机制来不断更新网络各层参数直到停止训练为止。但当网络层数加深时，这个训练系统变得不是很稳定，经常会出现一些问题。梯度爆炸，就是在神经网络训练过程中，梯度变得越来越大导致网络权重疯狂更新的情形。这种情况很容易发生，因为梯度过大，计算更新得到的参数也会大到崩溃，这时就可能看到更新的参数值中有很多的NaN（未定义或不可表示的值），这说明梯度爆炸已经使得参数更新出现数值溢出。这便是梯度爆炸的基本情况。梯度消失。与梯度爆炸相反的是，梯度消失就是在神经网络训练过程中梯度变得越来越小以至于梯度得不到更新的一种情形。当网络加深时，网络深处的误差因为梯度的减小很难影响到前层网络的权重更新，一旦权重得不到有效的更新计算，神经网络的训练机制也就失效了。

7月没有整理，所以把7月的也补上。7月8月的合集如下。 1. AI开发平台ModelArts新功能  7月、8月没有新功能发布 2. 人工智能相关直播合集 数仓过载不用愁，资源管理帮分忧 https://bbs.huaweicloud.com/live/DTT_live/202306281630.html 面对磁盘空间、内存、CPU等资源过载问题，GaussDB(DWS)资源管理机制来支招。 华为云数仓专家孟韬老师：带您全面了解GaussDB(DWS)的资源管理机制，让数仓过载烦恼不再，把“烂”SQL牢牢关进笼子里，让我们的管控技术为您的业务保驾护航。 说的挺直白的，那就是虽然可以尽量避免，还是会出现“烂SQL语句的”，这种情况下怎么办呢？  华为开发者大会2023（Cloud）  AI重塑千行百业 https://bbs.huaweicloud.com/live/HDC_live/202307071430.html 大直播。主题是 发布盘古大模型3.0和昇腾AI云服务。 盘古大模型3.0围绕“行业重塑”“技术扎根”“开放同飞”三大创新方向，持续打造核心竞争力。 昇腾AI云服务单集群提供2000P Flops算力，千卡训练30天长稳率达到90%，为业界提供稳定可靠的AI算力。  盘古大模型要让每个行业、每个企业、每个人都拥有自己的专家助手。我们始终坚持AI for Industries的战略，在深耕行业的道路上不断前行。 所以可以看出这个战略的不同，chatGPT是直接面向每个人。比较而言，我更看好盘古。  在这个大会上，有多个分直播，这里只一一列出，不能展开了： 具身智能，让机器人“知行合一” https://bbs.huaweicloud.com/live/HDC_live/202307080901.html 聚焦大模型赋能的具身智能前沿技术，探讨和思辨大模型在机器人、智能制造、自动驾驶等代表性领域的发展应用  MetaStudio数字内容生产线，快速打造数字人和企业3D空间 https://bbs.huaweicloud.com/live/HDC_live/202307081030.html 倡导构筑行业的数字人、资产库的互联互通标准，共建数字内容产业生态。  SaaS Package 2.0 集成优质开发成果 让中小企业搭上数智化快车 https://bbs.huaweicloud.com/live/HDC_live/202307081032.html 针对SaaS业务“采购难、方案散、模式乱”的行业困境，推出2.0模式，为开发者提供：能力整合、商机共享、价值分享、场景丰富四大价值；为客户提供：权威选型、商务优势、统一管理、灵活可选四大价值。  盘古大模型，为行业而生 https://bbs.huaweicloud.com/live/HDC_live/202307081045.html 在盘古基础大模型的基础上，华为云陆续推出了矿山、金融、电力、气象、海浪、药物分子等盘古行业大模型。华为云和来自矿业、金融等行业的客户一起详细解读盘古大模型在行业的应用以及带来的价值。  AI“邂逅”一站式软件开发，CodeArts以10倍效能“绘”企业应用远景 https://bbs.huaweicloud.com/live/HDC_live/202307081300.html 基于AI开创的智能化研发能力，以助力企业快速响应市场变化  D-Plan生态合作计划，打造场景化AI商业模式，共同构筑AI繁荣生态圈 https://bbs.huaweicloud.com/live/HDC_live/202307081303.html 针对企业AI应用场景复杂、定制化程度高、开发难度大的客观情况，旨在与合作伙伴一起构建合作共赢的AI生态体系，加速AI应用落地，华为云向伙伴提供培训、技术、营销和销售的全面支持。  盘古基础模型能力解密 https://bbs.huaweicloud.com/live/HDC_live/202307081304.html 全面介绍盘古系列大模型的技术竞争力，结合华为全栈AI 技术，在用户体验和成本上构建差异化竞争力。  AI for 金融，让人人都有专属财富管家 https://bbs.huaweicloud.com/live/HDC_live/202307081425.html 金融服务机构作为数智化转型的主力军，正着力将AI能力应用于金融主业务流，通过AI赋能业务，提供以人为本的服务体验，以及提升业务运营效率，有效防范金融风险和金融业务创新。  AI for 医药，药物研发实现从“马拉松”到“加速跑” https://bbs.huaweicloud.com/live/HDC_live/202307081543.html 在AI渗透到药物研发的过程中，药企及机构仍面临一系列挑战，包括算法低效、数据割裂、数据风险、算力瓶颈等。华为云一站式AI辅助药物研发平台，聚焦药物研发领域AI开发需求，提供全流程药物研发AI开发能力，让企业研发效率得到大幅提升，很大的缩短了药物研发的周期。  天筹AI求解器，首个“对话”就能使用的AI求解器 https://bbs.huaweicloud.com/live/HDC_live/202307081703.html 求解器在企业的决策优化问题中承担重任。华为云天筹AI求解器是业界首个将AI和数学规划结合的商用AI求解器，通过与AIGC技术结合，突破“0”门槛建模求解能力，助力客户与伙伴商业成功。  盘古大模型驱动的企业级搜索，让搜索更懂你 https://bbs.huaweicloud.com/live/HDC_live/202307090905.html 盘古搜索依托行业领先的盘古大模型，以极简的策略和系统方案，替代传统搜索引擎复杂的特征及系统逻辑，具有三大特性：极简、强大、高效，且拥有强大的语义理解能力，凭借数据驱动的优化模式可实现极致的行业优化效率及应用效果。 自研向量数据库开箱即用，可与生成式模型结合，理解和检索客户本地库，提升时效性、准确性、数据安全。 CSS创新架构支撑日志检索与分析，解决企业开发者对于成本和运维的焦虑。  AI开发生产线ModelArts，零代码玩转 AI 开发 https://bbs.huaweicloud.com/live/HDC_live/202307091033.html 华为云AI开发生产线ModelArts，针对不同客户诉求，开发lite、edge、standard、alliance等系列化版本，满足不同场景数据加速、训练加速、调度优化加速诉求，提升资源利用率和性价比。  AI for工业，带来产业升级新范式 https://bbs.huaweicloud.com/live/HDC_live/202307091303.html 华为云盘古大模型帮助工业企业解决碎片化场景问题、降低模型开发成本、提升模型精度，推动AI开发从“作坊式”向“工厂式”升级。其中，大模型已经在煤矿综采、煤矿掘进、智慧配煤等100多个场景得到验证，为工业领域带来产业升级新范式。  玩转大模型行业应用，且看盘古大模型全栈工程能力展身手 https://bbs.huaweicloud.com/live/HDC_live/202307091420.html 盘古大模型工程面向用户和开发者提供全栈能力，包括可视化大模型开发和应用的整套工具链，覆盖数据准备、模型训练、模型部署、模型效果评测全流程，支持大模型更高效地构建、部署以及应用开发，使得大模型能够在行业中得到更广泛的应用。  生成式AI，用技术重塑艺术形态 https://bbs.huaweicloud.com/live/HDC_live/202307091423.html 华为云重磅升级盘古大模型，提供AIGC相关能力，赋能伙伴和开发者开创智能新世界。  先进数通：依托金融大模型，打造绿色金融生态 https://bbs.huaweicloud.com/live/HDC_live/202307091425.html 依托大模型技术，对金融风控、金融监管、用户画像、信贷业务、数字化营销等金融场景的应用实践。  以上便是在这个大会上的分直播。  2023华为开发者大赛·湖北赛区启动仪式 https://bbs.huaweicloud.com/live/HDZ_live/202307101430.html  当技术遇上艺术：AIGC浪潮下的数字人进化论 https://bbs.huaweicloud.com/live/DevRun_live/202307031700.html  域见AI 医言为定 https://bbs.huaweicloud.com/live/HDZ_live/202307171900.html 2023“域见杯”医检人工智能开发者大赛训练营  华为云智能驾驶创新峰会&乌兰察布汽车专区发布会 https://bbs.huaweicloud.com/live/dks_live/202307210900.html 作为“超级智能终端”的汽车将面临革命性变化，整个汽车产业也将迎来新一轮革新。云服务在汽车智能化、网联化发展方面已经成为关键技术底座。自动驾驶的真正实现还任重道远，需要突破重重技术关卡和解决各种安全问题，适应多样化场景和环境，建立良好的生态和商业模式。  数仓实时入库利器！HStore表原理与应用实践详解 https://bbs.huaweicloud.com/live/DTT_live/202308021630.html 面对实时入库和实时查询要求越来越高的趋势，已有的列存储无法支持并发更新入库，行存查询性能无法做到实时返回且空间压缩表现不佳。GaussDB(DWS)基于列存储格式设计和实现了全新的HStore表，同时提供高效的并发插入、更新入库，以及高性能实时查询。  云聚园区 智享未来 https://bbs.huaweicloud.com/live/HDZ_live/202308031900.html 苏州工业园区“华为云杯”2023人工智能应用创新大赛训练营  零基础玩转AI，ModelArts全搞定 https://bbs.huaweicloud.com/live/HDZ_live/202308101900.html 

RNN最基本的结构形式并不是很复杂，但NLP等序列建模问题多样且复杂，基础的RNN结构并不够用，在初始RNN结构的基础上，针对多种不同的任务类型，RNN可以分为四种类型。

 RNN的具体结构如下： 假设要将一个句子输入RNN，第一个输入的单词是x1，将x1输入神经网络，经过隐状态输出识别其是否为人名，即输出为y1。 同时网络初始化隐状态激活值，并在隐状态中结合输入x1进行激活计算传入到下一个时间步(Time Step)。当输入第二个单词x2时，除使用x2预测输出y2之外，当前时间步的激活函数会基于上一个时间步进行激活计算，即第二个时间步利用了第一个时间步的信息，这便是循环(Recurrent)的含义。  如此下去，一直到网络在最后一个时间步输出yn和激活值an。所以，在每一个时间步中，RNN都会传递一个激活值到下一个时间步中用于计算。  RNN单元结构通常需要进行两次激活计算，一次是结合上一个时间步的隐状态值和输入的计算，另一次是基于当前隐状态值的输出计算。  

发布服务到赛事后，服务日志一直无调用记录。判分在judging状态持续半小时以上。日志如下： ```[2023-08-15 12:39:21 +0800] [52] [INFO] Starting gunicorn 20.1.0[2023-08-15 12:39:21 +0800] [52] [INFO] Listening at: http://127.0.0.1:8080 (52)[2023-08-15 12:39:21 +0800] [52] [INFO] Using worker: gthread[2023-08-15 12:39:21 +0800] [55] [INFO] Booting worker with pid: 55start. . .2023-08-15 12:39:21 CST [MainThread ] - /home/ma-user/anaconda3/envs/PyTorch-1.8/lib/python3.7/site-packages/model_service/app.py[line:111] - INFO: Namespace(model_name='serve', model_path='', pt_server_name='127.0.0.1', service_file='/home/ma-user/infer/model/1/customize_service.py') []```使用界面的【预测】栏上传预测文件，是可以成功的。

好的产品总是在用户的“吐槽”声中日臻完善欢迎大家参与华为云产品体验官参与活动，按要求仅需2步即可完成任务体验产品-输出建议参与即可获得开发者大礼包一份~ 活动时间：2023年8月14日——8月31日  参与方式：用户参与ModelArts产品体验官时体验产品，可按照以下方式提出优化建议，包括但不限于产品性能、操作体验、购买流程、功能建议、竞品对比等全面、深度的产品评测反馈（欢迎对产品的无情吐槽哦~）参与流程：体验产品：点击立即体验AI平台ModelArts输出建议：1、用户登陆云声活动平台：cid:link_1，如图所示，点击立即参加按钮2、按照要求提出产品问题和优化建议标题需以参与活动名称+产品体验建议的形式命名。如【XX产品体验官】使用API更新/查询容器镜像服务中的容器时报错内容正文要求      问题描述：提供相关云服务名称以及对应的使用详细描述，方便时尽量附带截图以及链接地址等      建议方案：可写具体的优化建议选择相关的产品/功能标签确认已知晓建议内容将会被公开，且未提交敏感信息后提交。图示3、等待活动评奖名单公布提交建议后，客服团队在2个工作日内进行预审， 每月活动结束后，根据建议预审和采纳情况评选，届时评选获奖用户，公布获奖名单并发放奖品更有线下专场可以面对面交流最新技术、和产品专家面对面交流~【ModelArts产品体验官&HCDG·大连站活动】线下专场活动时间：2023.8月下旬活动地点：敬请期待欢迎前往交流！

本来提交都没啥问题，下午再提交突然报ModelArts.5000系统异常问题

重庆工程学院HCSD活动合作申请书申请人姓名：肖宏城申请人所在学校：重庆工程学院活动主题/活动名称码上服务-华为云活动背景及意义通过宣讲，以及教师团队的协助，给未接触和接触较浅的同学和老师进行宣讲，让其了解和深入学习我们华为云的一些技术，了解我们华为云的产品以及好处，加大师生对华为云的认知度，认可度以及能通过此次活动吸取更多优秀的人才进入到我们的组织。活动目标活动宣传辐射人数全校计算机专业同学、活动参与人数力争200余人，通过介绍华为云的技术以及产品，吸引更多的开发者使用华为API、开发工具以及一些云服务，了解华为云带来的功能以及对于自身带来的好处。活动时间及地点暂定于4月19日本科评估时期，地点暂定。活动规模校级举办，吸引全校对华为云感兴趣的师生活动受众分析软件与人工智能学院、计算机学院、20、21年级、未接触云服务或接触较少、对华为云的了解程度较为浅薄的同学。流程及分工流程工作详情责任人活动准备阶段活动策划：师生进场，学校领导、老师介绍，华为云讲解，答疑Q&A，拍照留恋肖宏城物资采购及财务管理：活动海报以及横幅肖宏城场地准备：场地选这能容纳200余人的场地肖宏城、张杰、卢俊宣传准备：进行为期3天的宣传，宣传地点为师生人员密集的区域，通过社交软件或其他文件方式进行宣传肖宏城、陈静、张杰活动开展阶段拍照向晋康、刘宴控场肖宏城、卢俊、陈靖、张杰物资需求明细表物料数量单价总价华为云HCSD宣传海报1华为云HCSD活动横幅1总计风险控制及备案如场地、设备等出现问题，有备选方案不影响活动正常开展

问题现象训练作业运行失败，返回错误码139，如下图所示：原因分析出现该问题的可能原因如下pip源中的pip包更新了，之前能跑通的代码，在包更新之后产生了不兼容的情况，例如transformers包，导致import的时候出现了错误。用户代码问题，出现了内存越界、踩内存的情况。未知系统问题导致，建议先尝试重建作业，重建后仍然失败，建议提工单定位。处理方法如果存在之前能跑通，什么都没修改，过了一阵跑不通的情况，先去排查跑通和跑不通的日志是否存在pip源更新了依赖包，如下图，安装之前跑通的老版本即可。2.推荐您使用本地Pycharm远程连接Notebook调试。3.如果上述情况都解决不了，请联系技术支持工程师。