一个好的NLP预训练模型，除要有能够适应各种场景的词嵌入表达之外，更需要一个特征提取能力强大的网络结构。ELMo采了双向双层的LSTM结构，但事后证明RNN和LSTM的特征提取能力还远远不够强大。GPT和BERT等超强的预训练模型大多都用到了一种叫作Transformer的网络结构。实际上在介绍注意力机制时就能接触到了。Transformer在著名的Attention is all your need论文中正式提出，也正是在这篇论文里我们了解了注意力机制这样一种设计。传统的RNN或LSTM的顺序计算机制存在以下两个比较严重的问题。 （1）时间步t依赖于时间步t-1时刻的计算结果，这也是RNN并行能力较差的原因。 （2）顺序计算过程中会存在信息丢失现象。为此，Transformer抛弃了传统的CNN和RNN结构，本质上是一种完全由注意力(Attention)构成的网络。Transformer从结构上看依然是编码G解码架构，由自注意力（SelfGAttention）、编码G解码注意力（EncoderGDecoder Attention)和前馈神经网络（Feed Forward Neural Network)构成。一个完整的Transformer结构也是一个典型的编码G解码结构。Transformer目前已经成功取代RNN和LSTM成为NLP预训练模型主流特征提取器，若是ELMo能将双向双层的LSTM结构换成Transformer,想来当时可能就会是另一种反响了。

前言近年来，随着科技的发展，智能语音识别技术被广泛应用于人机交互领域。智能语音识别技术的出现让人们可以通过口头语言与计算机进行交互，极大地方便了人们的生活。借助Modelarts平台快速构建声音分类模型并部署上线，能够轻松实现智能声音识别。声音识别具有专属、方便、安全的优势。声音识别就是把acoustical signal转换成ELECTRICAL SIGNAL ，再用计算机进行识别。不同的任务和应用会使用不同的声音识别技术，如缩小刑侦范围时可能需要辨认技术，而银行交易时则需要确认技术。是生物识别技术的一种。本篇文章将介绍一种基于智能声音识别的实践设计，该设计利用基于华为云的智能声音识别技术，旨在提供一种新的人机交互方式，为人们的生活带来更加便捷的体验。设计背景采矿业、修建隧道时，及其容易发生塌方等意外，容易造成人员以及财产的损失，而实际上，在塌方出现前，地面会发出异常的震动声波。本文旨在以智能声音识别为主要技术，依托Modelarts 和OBS等技术设计一个声音探测预警装置。采矿业、修建隧道时，及其容易发生塌方等意外，容易造成人员以及财产的损失，而实际上，在塌方出现前，地面会发出异常的震动声波。本文旨在以智能声音识别为主要技术，依托Modelarts 和OBS等技术设计一个智能声音探测预警装置。实践设计原理智能声音识别的实践设计基于acoustical signal processing和machine learning technique。主要的步骤包括：音频采集和预处理、特征提取、模型训练和声音识别。1.音频采集和预处理：通过麦克风等设备采集用户的acoustical signal，并对acoustical signal进行预处理，包括降噪、滤波等操作，以提高acoustical signal的质量和可靠性。2.特征提取：将预处理后的acoustical signal转化为数字表示，即提取出语音的特征。常用的特征包括梅尔频谱系数（MFCC）、线性预测编码（LPC）等。3.模型训练：使用机器学习算法，如深度神经网络（DNN）、隐马尔科夫模型（HMM）等，对提取到的语音特征进行训练，建立声学模型。4.声音识别：将待识别的acoustical signal转化为特征表示，然后利用训练好的声学模型进行识别，得到最终的文本结果。应用技术及其优势智能声音识别主要用到的技术是Modelarts和OBS。其中Modelarts具有AI共享、快速有效管理、训练加速、自动学习的优势。其中的AI共享是指AI市场基于ModelArts构建的开发者生态社区所提供AI模型共享功能。为高校科研机构、AI应用开发商、解决方案集成商、企业及个人开发者等提供安全、开放的共享及交易环境，有效连接AI开发生态链各参与方。而OBS则时负责存储音频数据集和模型数据。主要功能实现1.声音检测可以通过对设备传来的声音进行分析，及时判断是否存在故障，并提前做出预警，防止设备出现重大故障或意外事故，保障矿山的生产安全或隧道建设人员的安全。2.声音检测可以对洞内环境中的噪音、震动等情况进行监测，帮助矿山管理部门及时发现并解决存在的环境问题以及预防意外，为人员的撤离提供充足的时间3.声音检测可以通过对设备运转时的声音进行分析，评估设备的能耗状况，帮助矿山管理部门或隧道的挖凿制定节能措施和优化设备运行策略，降低成本。此外，声音检测可以配合其他监测技术，进行对设备状态的全面监测，帮助相关管理部门了解设备的运行状态和健康状况，科学制定设备维护和保养计划。设计实现步骤1.资源准备：获取访问密钥（个人中心，管理我的凭证）；2.准备数据：下载音频格式->转换音频格式->确认音频格式。具体步骤如下：将收集好的相关音频数据上传至平台，下载音频转换工具，转换音频文件格式为wav。3.创建项目：Modelarts 自动学习，选择声音自动学习项目。计费模式：按需计费。名称：sound-signal-of-mountain。数据集来源：新建数据集，数据集名称：sound-signal。数据集输入位置：/soundsignal/train/数据集输出位置：/soundsignal/out/(创建一个新的桶，并创建两个命名为train和out 的文件夹)。4.数据标注：在“自动学习”页面，单击项目名称，进入自动学习“数据标注”页面。声音分类项目创建时，音频来源有两种，选择本地添加。注意事项： 仅支持WAV格式音频文件，单个音频文件不能超过4MB，且单次上传的音频文件总大小不能超过8MB。 用于训练的音频，至少有2种以上的分类，每种分类的音频数不少于5个。5.自动训练：完成音频标注后，可进行模型的训练。由于用于训练的音频，至少有2种以上的分类，每种分类的音频数不少于5个。因此在发布训练之前，请确保已标注的音频符合要求，否则下方“开始训练”按钮会处于灰色状态。6.部署上线：部署上线操作即将模型部署为在线服务，并且提供在线的测试UI与监控能力。完成模型训练后，可选择准确率理想且训练状态为“运行成功”的版本部署上线。当“部署上线”页签版本管理区域的状态由“部署中”变更为“运行中”，部署完成。7.服务测试： 服务测试方式分为两种：在线页面测试：可以在“部署上线”页面，单击目标服务“操作”列的“预测”，进行服务测试。代码测试：可以通过调用代码对服务进行测试。代码测试方式有postman、curl命令等。8.相关资源的释放。9.设计相关电路，组装器件，编辑代码以实现预测报警等功能。总结这款基于华为云智能声音识别的智能声音探测预警装置是一种应用于采矿业、隧道开凿等地下工作场所的安全隐患解决方案。该设计利用到的技术有Modelarts 和OBS,利用了Modelarts 的AI共享和自动学习等优势。

对于多义词问题，语言模型嵌入（Embedding from Language Models,ELMo)提出了一个较好的解决方案。词嵌入的缺点在于静态表示。所谓静态表示，就是word2vec在训练完之后每个单词的词向量都固定了，在使时就比较受限于应用场景。ELMo的思想也很简单，词嵌入有静态表示的缺点，那ELMo就来根据实际应用的上下文来对训练好的词嵌入进行动态调整。具体来说，ELMo先学习一个单词的词向量表示，这时这个单词的词向量与原始的词嵌入是一样的，不具备区分多义词的能力。在实际使用时，需要根据应用场景的上下文语义来调整单词的词向量表示，经过调整后的词向量就具备区分多义词的能力了。ELMo采了双层双向的LSTM结构，由一个前向和一个后向语言模型构成，目标函数则取这两个方向语言模型的极大似然估计。ELMo训练好之后即可根据下游的NLP任务来进行调整。具体就是从预训练网络中提取对应单词的网络各层的词向量作为新特征补充到下游的NLP任务，因为ELMo是以单词特征的形式提供给下游NLP任务的，所以这一类预训练方法也称为基于特征的预训练模型（Feature-based Pre-Training)。

词嵌入除了是一种词汇表征方法之外，还是一种语言模型，更是一种标准的预训练过程。很长一段时间以来，词嵌入对于许多下游的NLP任务都大有裨益，例如，计算语义相似度、社交关系挖掘与推荐、向量检索等。但词嵌入本身也有很多硬伤。最严重的一个问题是多义词问题。作为自然语言中一种最常见的现象，词嵌入很难处理好这个问题。一个多义词的词嵌入示例如图:上图是单词Bear的词嵌入展示，但Bear是一个多义词，作为名词是熊的意思，作为动词则是忍受的意思。词嵌入在对Bear进行语义表征时，很难区分这两种含义。即使这两种含义出现在不同的上下文语义中，但是用语言模型进行训练时，无论什么样的上下文经过word2vec处理，都只会预测为语义相同单词Bear，而同一个单词占据的是同一行参数空间，这就使得这两种不同的上下文信息都会编码到相同的词嵌入空间中去，所以词嵌入无法去处理多义词问题。

华为全联接大会2023于9月20日-22日在上海举办。在22日上午举行的大会主题演讲中，华为云全球生态部总裁康宁发表“合作同飞，共创新价值”主题演讲，分享了华为云生态最新进展和成果，并宣布华为云以昇腾AI云服务为算力底座，以盘古大模型联合创新为基础，以模型社区和全面升级的云学堂为双引擎，携手伙伴、开发者合作同飞，共建繁荣“百模千态”，让AI重塑千行万业。康宁表示：“华为云已经构建起全面的大模型生态。我们全面支持盘古以及各类开源模型和第三方商业模型，团结各类伙伴和开发者，以澎湃的昇腾AI算力和开放的盘古大模型为基础，让AI重塑千行万业。”目前，华为云全球开发者数量已超过500万，合作伙伴42000多家，云商店应用已达10000多个，超过21000家客户、伙伴申请盘古测试。合作同飞共建繁荣“百模千态”当前，人工智能已从万千碎片化的小模型时代走向“百模千态”的大模型时代。华为云基于昇腾AI云服务算力底座，已原生孵化和适配业界主流大模型，为开发者提供了完善的工具和资源，来支持大模型高效地迁移、保障模型训练的澎湃算力供应和环境的稳定可靠。高效迁移华为云支持华为全场景AI框架MindSpore以及社区流行的AI引擎，如PyTorch、TensorFlow的主力版本，并已完成AI框架90%的算子适配，支撑业界主流大模型及典型SOTA模型的无缝迁移。同时，提供便捷工具链和丰富的开发模板，帮助用户快速迁移模型。澎湃算力为更好地支撑大模型的“百模千态”创新，华为云在贵安、乌兰察布、芜湖打造了3大AI云算力中心。同时，华为云昇腾AI云服务“百模千态”专区已正式上线，企业和开发者可以直接使用业界主流的开源大模型，如LLAMA，GLM等。昇腾AI云服务的超大规模集群分布式并行训练能力，可以支持万亿级参数大模型。在模型推理阶段，华为云通过算子、框架、平台等全链路的垂直协同优化，让模型的推理性能普遍提升2倍以上。稳定可靠华为云构建的故障模式库，支持硬件故障主动上报，故障感知时间小于1分钟；通过在线复位本地调度能力，让模型训练任务恢复时间小于30分钟；升级的集群稳定性提供无感断点续训能力，让稳定训练的时间从2-3天提升至月级。一直以来，华为云致力于构建以开发者为核心的、开放共赢的生态体系。为了让开发者在大模型开发过程中充分发挥创新能力，华为云模型社区基于昇腾AI云服务的创新技术，将提供覆盖千行百业的高质量数据集、SOTA模型库优化版本、AI创作能力支持、丰富的开发套件、学习课程和技术支持等，为开发者提供一站式模型服务。华为云希望广大开发者基于华为的根技术，利用云上的澎湃算力和盘古大模型的强大能力，共同构建起“百模千态”的繁荣生态。此外，面向开发者，华为云学堂的教学练考体系也进行了全面智能升级，包括全新上线了针对大模型、云原生等20多个热门技术领域的优质课程，盘古大模型的技术认证内容；提供了4类学练一体的实验，如体验类、任务类、项目实训类、自主创新类，覆盖上百种实验类别、每月总计超过万次的免费在线实验名额。大模型的创新不仅仅是模型自身的创新以及AI各项根技术的创新，也需要各行业客户、伙伴的积极参与。为了降低开发门槛，加速和简化行业大模型的开发，华为云提供了盘古大模型工程化套件，覆盖了数据工程、模型开发和应用开发三大环节。基于盘古L0层模型，与华为云共同发布面向各行业的联创模型以及解决方案。如今，华为云与150多家伙伴、200多家客户，共同构筑了20多个行业大模型以及400多个AI应用场景，在诸多行业发挥着巨大价值。在媒体行业，华为云联合阳光云视打造的媒体大模型中间件，覆盖媒体行业全场景业务需求，加速AIGC在媒体行业的应用和落地。在法律行业，华为云与重庆法谷一同构筑普惠大众的法律大模型，在法律问答、律师办公等场景效果显著，释放AI在法律行业的价值。在文化行业，华为云与中国公共关系协会文化大数据专业委员会联创文化大模型，应用于国家文化大数据体系的建设。共创、共享、共赢释放AI创新活力华为云在全国拥有160多个赋能云创新中心，为千行万业提供全方位的基础设施、平台和应用服务，连接当地产业的需求和伙伴能力，为区域经济打造健康良性的产业生态。目前，创新中心已持续赋能2万多个客户数智升级，成功打造1000多个标杆案例，帮助客户培养了超20万数字人才。例如，华为云与松山湖管委会共建的“松山湖开发者村”，提供专家服务、服务平台、政策支持，基于行业典型业务场景打造10大首案工程，通过技术赋能行业数字化服务商，将行业经验数字化，从而实现全行业整体数字化智能化升级。华为云也在积极拥抱开源生态，融合优秀开源，为开发者提供10多种场景化的技术栈、百万元的沃土云创开源激励，开放的开发者使能体系和50多个商业化运营的开源镜像，鼓励更多开发者加入华为云开源生态。未来，华为云还持续加大对于开源的投入，也会和更多的合作伙伴携手推动开源事业的快速发展。也将积极参与CSDN开源平台GitHub的开源能力建设，贡献领先的开源技术和项目。华为云生态坚定践行“以客户为中心，以能力为核心，助力伙伴成功”的价值主张，持续完善生态体系和强化伙伴能力建设，今年华为云还推出了合作伙伴共拓计划PCE（Partner Customer Engagement）。越来越多的伙伴认可并加入华为云的伙伴生态体系，与华为云一起积极共建新能力，从技术、能力、战略等多个方面完成转型。德勤中国与华为云携手共建新生态，利用前沿云技术、创新商业模式、优秀人才支撑，帮助企业实现云上卓越能力，已为包括能源资源、制造、政府与公共事业、消费品、金融服务、生命科学与医疗等行业的诸多企业提供“规划-交付-运营” 端到端、定制化服务。上海恒驰作为华为云核心级解决方案提供商，面向GoCloud生态体系，主动转型成为首批通过华为云CTSP认证的服务伙伴，从组织、流程、平台变革，构建业务成功之基，加速能力构建，携手华为云，助力客户构建最佳业务转型架构，加速业务增长。作为华为云生态的核心载体，云商店联接着全球伙伴和用户，打通企业应用供需链路，目标是打造业界最佳的应用分发与B2B一站购平台，加速千行百业数智化跃升。目前，云商店每天产生超过1000笔的安全交易，服务了全球50万+的客户。以联营伙伴新核云为例，在云商店一站式运营和营销资源支持下，销售额提升了528%，客户量增长达到了280%。未来，华为云将积极构建以昇腾AI云服务为基础的坚实算力底座，繁荣智能世界的“百模千态”；积极培育盘古大模型生态，让每一个开发者都能充分释放创造潜能；持续进行新伙伴体系变革，与能力型伙伴共赢市场。华为云公众号

ModelArts 注册镜像功能建议加入自定标签功能，目前只有描述对镜像说明?

标记内容:单卡单卡文档反馈:原意思是“单机单卡”吧 页面链接：https://support.huaweicloud.com/bestpractice-modelarts/modelarts_10_1154.html

9月12日，2023金域医学“域见杯”医检人工智能开发者大赛圆满落下帷幕。经过近三个月的角逐后，“Z lab”团队在728支参赛队伍中脱颖而出，摘得赛题一“智能临床咨询模型”的桂冠；“道”团队在513支参赛队伍中突出重围，在赛题二“智能染色体核型分析结果解读模型”中拔得头筹！2023“域见杯”医检人工智能开发者大赛由金域医学携手华为云举办，是面向全球医学检验人工智能的交流赛事。开发者利用人工智能算法辅助医生找到最优的治疗方案，共同探索生物医药技术与新一代信息技术融合创新的应用场景，重构医检产业价值。不论是对智慧医检领域，还是对金域医学和华为公司来说，“域见杯”不仅是一场比赛，更是一次重大探索。在颁奖典礼上，金域医学集团董事长兼首席执行官梁耀铭表示，“域见杯”不仅激发了开发者对医检人工智能赛道的浓厚兴趣，也正在让凝聚医检生态伙伴成为现实，实现培养交叉复合型人才、构建智慧医检新范式的大赛设置初衷。华为云EI服务产品部部长尤鹏表示，“域见杯”是华为公司和金域医学在AI领域合作的一个关键里程碑。在未来，华为公司将持续构建AI技术能力，结合金域医学丰富的行业知识和实践，切实提升医检行业的智能化水平。那么，对于这些有想法、敢于颠覆的开发者们来说，“域见杯”又是怎样的存在呢？video第一印象：“域见杯”的独特之处对于许多参赛的开发者们来说，能够接触“医检领域”是深深吸引自己来参赛的原因之一。“我感觉我们选择的‘智能染色体核型分析结果解读模型’赛题，对造福人类还是比较有实际意义的。” 吴嘉谞来自赛题二的亚军团队——智能网优，他认为这种医检领域的比赛实用性很强，不仅与自己的身体密切相关，更是与未来的医检发展密不可分。赛题二冠军团队“道”的刘京乔在接受采访时表示，参赛除了可以获得荣誉，有机会接触、学习医检相关的知识也是吸引自己的地方。另外四支进入决赛的团队都表达了同样的感受，开发者们勇于跳出自己熟悉的领域，在一个新的领域里继续学习、不断成长。除此之外，来自赛题一季军团队“我尊重挺身而出的人”的赵国梁认为，这次大赛是结合AI技术的文本生成类比赛，可以借此锻炼自己的工程能力和算法设计。在AIGC和大模型的浪潮下，参加“域见杯”不仅能够亲身体验科技前沿技术，也是一个可以拓宽知识视野、挑战自己技术能力的机会，更是可以为未来职业发展积累宝贵经验。“MedicalLM”团队的屈渝立就被这股浪潮所吸引，因此投身其中。他认为比赛提供了宝贵的实践机会，帮助自己更好地了解和学习这些技术。其实，屈渝立已经连续两届都进入了“域见杯”总决赛。当被问到为什么会连续两年来参加时，他是这么回答的：“‘域见杯’的一个特点就是，参赛所运用的技术是当前AI领域的最新的技术，而且每一届的题目都具有很高的实际应用价值。”屈渝立还表示，每届“域见杯”的参赛体验都非常好，不论是比赛流程、评分环节还是颁奖环节，都非常专业。突破瓶颈，“域见”更好的自己遇到瓶颈、突破瓶颈是成长的必经之路。在本次比赛中，各个参赛队伍遇到的瓶颈各不相同，例如数据量小、缺乏相关经验、回答范式与常见问答范式不同等。但是这难不倒爱思考、勇于突破自我的开发者们。“Z lab”团队首先根据实验对比，选择了一种实验效果最好的backbone，经过对论文的不断深挖研究，选择了最合适的方式通过预训练，一举夺得冠军。 “智能网优”团队则是与大部分其他团队反其道而行，在尝试多种模型后，选择了泛化性更好的small模型。“asdf”和“CVTEDMer”团队选择同时参加了两道赛题的比赛。参赛选手们需要针对不同的赛题进行更有针对性地分析，也需要耗费更多的精力去研究、尝试和学习。但他们不仅突破了在赛题中遇到的瓶颈，更突破了自我能力的瓶颈，在两道赛题中均取得优异成绩。大胆的创新和尝试，以及根据现状冷静、认真地分析，一次次地尝试、一次次地调整、一次次地不断突破自我，最终他们成就了更好的自己。[1] 触类旁通，助力智慧医检创新发展参赛选手的突破不仅局限在熟悉的技术里提升自我，更体现在打破行业间的壁垒，推动医检领域行业创新。吴嘉谞来自通信行业，在学习金域医学的AI应用落地过程中，发现有许多地方都与自己所属的行业有一致性，包括解决方案、落地手段和遇到的困难等等，他表示深受启发，已经迫不及待想将这些经验和方法复用在实际工作中。“Z lab”团队表示，这次参赛最大的感受就是跨界医检可以促进知识的交叉与创新。不同领域的专业人员互相启发，将自己的经验与思路应用到医检行业中，为产生更多创新性的设计方案与技术路径增加可能性。尽管大多数参赛选手的专业背景或职业领域与医检行业本无交集，但他们把自身积累的知识和经验引入智慧医检领域，并以独特的视角重新审视医检行业，从而带来了创新和活力。不仅如此，他们还把在比赛中获得的经验和见解带回了自己的领域。这种知识的交流和跨界合作，不仅促进了医检行业的不断创新，也丰富了其他行业的思维和方法，为整个科技领域带来了更广泛的影响。这正是多元化和跨界合作的力量。本届“域见杯”已圆满落下帷幕，但是智慧医检的发展还需要不断推动和创新。期待在未来，参赛选手们的经验与方法可以在智慧医检领域落地应用，协助医生和患者解决实际问题，提供更好的医学检测服务，真正做到普惠AI。

9月12日，2023金域医学“域见杯”医检人工智能开发者大赛圆满落下帷幕。经过近三个月的角逐后，“Z lab”团队在728支参赛队伍中脱颖而出，摘得赛题一“智能临床咨询模型”的桂冠；“道”团队在513支参赛队伍中突出重围，在赛题二“智能染色体核型分析结果解读模型”中拔得头筹！2023“域见杯”医检人工智能开发者大赛由金域医学携手华为云举办，是面向全球医学检验人工智能的交流赛事。开发者利用人工智能算法辅助医生找到最优的治疗方案，共同探索生物医药技术与新一代信息技术融合创新的应用场景，重构医检产业价值。不论是对智慧医检领域，还是对金域医学和华为公司来说，“域见杯”不仅是一场比赛，更是一次重大探索。在颁奖典礼上，金域医学集团董事长兼首席执行官梁耀铭表示，“域见杯”不仅激发了开发者对医检人工智能赛道的浓厚兴趣，也正在让凝聚医检生态伙伴成为现实，实现培养交叉复合型人才、构建智慧医检新范式的大赛设置初衷。华为云EI服务产品部部长尤鹏表示，“域见杯”是华为公司和金域医学在AI领域合作的一个关键里程碑。在未来，华为公司将持续构建AI技术能力，结合金域医学丰富的行业知识和实践，切实提升医检行业的智能化水平。那么，对于这些有想法、敢于颠覆的开发者们来说，“域见杯”又是怎样的存在呢？video第一印象：“域见杯”的独特之处对于许多参赛的开发者们来说，能够接触“医检领域”是深深吸引自己来参赛的原因之一。“我感觉我们选择的‘智能染色体核型分析结果解读模型’赛题，对造福人类还是比较有实际意义的。” 吴嘉谞来自赛题二的亚军团队——智能网优，他认为这种医检领域的比赛实用性很强，不仅与自己的身体密切相关，更是与未来的医检发展密不可分。赛题二冠军团队“道”的刘京乔在接受采访时表示，参赛除了可以获得荣誉，有机会接触、学习医检相关的知识也是吸引自己的地方。另外四支进入决赛的团队都表达了同样的感受，开发者们勇于跳出自己熟悉的领域，在一个新的领域里继续学习、不断成长。除此之外，来自赛题一季军团队“我尊重挺身而出的人”的赵国梁认为，这次大赛是结合AI技术的文本生成类比赛，可以借此锻炼自己的工程能力和算法设计。在AIGC和大模型的浪潮下，参加“域见杯”不仅能够亲身体验科技前沿技术，也是一个可以拓宽知识视野、挑战自己技术能力的机会，更是可以为未来职业发展积累宝贵经验。“MedicalLM”团队的屈渝立就被这股浪潮所吸引，因此投身其中。他认为比赛提供了宝贵的实践机会，帮助自己更好地了解和学习这些技术。其实，屈渝立已经连续两届都进入了“域见杯”总决赛。当被问到为什么会连续两年来参加时，他是这么回答的：“‘域见杯’的一个特点就是，参赛所运用的技术是当前AI领域的最新的技术，而且每一届的题目都具有很高的实际应用价值。”屈渝立还表示，每届“域见杯”的参赛体验都非常好，不论是比赛流程、评分环节还是颁奖环节，都非常专业。突破瓶颈，“域见”更好的自己遇到瓶颈、突破瓶颈是成长的必经之路。在本次比赛中，各个参赛队伍遇到的瓶颈各不相同，例如数据量小、缺乏相关经验、回答范式与常见问答范式不同等。但是这难不倒爱思考、勇于突破自我的开发者们。“Z lab”团队首先根据实验对比，选择了一种实验效果最好的backbone，经过对论文的不断深挖研究，选择了最合适的方式通过预训练，一举夺得冠军。 “智能网优”团队则是与大部分其他团队反其道而行，在尝试多种模型后，选择了泛化性更好的small模型。“asdf”和“CVTEDMer”团队选择同时参加了两道赛题的比赛。参赛选手们需要针对不同的赛题进行更有针对性地分析，也需要耗费更多的精力去研究、尝试和学习。但他们不仅突破了在赛题中遇到的瓶颈，更突破了自我能力的瓶颈，在两道赛题中均取得优异成绩。大胆的创新和尝试，以及根据现状冷静、认真地分析，一次次地尝试、一次次地调整、一次次地不断突破自我，最终他们成就了更好的自己。[1] 触类旁通，助力智慧医检创新发展参赛选手的突破不仅局限在熟悉的技术里提升自我，更体现在打破行业间的壁垒，推动医检领域行业创新。吴嘉谞来自通信行业，在学习金域医学的AI应用落地过程中，发现有许多地方都与自己所属的行业有一致性，包括解决方案、落地手段和遇到的困难等等，他表示深受启发，已经迫不及待想将这些经验和方法复用在实际工作中。“Z lab”团队表示，这次参赛最大的感受就是跨界医检可以促进知识的交叉与创新。不同领域的专业人员互相启发，将自己的经验与思路应用到医检行业中，为产生更多创新性的设计方案与技术路径增加可能性。尽管大多数参赛选手的专业背景或职业领域与医检行业本无交集，但他们把自身积累的知识和经验引入智慧医检领域，并以独特的视角重新审视医检行业，从而带来了创新和活力。不仅如此，他们还把在比赛中获得的经验和见解带回了自己的领域。这种知识的交流和跨界合作，不仅促进了医检行业的不断创新，也丰富了其他行业的思维和方法，为整个科技领域带来了更广泛的影响。这正是多元化和跨界合作的力量。本届“域见杯”已圆满落下帷幕，但是智慧医检的发展还需要不断推动和创新。期待在未来，参赛选手们的经验与方法可以在智慧医检领域落地应用，协助医生和患者解决实际问题，提供更好的医学检测服务，真正做到普惠AI。

能达到当前主流的32K吗

历时近3个月，海内外超1200支队伍参赛——9月12日，由广州市科学技术局、广州市工业和信息化局指导，广州金域医学检验集团和广东省人工智能产业协会主办，广州人工智能公共算力中心协办，华为云计算技术有限公司提供技术支持的2023“域见杯”医检人工智能开发者大赛圆满落幕。“Z Lab”战队、“道”战队分别夺得两道赛题的桂冠，各斩获10万元奖金。▲总决赛现场在颁奖典礼上，由金域医学承建的临床检验与病理诊断人工智能开放创新平台正式上线。这也是中国医检行业首个人工智能开放创新平台，可满足开发者从数据管理到应用部署的一站式AI研发需求，具备全栈式、全流程、全场景的特点。平台的上线，将为国内智慧医检生态建设提速加码。▲广州市科技局党组成员、副局长孙翔致辞广州市科技局副局长孙翔表示，“域见杯”医检人工智能开发者大赛吸引了众多优秀的团队和个人，进一步激发了医学和信息技术交叉人才的潜力，也为后续人工智能应用研发及其转化落地提供了标杆性的示范作用。临床检验与病理诊断人工智能开放创新平台的上线，可以让优质的开放创新资源辐射全产业链，从而更好地构建生物技术和新一代信息技术融合的医检人工智能生态。▲金域医学集团董事长兼首席执行官梁耀铭致辞“连续两年举办‘域见杯’，我们欣喜地发现越来越多的开发者对医检人工智能赛道产生了浓厚的兴趣，正在逐步实现凝聚医检生态伙伴，培养交叉复合型人才，构建智慧医检新范式的大赛设置初衷。”金域医学集团董事长兼首席执行官梁耀铭表示，金域医学也将借助医检人工智能开放创新平台的上线，构建共创、共享、共赢的智慧医检创新生态，助力广东抢占国内乃至全球智慧医检发展制高点，让更多百姓享受高效、可及、精准的诊疗服务。▲华为云EI服务产品部部长尤鹏致辞华为云EI服务产品部部长尤鹏表示，本次大赛，是华为公司和金域医学在AI领域合作的一个关键里程碑，也是双方携手面向未来的一次重大探索。作为国内AI领域的深度参与者和贡献者，华为推出了自己的盘古大模型，重塑千行百业。面向未来，华为公司将继续做好服务，持续构建AI技术能力，结合金域医学丰富的行业知识和实践，将技术转化为实实在在的服务能力，切实提升医检行业的智能化水平，提升诊疗效率，为广大老百姓提供更好的医学检测服务，真正实现普惠AI。聚焦医检AIGC应用吸引超千支队伍参赛当前，人工智能发展迎来“新风口”。随着AIGC技术热浪不断席卷，国内人工智能大模型发展“百花齐放”，正从通用大模型逐步渗透进千行百业的各个环节。2023“域见杯”医检人工智能开发者大赛的举办，正是为了汇聚更多人才，更好地探索开发医检AIGC技术落地应用。大赛围绕医学自然语言处理主题，设置“智能临床咨询模型”“智能染色体核型分析结果解读模型”双赛题。赛题设置紧跟技术热点、训练数据源自真实医疗场景等特点降低了开发者们打榜的门槛，吸引了高校、个人、科研机构和企业等众多选手参赛。本届大赛参赛规模远超去年首届，累计超1200支队伍参赛。其中，有不少队伍具备一定医疗领域人工智能开发参赛的经验，同时向两道赛题发起挑战。▲华为云人工智能领域首席科学家田奇进行赛事回顾及技术总结“本届比赛涌现了不少亮点。”华为云人工智能领域首席科学家田奇指出，选手们采用多种技术前沿（SOTA）的深度神经网络模型进行打榜；算法开发上，选手在开源算法基础上加入自己对赛题的理解，改进了算法。“由于赛题涉及医疗专业场景，有较多难懂的医疗数据，部分选手提出新的方法，有效提升模型在长难案例上的整体表现，让我们看到开发者在生物技术和新一代信息技术交叉领域，可以释放更多潜能。”▲“Z Lab”战队斩获“智能临床咨询模型”赛题一等奖▲ “道”战队斩获“智能染色体核型分析结果解读模型”赛题一等奖决赛当天，两个赛题各前6名的队伍齐聚广州作最后的角逐，“Z Lab”战队、“道”战队分别夺得桂冠，各斩获10万元奖金。医检人工智能发展面临数据、算法、算力三大挑战随着人工智能大模型渗透进千行百业，对开发者而言，产业实践已成为衡量模型价值的重要标准。大赛为想要在医疗人工智能领域有所发展的开发者们提供了舞台，吸引了上千名开发者竞相角逐，但这远远不够。医检人工智能的发展，面临数据、算法、算力三大挑战。人工智能开发需要大量高质量数据，而国内大部分医疗数据存储于各级医疗机构，业务系统相对独立，数据较难实现共享，存在明显的“数据孤岛”现象，可供训练的真实场景数据集有限。即便得到了大量的医疗数据，如何对离散的海量医学专业数据进行处理、统计和分析，通过模型进行有效的整合，是另一个挑战。特别是，医疗行业的严谨性对模型的精确度要求更高，从而对算法和算力提出了更高的要求。最后，开发出来的医学人工智能成果存在规模化落地的困境，数据与算法模型的产、供、销缺乏产业链资源支撑，都成为制约医检人工智能进一步发展与落地的重要因素。医检人工智能行业急需一个专有的平台，满足个人及企业开发者对训练、开发、应用和分享的需求。▲临床检验与病理诊断人工智能开放创新平台正式上线为解决以上痛点，作为医检人工智能领域的先行者，金域医学利用所拥有超10PB 数据量的全球领先的东方人种大样本、大数据库,积极开展数字化转型工作，取得了成效。2020年，广东省科技厅发布第三批“广东省新一代人工智能开放创新平台”名单，金域医学正式承建“临床检验与病理诊断广东省新一代人工智能开放创新平台”。医检人工智能开发者有了自己的专属平台9月12日，由金域医学承建的临床检验与病理诊断人工智能开放创新平台正式上线，医检人工智能开发者将有自己的专属平台。通过算力、算法、数据、模型共享，平台可向创业公司、医疗科研机构、个人开发者、行业专家等用户提供服务，满足了开发者从数据训练到人工智能应用部署的全流程开发需求，包含数据处理、开发训练、模型管理、在线部署等。开发者可以在平台上使用公开数据集进行模型训练；也可获得普惠价格的算力，支撑数据处理、各类模型的开发。此外，平台一站式模型训练服务，为用户提供主流算法框架和开发框架、丰富的算力资源及合规可用的训练数据，最大限度地降低研发成本，吸纳产业创新资源集聚。目前，该平台已上线多项经过医检医学专家处理过的疾病诊断数据集，实现样本资源、高质量医检数据与病例标注数据的安全共享，降低开发门槛。通过稳定可靠、可持续创新的云服务构建，平台可以保护用户数据安全，同时提供联邦学习能力，满足多方开发者在数据不出域的情况下完成通用模型的训练。

前言大家好，我是“流明”团队的队长，非常荣幸参加域见杯赛题二“智能临床咨询模型”，获得了B榜第四名，这里做一个简单的分享，一起交流学习。分享数据分析主要讲了一些预模型的重要性，脱敏数据对模型本身不太友好，如果想要达到理想的效果需要重新预训练，其次就是简单提到了数据的长度分布和一些数据的特点。模型选择根据线上的分数最终选择T5作为单模型，简单讲了模型的基本结构。训练策略上用到了数据增强，余弦退火，标签平滑，对比训练，对抗训练, ema这些技巧都是可以提升分数的一个技巧，至少在我们团队做的t5-base实验是有用的最终t5-base单模型在初赛上第三，复赛第4这个一个分数，整个方案相对来说比较简单，不足写的也是比较多的。感想首先就是感谢广州市科学技术局、金域医学以及华为云提供的这次竞赛机会，其次就是认识了一些小伙伴，最后对于我个人来说最近比较疲于奔命，很多事情做不到尽善尽美，越来越希望在有限的时间里做一些简单尽所能及的事情。

问题现象已购买专属资源池，但创建Notebook时该资源池不可选择，无法创建Notebook。提示当前专属资源池未初始化开发环境，请到专属资源池页面初始化开发环境。原因分析新购买的专属资源池，需要初始化环境才能用于创建Notebook。解决方法请到专属资源池页面初始化开发环境。进入“专属资源池”页面，单击“操作”列的“更多 > 设置作业类型”。在“设置作业类型”页面，勾选“开发环境”，单击“确定”。此时“开发环境”的状态为“环境初始化中”，等到状态为“已启用”，即可使用新购买的专属资源池。图1 设置“作业类型”为“开发环境”图2 开发环境初始化

除DNN之外，经常用于计算机视觉的CNN也可以用来构建语音声学模型。当然，CNN也经常与其他模型结合使用。CNN用于声学模型方面主要包括TDNN、CNN-DNN框架、DFCNN、CNN-LSTM-DNN(CLDNN）框架、CNN-DNN-LSTM(CDL)框架、逐层语境扩展和注意CNN框架(LACE)等。这些基于CNN的混合模型框架都在声学模型上取得了很多成果，比如其中两个，一个是时延神经网络(TDNN)，是最早基于CNN的语音识别方法，TDNN会沿频率轴和时间轴同时进行卷积，因此能够利用可变长度的语境信息。TDNN用于语音识别分为两种情况：第一种情况是只有TDNN，很难用于大词汇量连续性语音识别(LVCSR)，原因在于可变长度的表述与可变长度的语境信息是两回事，在LVCSR中需要处理可变长度表述问题，而TDNN只能处理可变长度语境信息；第二种情况TDNN-HMM混合模型，由于HMM能够处理可变长度表述问题，因此该模型能够有效地处理LVCSR问题。一个是全序列卷积神经网络(DFCNN)，是由国内语音识别领域领头羊KDXF于2016年提出的一种语音识别框架。DFCNN先对时域的语音信号进行傅里叶变换得到语音的语谱图，DFCNN直接将一句语音转化成一张图像作为输入，输出单元则直接与最终的识别结果（如音节或汉字）相对应。在DFCNN的结构中把时间和频率作为图像的两个维度，通过较多的卷积层和池化层的组合，实现对整句语音的建模。DFCNN的原理是把语谱图看作带有特定模式的图像，而有经验的语音学专家能够从中看出里面说的内容。感觉就是很神奇，语音识别竟然可以用转换的图像来作为输入....最后用于声学建模的神经网络就是RNN，其中更多是LSTM。音频信号具有明显的协同发音现象，因此必须考虑长时相关性。由于RNN具有更强的长时建模能力，使得RNN也逐渐替代DNN和CNN,成为语音识别主流的建模方案。例如，常见的基于seq2seq的编码-解码框架就是一种基于RNN的模型。长期的研究和实践证明：基于深度学练的声学模型要比传统的基于浅层模型的声学模型更适合语音处理任务。语音识别的应用环境常常比较复杂，选择能够应对各种情况的模型建模是工业界及学术界常用的建模方式。但单一模型都有局限性，HMM能够处理可变长度表述问题，CNN能够处理可变声道，RNN/CNN能够处理可变长度语境信息。在声学模型建模中，由于混合模型能够结合各个模型的优势，因此它是目前乃至今后一段时间内声学建模的主流方式。

被人工智能专业录取，对于马上要入学的本科生来说，各位大佬有什么学习的建议？如果将来想要从事人工智能方向的工作，需要提前做哪些准备？