原文链接：https://blog.csdn.net/csdnnews/article/details/122957639作者 | 杨海钦出品 | CSDN（ID：CSDNnews）自1956年的达特茅斯会议开启“人工智能元年”，该领域经过了两起两落。到2006年前后，虽然Hinton等人已发表论文证明，通过增加神经网络的层数，可以学到更好的数据表征，并进一步提升模型的性能，但是大家认为这还是新瓶换旧酒，还在迟疑中。直到深度学习概念的推广，在语言识别等领域获得成功。特别是2012年AlexNet在ImageNet的比赛中取得重大突破，性能提升10多个百分点。深度神经网络的实际效果进一步得到肯定，并掀起了人工智能的第三波热潮。CV“四小龙”亦在此时间段前后成立，开启感知智能的创业浪潮。ResNet和AlphaGo等成果的推出，进一步完善神经网络的训练并拓展了其应用范围，从而将这波浪潮推到新高度。2018年秋季谷歌推出BERT，横扫了11项自然语言处理(NLP)任务，随后OpenAI亦相继推出GPT-2、GPT-3，让大家看到认知智能落地的潜在性。时光如梭，2021年悄然过去。蓦然回首，2021年的AI大事件有哪些呢？新的一年，AI又将呈现怎样的发展趋势？我们将按下述几个主题展开：大模型不断推出，提高行业准入壁垒；构建基石模型, 拓展应用边界；考虑公平和伦理，保证落地的安全和责任。大模型不断推出，提高行业准入壁垒从业界的角度看，2021年的一个关键词是“大模型”。如图1所示，当GPT-3的模型规模达到1750亿参数后，国外大厂又提出了各样的模型，进一步提高了模型的大小。具有代表性的成果有：Switch Transformer：谷歌于2021 年1月11日提出，声称参数量从GPT-3的1750亿提高到1.6万亿。Switch Transformer基于稀疏激活的专家模型(Mixture of Experts), 论文中提到在计算资源相同的情况下，训练速度可以达到 T5 (Text-To-Text Transfer Transformer)模型的4-7倍[1]。MT-NLG：2021 年年底，英伟达与微软联合发布了MT-NLG (Megatron-Turing Natural Language Generation)，该模型含参数5300亿个，宣称是目前最大的且最强的语言生成预训练模型[2]。图1. NLP预训练模型参数随着时间发展的趋势(图片源自[2])国内在今年亦推出了万亿级的预训练模型和开源计划。例如:悟道 2.0：2021 年6月，北京智源研究院发布悟道 2.0，参数规模达到1.75万亿，是GPT-3的10倍，超过了谷歌Switch Transformer的1.6万亿参数记录[3]。“封神榜”大模型：2021 年 11 月，在深圳IDEA大会上，粤港澳大湾区数字经济研究院（简称“IDEA”）理事长沈向洋正式宣布，开启“封神榜”大模型开源计划，涵盖五个系列的亿级自然语言预训练大模型，其中包括了最大的开源中文BERT大模型“二郎神”系列[3]。目前，预训练大模型已成为各家打造人工智能基础设施的利器，从而提高行业的准入壁垒。实现大模型，需要超大规模的算力和海量的数据。这对普通公司或者一般实验室会造成一定的困难。然而就技术而言，目前的大模型离我们期望的通用人工智能还有很大的差距。如何让电脑有更多的创意，知识不断地积累，还需要进行大量的技术探索和创新。在落地的时候还需要更多地跟场景结合，甚至需要场景创新，才能更好地服务相关行业。构建基石模型，拓展应用边界大模型的不断推出，基本上基于深度神经网络和自学习的方式进行，各个模型趋于“同质化”(Homogenization)。因此，斯坦福大学的Percy Liang于2021年3月份召集了100多位研究学者，发起了基石模型(Foundation Models)的讨论，并于8月发表了一篇200多页的关于基石模型的综述报告[5]。图2 基石模型经文本、图像、语音等多模态数据训练，微调后服务下游应用(图片源自[5])该报告定义了基石模型，试图囊括目前大模型的能力、应用、相关技术和社会影响。主要从语言、视觉、机器人、推理、交互、理解等讨论基石模型的能力，在应用方面主要探讨医疗、法律和教育这三个对社会很重要的学科。与此同时，在构建基石模型方面，亦出现了几个有影响力的工作，拓展了应用的边界。例如：Copilot：6月，微软收购的GitHub联合OpenAI推出首个AI代码生成器[6]。该工具基于GPT-3，即Transformer的架构，通过训练从GitHub上爬取数十亿行开源代码和相关英文注释，实现代码的自动生成，试图进一步辅助程序员的代码开发。FLAVA: 到年底, Facebook (现称Meta)亦基于Transformer[8]推出FLAVA (A Foundational Language And Vision Alignment Model)，试图用一个统一的模型适用于自然语言处理、计算机视觉、多模态的不同任务，论文显示在此三种领域共计35个任务，都有着出色的表现[8]。该模型利用Vision Transformer (ViT) [9]的方式对图像进行编码，BERT[10]的方式对文本进行编码，并设计相应的多模态编码方式和相应的损失函数，对模型进行训练，并获得很好的性能。在学术界，对比学习、多模态多任务联合学习，已经广泛使用于基石模型的训练中。但是模型的解释性和拓展性还有很多的探索空间。考虑公平和伦理，保证落地的安全和责任尽管目前AI技术在刷脸支付、自动驾驶、智能语音、智能安防等应用的商业化探索和落地，已开始改变我们的生活模式，并带来巨大的便利，AI技术仍要面对更多、更复杂的场景。2021 年是AI技术迫切需要落地的一年。在落地的过程中，我们经常需要面对如下问题：落地场景是否有好的数据？AI技术如何更好地降本增效、规模化和商业化？如何保证AI技术者掌握相关业务知识，并理解业务需求？而从AI技术层面看，AI落地的三要素是: 算力、算法和数据。这就涉及到公平性和伦理的问题。特别是，最近几年数据的隐私安全、AI算法的责任，都成为社会的关注热点。在今年我国亦出台相关法律从不同层面保障用户的隐私和利益，包括数据层面：6月《数据安全法》通过，11月《个人信息保护法》开始生效，包括2016年通过的《网络安全法》从不同的角度规范数据的使用和保护用户个人信息。算法层面：1月颁布了《互联网信息服务算法推荐管理规定》和9月亦印发《关于加强信息服务算法综合治理的指导意见》的通知，进一步加强了互联网信息服务算法安全治理。伦理规范：6月28日世卫组织亦发布“卫生领域人工智能的伦理和治理”的报告，提出人工智能为所有国家的公众利益服务的六项原则。9月25日，我国亦发布《新一代人工智能伦理规范》，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。11月25日联合国教科文组织亦举行新闻发布会，介绍该组织正式通过的首份人工智能伦理问题全球性协议。AI技术在落地的过程，要兼具安全和确定相关的责任方，同时还要顾及公平和伦理。随着众多新的法案的出台，后续的落地会受到更多的监管和共同治理，走向“科技向善、AI向善”的道路。小结与展望目前人工智能技术距离理想的通用人工智能的路还很长，2021年有更多的大厂试图构建相应的基石模型，并把AI技术拓展到更大的应用范围。在技术层面，还需要大量的探索，例如，是否有更好的架构替代基于深度神经网络的架构？是否有更快的方式提升计算性能？大模型如何在实际场景很好地落地？相关的技术，如Neurosymbolic AI、量子计算都很值得研究。在应用层面，AI跟科学发现、AI制药、AI跟大数据应用结合等等，都有很多的机会。如何将算法与场景结合、技术与产业融合，是未来实现AI落地应用必须思考的问题。国内已有一些机构或团队正在探索研产结合的可能路径，例如IDEA的CTO Labs合作计划，聚集科研人才和产业科技团队，共同挖掘产业痛点，更有效推进核心技术研发和落地。最近亦与数说故事合作，在数说的产品中提供关键技术模块。参考文献：[1] William Fedus, Barret Zoph, Noam Shazeer: Switch Transformers: Scaling to Trillion Parameter Models with Simple and Efficient Sparsity. CoRR abs/2101.03961 (2021).[2] Paresh Kharya and Ali Alvi. Using DeepSpeed and Megatron to Train Megatron-Turing NLG 530B, the World’s Largest and Most Powerful Generative Language Model.[3] 全球最大智能模型“悟道2.0”重磅发布. https://hub.baai.ac.cn/view/8375.[4] 2021 IDEA大会重磅宣布，“封神榜”大模型开源计划开启——“封神榜”大模型系列宣告开源，有多“神”？https://idea.edu.cn/news/20211124222723.html.[5] Rishi Bommasani, Drew A. Hudson, Ehsan Adeli, et al.: On the Opportunities and Risks of Foundation Models. CoRR abs/2108.07258 (2021).[6] Gershgorn, Dave. GitHub and OpenAI launch a new AI tool that generates its own code. The Verge. 29 June 2021 [6 July 2021].[7] Amanpreet Singh, Ronghang Hu, Vedanuj Goswami, Guillaume Couairon, Wojciech Galuba, Marcus Rohrbach, Douwe Kiela: FLAVA: A Foundational Language And Vision Alignment Model. CoRR abs/2112.04482 (2021).[8] Alexey Dosovitskiy, Lucas Beyer, Alexander Kolesnikov, Dirk Weissenborn, Xiaohua Zhai, Thomas Unterthiner, Mostafa Dehghani, Matthias Minderer, Georg Heigold, Sylvain Gelly, Jakob Uszkoreit, Neil Houlsby: An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale. ICLR 2021.[9] IDEA合作企业数说故事产品上新 携手推动商业应用智能化.https://zhuanlan.zhihu.com/p/458813386. 2022-01-18.

【功能模块】【ModelArts】【训练作业】报错[detect]ascend-check error【操作步骤&问题现象】基于ModelArts和本地WSL2-GPU复现lenet5模型训练丨【华为云AI贺新年】-云社区-华为云 (huaweicloud.com)按照上面博客创建OBS，创建训练作业然后开始训练，一直失败，显示如下截图的报错信息在代码中已设置context.set_context(mode=context.GRAPH_MODE, device_target='Ascend') # Ascend, CPU, GPU创建训练作业时选择了ascend，不知道哪里错了。【截图信息】[2022-02-12T16:30:57+08:00][ModelArts Service Log][task]Detect Npu[2022-02-12T16:30:57+08:00][ModelArts Service Log][ERROR][detect] ascend-check error, exiting...[2022-02-12T16:30:57+08:00][ModelArts Service Log][ERROR][detect] code: 31, message: ---------【日志信息】（可选，上传日志内容或者附件）[2022-02-12T16:30:50+08:00][ModelArts Service Log][init] toolkit_obs_upload_job_pid = 55 [2022-02-12T16:30:50+08:00][ModelArts Service Log][init] toolkit_obs_upload_pid = 56 [2022-02-12T16:30:50+08:00][ModelArts Service Log][init] running at 2022-02-12-16:30:50 [2022-02-12T16:30:50+08:00][ModelArts Service Log][init] ip of the pod: 172.16.0.156 [2022-02-12T16:30:51+08:00][ModelArts Service Log][task]Detect item: disk-size shm [2022-02-12T16:30:51+08:00][ModelArts Service Log][INFO][detect] code: 0, message: ok, item: disk-size shm [2022-02-12T16:30:51+08:00][ModelArts Service Log][task]Detect item: dns [2022-02-12T16:30:51+08:00][ModelArts Service Log][INFO][detect] code: 0, message: ok, item: dns [2022-02-12T16:30:51+08:00][ModelArts Service Log][task]Detect item: disk-size root [2022-02-12T16:30:51+08:00][ModelArts Service Log][INFO][detect] code: 0, message: ok, item: disk-size root [2022-02-12T16:30:51+08:00][ModelArts Service Log][task]Detect item: disk-size cache [2022-02-12T16:30:51+08:00][ModelArts Service Log][INFO][detect] code: 0, message: ok, item: disk-size cache [2022-02-12T16:30:51+08:00][ModelArts Service Log][init] autosearch_path is empty, skip the autosearch download [2022-02-12T16:30:51+08:00][ModelArts Service Log][init] start to download the code [2022-02-12T16:30:51+08:00][ModelArts Service Log][init] code_url: s3://lenet555/lenet5/ [2022-02-12T16:30:51+08:00][ModelArts Service Log][init] modelarts_downloader_job_pid = 258 [ModelArts Service Log]2022-02-12 16:30:52,346 - modelarts-downloader.py[line:264] - INFO: Main: modelarts-downloader starting with Namespace(dst='./', recursive=True, skip_creating_dir=False, src='s3://lenet555/lenet5/', trace=False, type='common', verbose=False) [ModelArts Service Log]2022-02-12 16:30:52,493 - consumer.py[line:107] - INFO: MoXing Local Track Mode. [2022-02-12T16:30:53+08:00][ModelArts Service Log][init] code is now in /home/ma-user/modelarts/user-job-dir [ModelArts Service Log][init]engine type is: ascend-powered-engine [ModelArts Service Log][init]python version: 3 [2022-02-12T16:30:53+08:00][ModelArts Service Log][init] inputs_handler_job_pid = 346 [ModelArts Service Log][INFO][2022/02/12 16:30:53]: caching the content of [data_url] inputs [ModelArts Service Log]2022-02-12 16:30:54,001 - modelarts-downloader.py[line:264] - INFO: Main: modelarts-downloader starting with Namespace(dst='./', recursive=True, skip_creating_dir=True, src='s3://lenet555/lenet5/lenet5/MNIST/', trace=False, type='common', verbose=False) [ModelArts Service Log]2022-02-12 16:30:54,080 - consumer.py[line:107] - INFO: MoXing Local Track Mode. [ModelArts Service Log][INFO][2022/02/12 16:30:54]: cache the content of [data_url] inputs successfully [ModelArts Service Log][INFO][2022/02/12 16:30:54]: it can be accessed at local dir [/home/ma-user/modelarts/inputs/data_url_0] [ModelArts Service Log][INFO][2022/02/12 16:30:55,167]: mkdir for local output dir [ModelArts Service Log][INFO][2022/02/12 16:30:55,167]: output-handler finalized [2022-02-12T16:30:55+08:00][ModelArts Service Log][init] exiting at 2022-02-12-16:30:55 [2022-02-12T16:30:55+08:00][ModelArts Service Log][init] upload_metrics_pid = 569 [2022-02-12T16:30:55+08:00][ModelArts Service Log][init] stop toolkit_obs_upload_pid = 56 by signal SIGTERM [2022-02-12T16:30:55+08:00][ModelArts Service Log][sidecar] toolkit_obs_upload 56 ret_code is 0 [2022-02-12T16:30:55+08:00][ModelArts Service Log][init] exit with 0 [2022-02-12T16:30:57+08:00][ModelArts Service Log][task]Detect Npu [2022-02-12T16:30:57+08:00][ModelArts Service Log][ERROR][detect] ascend-check error, exiting... [2022-02-12T16:30:57+08:00][ModelArts Service Log][ERROR][detect] code: 31, message: ---------driver_health_state: 0, device_health_state: 1, net_health_state: 0 --------, item: ascend-check [2022-02-12T16:30:57+08:00][ModelArts Service Log]exit with 31 [2022-02-12T16:30:58+08:00][ModelArts Service Log][sidecar] running at 2022-02-12-16:30:58 [2022-02-12T16:30:58+08:00][ModelArts Service Log][sidecar] toolkit_obs_upload_by_channels_job_pid = 38 [2022-02-12T16:30:58+08:00][ModelArts Service Log][sidecar] toolkit_obs_upload_by_channels_pid = 39 [2022-02-12T16:30:58+08:00][ModelArts Service Log][sidecar] waiting for training complete [2022-02-12T16:30:58+08:00][ModelArts Service Log][sidecar] training is completed [2022-02-12T16:30:58+08:00][ModelArts Service Log][sidecar] stop toolkit_obs_upload_by_channels_pid = 39 by signal SIGTERM time="2022-02-12T16:30:58+08:00" level=info msg="local dir = /home/ma-user/modelarts/outputs/train_url_0/" file="upload.go:191" Command=obs/upload_by_channels Component=ma-training-toolkit Platform=ModelArts-Service Task=train_url time="2022-02-12T16:30:58+08:00" level=info msg="obs dir = s3://lenet555/lenet5/lenet5/output/" file="upload.go:194" Command=obs/upload_by_channels Component=ma-training-toolkit Platform=ModelArts-Service Task=train_url time="2022-02-12T16:30:58+08:00" level=info msg="start the periodic upload task, upload Period = 30 seconds " file="upload.go:204" Command=obs/upload_by_channels Component=ma-training-toolkit Platform=ModelArts-Service Task=train_url time="2022-02-12T16:30:58+08:00" level=info msg="the periodic upload task exiting..." file="upload.go:214" Command=obs/upload_by_channels Component=ma-training-toolkit Platform=ModelArts-Service Task=train_url time="2022-02-12T16:30:58+08:00" level=info msg="local dir = /home/ma-user/modelarts/log/" file="upload.go:191" Command=obs/upload_by_channels Component=ma-training-toolkit Platform=ModelArts-Service Task=srt_log_collection time="2022-02-12T16:30:58+08:00" level=info msg="obs dir = s3://modelarts-training-log-cn-north-4/2c83617e-3ed7-4e8d-82a0-d6fd4b044eef/worker-0" file="upload.go:194" Command=obs/upload_by_channels Component=ma-training-toolkit Platform=ModelArts-Service Task=srt_log_collection time="2022-02-12T16:30:58+08:00" level=info msg="enable append upload mode" file="upload.go:197" Command=obs/upload_by_channels Component=ma-training-toolkit Platform=ModelArts-Service Task=srt_log_collection time="2022-02-12T16:30:58+08:00" level=info msg="start the periodic upload task, upload Period = 5 seconds " file="upload.go:204" Command=obs/upload_by_channels Component=ma-training-toolkit Platform=ModelArts-Service Task=srt_log_collection time="2022-02-12T16:30:58+08:00" level=info msg="the periodic upload task exiting..." file="upload.go:214" Command=obs/upload_by_channels Component=ma-training-toolkit Platform=ModelArts-Service Task=srt_log_collection

YOLOX的Anchor Free（Anchor Based针对数据集聚类分析得到Anchor Box的方式，怕对泛化会有影响，尤其前期缺乏现场数据时）以及更有效的Label Assignment（SimOTA），使我下决心将目前所用的FCOS+ATSS模型换成YOLOX模型。这次改动将YOLOX添加到了Yolov5上，在Yolov5的框架下，训练150个epoch的yolox-s模型的mAP也达到了39.7（且未使用mixup数据增强和random resize）。一、实验环境：实验机器：1台PC：CPU: AMD Ryzen 7 1700X Eight-Core Processor, 内存: 32G, 显卡: 2张GeForce GTX 1080 Ti 11G1台PC：CPU: AMD Ryzen 5 2600 Six-Core Processor, 内存: 32G, 显卡: 2张GeForce GTX 1080 Ti 11G目标部署硬件：A311D开发板（带8位整型5TOPS算力的NPU）软件版本：Python版本为3.7.7，Pytorch版本为1.7.1，Cuda版本为10.1官方YoloX版本：https://github.com/Megvii-BaseDetection/YOLOX.gitCommits:29df1fb9bc456fcd5c35653312d7c22c9f66b9f8 (Aug 2, 2021)官方Yolov5版本：- https://github.com/ultralytics/yolov5.gitCommits: f409d8e54f9391ce21436d33334beff3a2fd4042 (Aug 4, 2021)二、选择适合NPU的架构试验：1、速度实验：注：a、模型在NPU上的速度实验，并不需要把模型完整地训练一遍，那样太耗时，只需要将模型导出（初始化后导出或者少量图片train一个epoch），再量化转换为NPU的模型即可。b、另一方面，NPU对有些层不支持、层与层之间的搭配、或层的实现完整性差异（参见：【原创】A311D模型转换问题），会导致模型转换成NPU模型时失败，这样花大力气训练出来模型用不上，白白浪费时间，尤其对于小公司，训练机器资源有限，训练一个模型一两天时间就过去了，因为模型转换失败或者模型性能不达标，又要重来一遍，会推迟项目进度。c、对于面向产品快速部署落地而言，在开始训练模型之前，需要先确保模型能成功转换成目标硬件上，以及能在目标硬件上达到所需的性能要求。1）、YOLOX_S模型在NPU上640x640分辨率下纯推理速度（不包括前处理和后处理）每帧需要62.3ms；2）、原来部署在NPU上的FCOS ATSS模型在同等分辨率下NPU纯推理速度每帧只需要45.58ms；我们的FCOS对解耦头做过简化设计，但为了融合多数据集以及自有数据集训练（如，coco，wider face等），进行多种不同任务检测（如，人体检测，人脸检测等），采用更多的解耦头分支来规避数据集之间相互缺少的类别标签问题。最终更换成YOLOX_S模型，也是需要实现同时检测多个任务的功能，如果原始的YOLOX_S模型在NPU上就比FCOS在速度上差这么多，较难应用；3）、将YOLOX_S模型的SiLU激活函数替换成ReLU激活函数在同等分辨率下NPU纯推理速度每帧只需要42.61ms；我们所用的NPU可以将Conv+ReLU融合成一个层（注意多看NPU手册，了解哪些层的组合以及什么样的层的参数配置对性能优化更友好），而SiLU激活函数是不会做融合的，这意味着更多的运算量以及内存访问（在32位DDR4甚至DDR3的内存的NPU开发板上，内存访问对性能的影响是不容忽视的），因此，只是更换了一下激活函数推理速度便提升为原来的1.46倍了；我很想知道SiLU比ReLU到底能提升多少的AP值（但没找到，唯一能找到的是对ImageNet数据集的分类模型来说的），如果AP提升不多，1.46倍的性能差别，觉得不值，从其他地方补回来可能更划算；4）、将YOLOX_S模型的SiLU激活函数替换成LeakyReLU激活函数在同等分辨率下NPU纯推理速度每帧需要54.36ms；Conv+LeakyReLU不会融合成一个层，LeakyReLU也多一点运算，性能相比ReLU也慢不少；5）、YOLOX_S模型使用ReLU+SiLU激活函数，即大部分使用ReLU激活函数小部分使用SiLU激活函数（所有stride为2的Conv、SPP、所有C3中的最后一个Conv都使用SiLU）在同等分辨率下NPU纯推理速度每帧需要44.22ms；SiLU激活函数可以增加非线性，ReLU激活函数的非线性感觉还是比较有限：转发自https://www.yuque.com/yerunyuan/ar9831/tsm0id#Kfi4w 

深度学习加速器旨在高效地执行深度学习，通常针对推理阶段，并且通常通过利用传统电子设备之外的物理基板。迄今为止的方法一直无法应用反向传播算法来原位训练非常规的新型硬件。反向传播的优势使其成为事实上的大规模神经网络训练方法，因此这一缺陷构成了主要障碍。康奈尔大学的研究人员介绍了一种混合原位-计算机算法，称为物理感知训练，它应用反向传播来训练可控的物理系统。该研究以「Deep physical neural networks trained with backpropagation」为题，于 2022 年 1 月 26 日发布在《Nature》。 深度学习模型已成为科学和工程领域的普遍工具。然而，它们的能源需求现在越来越限制它们的可扩展性。深度学习加速器旨在高效地执行深度学习，通常针对推理阶段，并且通常通过利用传统电子设备之外的物理基板。迄今为止的方法一直无法应用反向传播算法来原位训练非常规的新型硬件。反向传播的优势使其成为事实上的大规模神经网络训练方法，因此这一缺陷构成了主要障碍。 在这里，康奈尔大学的研究人员介绍了一种混合原位-计算机算法，称为物理感知训练，它应用反向传播来训练可控的物理系统。 正如深度学习通过由数学函数层构成的深度神经网络，来实现计算那样，该方法允许研究人员训练由可控物理系统层构成的深度物理神经网络，即使物理层与传统人工神经网络层缺乏任何数学同构。 为了证明该方法的普遍性，研究人员训练了基于光学、力学和电子学的各种物理神经网络，以实验性地执行音频和图像分类任务。物理感知训练将反向传播的可扩展性与原位算法可实现的缺陷和噪声的自动缓解相结合。 物理神经网络具有比传统电子处理器更快、更节能地执行机器学习的潜力，更广泛地说，可以赋予物理系统自动设计的物理功能，例如机器人材料和智能传感器。 该研究以「Deep physical neural networks trained with backpropagation」为题，于 2022 年 1 月 26 日发布在《Nature》。https://www.nature.com/articles/s41586-021-04223-6图示：PNN 简介。（来源：论文）

论文题目：Temporal Alignment Prediction for Supervised Representation Learning and Few-Shot Sequence Classification作者：苏冰，文继荣；通讯作者：文继荣论文概述：序列距离通过时间对齐处理具有不同长度和局部方差的序列。大多数序列对齐方法通过在预定义的可行对齐约束下解决优化问题来推断最优对齐，这不仅耗时，而且使端到端序列学习变得难以处理。在本文中，我们提出了一种可学习的序列距离，称为时序对齐预测 (TAP)。TAP 采用轻量级卷积神经网络直接预测两个序列之间的最优对齐方式，因此只需要前向计算，推理过程中不涉及优化。TAP 可以应用于不同的基于距离的机器学习任务。对于有监督的序列表示学习，我们展示了用各种度量学习损失训练的 TAP 以更快的推理速度实现了具有竞争力的性能。对于小样本动作分类，我们将 TAP 作为基于度量学习的episode训练范式中的距离度量。这种简单的策略取得了与最先进的小样本动作识别方法接近的结果。https://openreview.net/forum?id=p3DKPQ7uaAi

基于数据分布生成的可预测概念漂移适应DDG-DA: Data Distribution Generation for Predictable Concept Drift Adaptation论文摘要：在时序数据中，由于环境的不稳定性，数据分布常常会随时间变化且不可预测。这种现象被称为概念漂移，它导致在历史数据上训练的模型在概念漂移后性能下降。为了应对这一问题，前人的工作会检测概念漂移是否发生，然后调整模型以适应最近的数据分布。在很多实际场景中，环境的变化是有规律可预测的，因此可以对概念漂移的未来趋势建模，而不仅让模型适应最近的数据分布。我们提出了一种新方法来预测数据分布未来的变化，然后利用预测的数据分布生成新的训练数据来学习模型以适应概念漂移，最终提升模型性能。我们在股价、电力负荷和日照辐照度三个真实场景预测任务和多个模型上进行了实验验证并得到了显著提升。代码已开源： https://github.com/microsoft/qlib/tree/main/examples/benchmarks_dynamic/DDG-DA论文开创性突破与核心贡献：我们是第一个通过建模数据分布变化来应对可预测概念漂移的方法，并在同类方法中取得了最佳性能。

1. AI-on-5G2022 年，工业 AI 和 AI-on-5G 物联网应用将会成为主流。想象一下，当我们以元宇宙为目标的时候，我们对物理空间的升级方式同样令人印象深刻。AI-on-5G 组合计算基础设施为传感器、计算平台和人工智能应用的整合提供了一种高性能、安全的链接结构，无论是在现场、场所还是云端中。具体包括：汽车系统；智能空间；工业 4.0，如新的自动化和机器人系统。AI-on-5G 通常与无线环境中的超低延迟、保证服务质量以及提高安全性有关。人工智能和工业物联网解决方案的融合，以及边缘人工智能的发展，使得这一切成为可能，并更容易实现。2. 生成式人工智能生成式人工智能，或评估现有数据（如文本、音频或视觉文件）的算法，主要识别该数据的基本模式，然后复制该模式以生成类似的内容。这种算法正在逐步改进。随着模型的输入数据的变化和业务结果的变化，模型本身也需要调整。缺乏维护会导致人工智能算法最终丧失价值。具体来说，生成式人工智能包括多种技术： 生成对抗网络。生成对抗网络是两个神经网络：一个生成器和一个判别器，它们相互竞争，以找到两个网络之间的平衡。生成器网络负责生成与源数据相似的新数据或内容。判别器网络负责区分源数据和生成的数据，以便识别哪些数据更接近原始数据。Transformer。像 GPT-3、LaMDA 和 Wu-Dao 这样的 Transformer 模拟了认知注意力，并对输入数据部分的重要性进行差异测量。它们被训练来理解语言或图像，学习一些分类任务，并从大量数据集中生成文本或图像。变分自编码器。编码器将输入编码为压缩码，而解码器则从该码中重现初始信息。如果选择和训练正确，这种压缩表示将输入数据分布存储在一个更小的维度表示中。3. 增强的人类和人工智能混合劳动力的到来 虽然工作流管理是工作中的新常态，但未来的工作更多的是在增强的环境中与人工智能配对。所有重复性的工作都是可能实现的，并且将是自动化的。 无论你从事的是人力资源、行政、营销、销售还是工程领域，随着人工智能/机器学习工具的不断增加，你的工作效率也会提高。这也只是未来工作的一个常规部分。 例如，人工智能/机器学习技术在诸如法学和医药等知识领域中得到了广泛的应用，以浏览不断增加的数据量，并为特定任务找到正确的信息。因此，许多白领工作都有很大的提升空间，他们可能会创造出更有成效的工作，使他们能够做自己天生擅长的事情。 在每个行业中，都会涌现出人工智能驱动的智能工具，这些工具可以帮助该行业的个人高效工作。这通常被称为增强型劳动力或人类-人工智能混合工作。4. IT 中的云计算和边缘管理 虽然边缘计算正迅速成为许多企业的必备工具，但部署仍处于早期阶段。云计算和边缘原生业务流程将在 IT 领域占据更多的主导地位，并在商业世界中更加无处不在。 一些人认为人工智能管理将成为 IT 部门的责任。为了应对与可管理性、安全性和规模有关的边缘计算挑战，IT 部门将转向云原生技术。例如，作为容器化微服务的平台，Kubernetes 已经成为大规模管理边缘人工智能应用的主要工具。 那些在云端上使用 Kubernetes 的 IT 部门可以利用他们的经验来构建自己的边缘云原生管理方案。预期将会有更多的第三方和相关的服务被采用。5. 人工智能在网络安全中的应用 现代企业环境中的网络攻击面是巨大的，并且它还在继续快速增长。这意味着，分析和改善一个组织的网络安全态势需要的不仅仅是人类的干预。人工智能在各个领域都有很好的应用前景，而网络安全正是其中的一项重要内容。具体包括： 威胁检测；战斗机器人；端点保护；违约风险保护；服务停机保护。 在网络安全方面，人工智能的作用必须通过自动化来提高。有 69% 的机构相信，人工智能是处理网络攻击的必备条件，但是这一领域在 2022 到 2032 年期间都有升级的需求。6. 更大更好的语言模型 OpenMind 的 GPT-4 将能够做什么？北京智源人工智能研究院（Beijing Academy of Artificial Intelligence，BAAI）是否能跟上步伐？2022 年将回答很多问题，即更大、更好的语言模型将如何能够创造新的工作、新的应用程序和新的商业模式——新型技术创业公司将改变互联网，并在元宇宙中帮助我们组织内容。 更大的人工智能模型也许可以让人工智能完成一些事情，也可以让它学习一些新的可能性。人工智能和机器学习模型需要海量数据，这些模型将继续扩大，并利用更大的数据集来做出越来越准确的决策。 虽然 OpenAI 的大规模生成性预训练 Transformer（GPT）模型的持续发展成为时尚的头条新闻，但 DeepMind、微软研究院以及其他公司的做法也值得关注。围绕着高度进化的大型人工智能语言模型，已经出现了几十家新的初创公司。 2022 年，它将把我们引向何处？ 一些分析家认为或透露，GPT-4 可能包含大约 100 万亿个参数，使其比 GPT-3 大 500 倍。我们可以推测，这一发展朝着离创造能够发展语言并进行与人类无异的对话的机器又近了一步。7. 人工智能在元宇宙中的应用 人工智能在元宇宙和虚拟现实中更多的沉浸式工作和社交场景中可能会有哪些应用，并与消费者脑机接口的演变有关？手机最终将如何被颠覆？ 元宇宙是一个术语，是指一个环境，更具体地说是一个数字环境，多个用户可以一起工作和游戏。如果我们今天在有愚蠢算法和推荐引擎的平台上游戏，那么明天的人工智能确实会帮助我们在虚拟世界中导航和监控我们未来的工作、社交和约会生活？ 新类型的应用程序、更智能的数字代理、深度造假人类（实际上是机器人），所有这些都在互联网的未来等待着我们，似乎是元宇宙产品。8. 人工智能的民主化和可达性——低代码/无代码人工智能 人工智能是否会真正实现民主化？在一个更加自动化的世界里，亿万富翁创造的财富会不会分配给我们其他人？在这个意义上，拯救地球的不是加密技术，而是低代码/无代码人工智能。 在未来，人们无需昂贵的工程师团队，也无需非常专业的技能，就可以开始新的业务。尽管今天对人工智能工程师的需求很高，但是我们可以设想一个完全不同的世界。一个人工智能可以自己编码的世界。人工智能最终将能够修改自己的代码，在 2022 年，我相信我们会在这个方向上取得突破性进展。 今天，组织面临的主要挑战之一是缺乏能够研发出所需要的工具和算法的有经验的人工智能工程师。随着无代码或低代码解决方案的出现，这一挑战可以通过提供简单而直观的界面来解决，这些界面可以用来创建人工智能上的复杂系统。 随着我们加快人工智能在商业中的应用，并升级人工智能流程，随着程序员与人工智能-人类系统的合作，我们通过软件工程来制造产品的方法将会发生根本性的变化，并更容易被所有人接受，从而以更分散的方式分配其部分价值。

01.计算机视觉概论什么是计算机视觉？为什么值得我们花时间去了解？它是怎么工作的？什么样的应用程序有商业价值？今天我们就一起来看看这个问题吧。什么是计算机视觉？计算机视觉指使用计算机自动执行人类视觉系统可以完成的任务。与人眼从外部环境接收光刺激类似，计算机使用数码相机接受这一信息，输入信息在大脑中进行处理，计算机则是使用某一种算法来处理获得的图像。人眼与计算机的眼睛目前的技术已经解决了获取图像不准确的问题，而且在过去的十年中也已经解决了数字图像中的标注工作。在2012年版的ILSVRC（ImageNet大型视觉识别挑战赛）中，来自世界各地的挑战研究小组在1000对象类在其ImageNet数据集中的超过一万张图片进行分类，深度学习在图像分类中也首次获得了第一名。AlexNet [2]深度学习方法（第一作者Alex Krizhevsky）由多伦多大学SuperVision团队提出。他们利用了卷积神经网络（CNN）架构获得亚军！相比之下，Andrej Karpathy训练的图像分类器，获得了5.1％的错误率。2014年的最佳方法GoogLeNet [3]，而且Karpathy本人指如果不好好训练的话图像分类器表现要差得多。显然，并非所有人都对大型模式识别有耐心和训练：这是否意味着计算机现在能够像人类一样“看见”？答案当然不是。2015年，研究人员发现，许多先进的计算机视觉模型都容易受到恶意设计的高频模式的攻击，这些模式被称为“对抗性攻击”[4]，从而诱骗模型修改其预测而我们却发现不了。.向“熊猫”添加高频“线虫”噪声会诱使网络预测“长臂猿”这是另一个对抗性攻击如何欺骗计算机视觉算法的幽默示例。麻省理工学院的研究人员开发了一种特殊的图案，将它们放在专门设计的玩具乌龟上，以欺骗网络以预测“步枪”。

长期以来，评价机器生成的文本比较困难。近日，CMU邢波（Eric Xing）教授和UCSD胡志挺（Zhiting Hu）教授的团队提出用一种运算符，统一各类生成任务的评价方式，为未来各种新任务、新要求提供了更加统一的指导。实验表明，基于统一框架设计的评价指标，在多个任务上超过了现有指标与人工评分的相似度，现在通过PyPI和GitHub可以直接调用。自然语言生成（NLG）包括机器翻译、摘要生成、机器对话等自然语言处理 （NLP）任务。这些任务虽然都要求生成通顺的文本，但是最终的表达目标往往有很大的区别。比如说，翻译任务需要完整、精确地表达原文的含义；摘要生成需要简洁、准确地体现原文最重要的信息；对话系统则需要与用户进行生动、有用的对答。过去几年间，研究人员在这些任务的建模方面，取得了很大的进步。然而，评价语言生成的结果，却依旧比较困难。人工评价最准确，但是非常昂贵耗时。自动评价则反过来，规模化比较容易，但在如何评价方面比较模糊。传统上的评价方法是比较模型生成的文本与人写的参考文本，但近年的研究表明，随着模型的进步，这样的方法已经越来越难以区分文本的好坏。事实上，在AAAI 2021会议上的DSTC9对话系统比赛中，人工评分已经不再考虑参考文本，而是依靠评分员综合对话历史、知识情景和模型回答，作出评判。同时，实际应用中的部署，也要求对生成模型作出多维度的评价，而这些是传统的单一指标做不到的。比如，2021年百度主办的「千言：面向事实一致性的生成评测比赛」中，除了传统的信息选择指标外，还考察了事实性指标，并为之设计了独立的评价流程。之前提到的DSTC9比赛的各个分赛也分别考察了3-8个不同的维度指标。为了解决如上所述的新需求，相关工作提出了各种各样的评价方法和新指标，但是这些方法往往是针对具体的任务和目标而设计。对于日新月异的各类任务，要评价什么？如何评价？目前还缺乏系统的指导。在这个方向上，CMU（卡耐基梅隆大学）、Petuum Inc.、MBZUAI（穆罕默德·本·扎耶德人工智能大学）和UCSD（加州大学圣迭戈分校）的研究团队提出了一个自然语言生成评价的理论框架，为未来各种新任务和新要求，设计评估流程时，都提供了更加统一的指导。首先，研究人员根据信息从输入到输出的变化方式，把语言生成任务分为三大类，每类任务对输出提出不同的评价需求。通过给新任务归类，就可以对「评价什么」有所启发。其次，他们用一种称为「信息对齐」的运算符统一了所有任务类别的评价方式，从信息对齐的角度出发设计评价指标，可以解决大量的「如何评价」问题。论文中基于信息对齐，统一设计了一系列评价指标，在评价多种任务（摘要生成、风格转换和知识对话）中与人类评分的相似度最高超过现有指标57.30%。论文中设计的评价指标已经上传到Python库，用pip install就可以直接安装。研究人员在GitHub上也公开了代码，并提供了数种训练好的信息对齐模型，欢迎各位同学在研究中调用。论文链接：https://arxiv.org/pdf/2109.06379.pdf代码和API链接：https://github.com/tanyuqian/ctc-gen-evalPython 安装：pip install ctc_score评价什么：语言生成任务的分类根据任务输入（X）和输出（Y）文本中，信息量的关系，研究者认为可以把语言生成任务分为三大类：压缩、转换和创建，分别对应输入大于、等于和小于输出。每一类任务的目标都有区别，也对输出文本提出了各自的要求。我们可以通过对新任务对分类，对「评价什么」有所启发。压缩类任务（Compression）目标：把输入信息中重要的部分，呈现在输出中举例：摘要生成（Summarization）、图像描述（Image Captioning）、结构文本生成（Data-to-Text）和问题生成（Question Generation）评价重点：1）输出信息要完全来自输入；2）输出信息应该是输入中的重要信息转换类任务（Transduction）目标：把输入信息中的某一方面转换，其他保持不变举例：机器翻译（Translation）、文本复述（Paraphrasing）、文本风格迁移（Style Transfer）和文本简化（Language Simplification）评价重点：输出要尽量完整地保留输入的信息创建类任务（Creation）目标：基于输入和外部信息，输出新的信息举例：机器对话（Dialog）、建议生成（Advice Generation）、故事生成（Story Generation）和诗歌生成（Poetry Generation）评价重点：1）输出要充分回应输入；2）输出要正确地使用外部信息这里可以看到，评估的重点取决于任务中输入输出的信息量变化，因此，如果能够测量输入输出信息重合度，就可以评估所有类别的生成任务。如何评价：信息对齐为了测量如上所述的重合度，研究者引入了「信息对齐」这个运算符，这样就统一了所有生成任务的评价方式。信息对齐是说，对于文字A和任何数据B，可以对于A的每个词都算出一个置信度，这个词的信息有没有在B中反映出来。具体的数学形式为如下所示的向量：在实际中，这个数据B不一定要是文字，也可以是任何模态的数据，只要有一个模型（Alignment Model）能算出这个对齐的置信度。A、B、模型和对齐向量的关系如下图所示：下面，研究者展示了如何统一地用信息对齐这个算符，来定义各种语言生成任务的评价指标。用信息对齐统一设计评价指标压缩类任务对于压缩类任务，研究者以摘要生成作为一个例子：转换类任务对于转换类任务，研究者以文本风格迁移为例：创建类任务对于创建类任务，研究者以知识对话为例：现在已经用信息对齐运算符定义了这么多评估指标，下一步来看这个运算符是怎样实现的。信息对齐的三种实现方法研究者把信息对齐当作一个预测问题建模，提出了三种基于预训练模型（Pretrained Language Models）的实现方法，普遍采用自监督学习。模型准确度可以通过与人工标注比较来评价。词向量召回（Embedding Matching）判别模型（Discriminative Model）回归模型（Aggregated Regression）实验结果实验结果表明，研究者的统一设计的评价指标，与人工评分的相似度，超过之前的针对任务特别设计的指标，最高超过现有指标57.30%。另外，研究者发现，对齐模型预测准确度越好，他们的指标就越接近人的评价。超过现有指标最多57.30%对齐模型准确度与人工评分相似度有直接关系研究者的对齐模型普遍使用自监督学习，但使用人工标注训练可以有效提升准确度和以此实现的评价指标。与人工评分的相似度如下图所示：这说明了：只要能够改善对齐预测模型，就能改善一大批评价指标。我们可以把对齐预测作为一个单独的任务，这个任务的进步直接提升评价语言生成的准确度。这项工作开启了可组合（Composable）的文本评价流程。像软件工程一样，研究者表示可以把这个系统分为若干模块，这些模块可以独立地改进、规模化、和诊断，未来期待有更多的探索。

虽然 1.3B 的 InstructGPT 在参数量上还不及 GPT-3 的百分之一，但它的表现可比 GPT-3 讨人喜欢多了。给定一些示例作为输入，GPT-3 等大型语言模型可以根据这些「提示（prompt）」去完成一系列自然语言处理任务。然而，它们有时会表现出一些出人意料的行为，如编造事实、生成有偏见或有害的文本，或者根本不遵循用户的指示。比如在下面这个例子中，用户给出的指示是：「用几句话向一个 6 岁的孩子解释一下登月」，GPT-3 的的输出显然是不着边际。 这是因为，GPT-3 被训练成基于互联网文本的大数据集预测下一个单词，而不是安全地执行用户想要它执行的语言任务。换句话说，这些模型的输出与用户的意图并不一致。对于在数百个应用中部署和使用的语言模型来说，避免这些意想不到的行为尤其重要。 通过训练语言模型按照用户的意图行动，OpenAI 在调整语言模型方面取得了新进展。这里的「意图」既有明确的（如遵循指令），也有隐含的（如尊重事实、不带有偏见或恶意等），他们希望改进后的模型是有用的（帮助用户解决他们的问题）、诚实的（不编造信息或误导用户）、无害的（不对人或环境造成身体、心理或社会伤害）。 为了达成这一目标，他们使用了利用人类反馈的强化学习方法（RLHF）对 GPT-3 进行微调，使其遵循广泛的书面指令。这项技术利用人类的偏好作为奖励信号来微调 GPT-3。这一过程让 GPT-3 的行为与特定人群（主要是 OpenAI 的标注者和研究人员）的既定偏好保持一致，而不是更广泛的「人类价值」概念。他们将得到的模型称为 InstructGPT。 在面对同一指令（用几句话向一个 6 岁的孩子解释一下登月）时，InstructGPT 给出了如下的输出结果： 研究者主要通过让标注者对测试集上的模型输出质量进行评分来评估模型，测试集包含来自「held-out」标注者的 prompt，还在一系列公共的 NLP 数据集上进行了自动评估。他们训练了三种尺寸的模型（1.3B、6B 和 175B 参数），所有的模型都使用 GPT-3 架构。其主要发现如下： 1、标注者明显更喜欢 InstructGPT 的输出，而不是 GPT-3。在测试集中，来自 1.3B InstructGPT 模型的输出优于来自 175B GPT-3 的输出，尽管前者的参数量还不到后者的 1/100。 2、与 GPT-3 相比，InstructGPT 输出的真实性有所提高。 3、与 GPT-3 相比，InstructGPT 输出的有害性略有改善，但偏见程度并没有。 4、可以通过修改 RLHF 微调过程来最小化模型在公共 NLP 数据集上的性能倒退。 5、模型可以泛化至「held-out」标注者的偏好，这部分标注者没有参与任何训练数据的生产。 6、公共的 NLP 数据集并不能反映 InstructGPT 语言模型的实际效果。 7、InstructGPT 模型显示出了泛化至 RLHF 微调分布之外的指令的潜力。 8、InstructGPT 仍然会犯一些简单的错误。 所以总的来看，通过人类的反馈进行微调是一个很有前途的方向，可以使语言模型与人类的意图保持一致，但在提高它们的安全性和可靠性方面还有很多工作要做。 方法 为了训练 InstructGPT 模型，研究者采用了人类反馈强化学习方法 ，即使用人类偏好作为奖励信号来微调模型。这一点很重要，因为要解决的安全和一致性问题是复杂的、主观的，并且不能完全被简单的自动度量捕获。 研究者首先用提交到 OpenAI API 的提示（prompt）做了一个人工编写的演示数据集，然后利用这个数据集来训练监督学习基线。接下来，他们又在一个更大的 API 提示集上收集两个模型输出之间的人工标注的对比数据集。然后，他们在这个数据集上训练了一个奖励模型（RM）来预测标注者更偏好的输出。最后，他们使用该 RM 作为奖励函数，并使用 PPO 算法微调他们的 GPT-3 策略以最大化该奖励。 这个过程可以这么理解：它「解锁」了 GPT-3 已经拥有的能力，但仅仅通过 prompt 工程很难激发出这些能力。这是因为，相对于在预训练中学到的能力，训练程序教授模型新能力的水准是有限的，因为它使用的计算量和数据相对于模型预训练只有不到 2%。 这种方法的一个局限性是，它会引入一种叫做「一致性税（alignment tax）」的东西，即如果仅仅让模型与用户任务达成一致，可能会使其在另外一些学术 NLP 任务上的表现更差。这是不可取的，因为如果文章中提到的一致性技术使模型在人们关注的任务上变得表现更糟，那么它们在实践中就不太可能被采用。 研究者发现了一个简单的算法调整方式，能够最大限度上减少这种「一致性税」: 在 RL 微调期间，研究者混合了一小部分用于训练 GPT-3 的原始数据，并使用正常的对数似然最大化在这些数据上进行训练。这大致保持了模型在安全性和人类偏好方面的表现，同时降低了模型在学术 NLP 任务上的性能损失，在有些情况下甚至超过了 GPT-3 基线。 结果 研究者首先通过让标注者将 InstructGPT 的输出与 GPT-3 的输出进行比较，来评估 InstructGPT 遵循用户指令的效果。结果发现，InstructGPT 模型显然更受欢迎。当向 GPT-3 的提示中添加前置信息以使其进入「指令遵循模式」时，这种情况仍然存在：对提交到 API 上 InstructGPT 模型的各种型号 (X 轴) 的模型输出按 1-7 比例 (Y 轴) 进行质量评级。在只有少量提示和没有提示以及模型微调与监督式学习的情况下，labeler 给出的 InstructGPT 输出得分远高于 GPT-3 的输出得分。对于提交到 API 上的 GPT-3 模型的提示，可以找到类似的结果。 为了衡量模型的安全性，研究者使用了一套公开可用数据集上的现有指标。与 GPT-3 相比，InstructGPT 产生的模仿性谎言更少 (TruthfulQA) ，而且毒性更小(RealToxicityPrompts)。研究者还对 API 提示分布进行了人工评估，发现 InstructGPT 编造事实(hallucinates) 的频率较低，并生成了更恰当的输出。评估 InstructGPT 的结果。图中是不同规模模型的结果组合。Toxicity、Hallucination 两个指标上，分数越低越好；TruthfulQA、Appropriateness 两个指标上，分数越高越好。 最后，研究者发现在用户分布中，InstructGPT 的输出优于 FLAN 和 T0 的输出。这表明，用于训练 FLAN 和 T0 的数据大多数是学术性 NLP 任务的，并不能完全代表部署语言模型在实践中的使用情况。 在更广泛的群体中的泛化效果 OpenAI 采取的流程使得该模型表现与标注者的偏好保持一致，标注者直接生成用于训练模型的数据，研究者则通过书面指示、具体例子的直接反馈以及非正式对话为标注者提供指导。此外，模型还受到用户和 API 策略中隐含的偏好的影响。研究者选择了那些在筛选测试中表现良好的标注者，他们在识别和回应敏感的提示方面表现出色。然而，这些对数据产生影响的不同来源并不能保证模型与任何更广泛群体的偏好保持一致。 研究者借助了两个实验来探究这个问题。首先，使用没有提供任何训练数据的 held-out 标注者来评估 GPT-3 和 InstructGPT，并发现这些标注者更喜欢 InstructGPT 模型的输出，其比率与训练数据标注者大致相同。然后，研究者使用来自一部分标注者的数据训练奖励模型，发现它们能很好地预测不同标注者子集的偏好。这表明该模型并没有过拟合训练数据标注者的偏好。然而，研究者还需要做更多的工作来研究这些模型在更广泛的用户群体中的表现，以及在人们对相同输入产生不同预期时模型会如何表现。 局限性 尽管已经取得了重大进展，但当前的 InstructGPT 模型还远远算不上与用户意图完全一致或对用户来说完全安全：它们仍然会产生有害、有偏见的输出，或者编造事实，并在没有明确警示的情况下产生色情、暴力内容。但是，机器学习系统的安全性不仅取决于底层模型的行为，还取决于这些模型的部署方式。OpenAI 表示，为了支持 OpenAI API 的安全性，他们将继续在应用程序上线之前对其进行审查，并提供内容过滤器来检测不安全的输出，监控其滥用情况。 训练模型遵循用户指示还有一个副作用：如果用户指示它们产生不安全的输出，它们可能更容易被误用。因此，研究者要教模型拒绝某些指令。如何可靠地做到这一点将是一个重要的开放性研究问题。 此外，在许多情况下，与标注者的平均偏好保持一致是不可取的。例如，当生成一定程度上影响了少数群体的文本时，该群体的偏好应该得到更多的权重。目前，InstructGPT 接受的是用英语进行指导的训练，因此，它更偏向于讲英语的人的文化价值观。研究者也在逐渐了解标注者偏好之间的差异和分歧，这样就可以根据更具体的人群的价值观来设置模型。一般来说，根据特定人类的价值观调整模型输出会面临社会影响方面的抉择，最终必须建立负责任的、包容性的处理程序来做出这些决定。 上述研究结果表明，这些技术在改善通用 AI 系统与人类意图的一致性方面是非常有效的。然而，这仅仅是个开始。研究者们还将继续推进这些技术，以改进当前和未来的模型，使之朝着对人类更安全、更有用的方向发展。

无监督学习领域迎来了巨大发展，源头是对比学习（contrastive learning）[6, 7] 在海量无标注训练样本下的成功应用。假设是一张没有标注的训练样本图像的特征向量，为图像的一个正样本（positive sample）特征，这个正样本往往是对 I 施以某种变换得到的（如 flipping、cropping 操作等）， 为一个负样本（negative sample）特征，训练集中其它非 I 的图像均被视为负样本。之后通过对比学习损失函数，如下面的 InfoNCE loss [8] ，进行无监督训练：目标是将正样本从大量负样本中识别出来。无监督训练得到的图像特征表现出了极强的泛化能力，能够为下游任务提供极佳的网络初始化权重，或仅经过少量有标签样本的微调（finetuning），即可获得接近全监督训练性能的图像分类模型。 无监督对比学习的成功也带来了启发，对比学习属于度量学习（metric learning），本质是利用了数据集的整体信息，学习了一个具有极强表达能力的图像表征空间。在图像语义分割的全监督训练条件下，训练图像的每个像素的标签已经给出，我们可以将正样本视为同属于相同语义类别的像素，将负样本视为不属于同一语义类别的像素，而不论它们是否来源于同一个训练图像。之后即可以利用度量学习或对比学习，对传统的交叉熵损失加以改进，进而挖掘所有训练图像中、像素与像素之间的全局语义关系，进而获得一个高度结构化的分割特征空间。由此研究者提出了一个基于像素对比学习的、全监督的、语义分割训练范式，像素对比学习（pixel-wise contrastive learning），强调利用训练数据集的全局上下文信息，从整体的角度对习得的特征空间进行显式约束，使其在全局结构上具备良好的性质（intra-class compactness 和 inter-class dispersion）。

1.机器学习的主要任务：一是将实例数据划分到合适的分类中，即分类问题。 而是是回归， 它主要用于预测数值型数据，典型的回归例子：数据拟合曲线。2.监督学习和无监督学习：分类和回归属于监督学习，之所以称之为监督学习，是因为这类算法必须直到预测什么，即目标变量的分类信息。对于无监督学习，此时数据没有类别信息，也不会给定目标值。在无监督学习中，将数据集合分成由类似的对象组成的多个类的过程被成为聚类；将寻找描述数据统计值的过程称之为密度估计。此外，无监督学习还可以减少数据特征的维度，以便我们可以使用二维或者三维图形更加直观地展示数据信息。3.线性回归和非线性回归　　线性回归需要一个线性模型。一个线性的模型意味着模型的每一项要么是一个常数，要么是一个常数和一个预测变量的乘积。一个线性等式等于每一项相加的和。等式：Response = constant + parameter * predictor + ... + parameter * predictor　　<=>　　Y = b o + b1X1 + b2X2 + ... + bkXk在统计学中，如果一个回归方程是线性的，那么它的参数必须是线性的。但是可以转换预测变量加上平方，来使得模型产生曲线，比如 Y = b o + b1X1 + b2X12这时模型仍然是线性的，虽然预测变量带有平方。当然加上log或者反函数也可以。

AI for Science人工智能成为科学家的新生产工具，催生科研新范式实验科学和理论科学是数百年来科学界的两大基础范式，而人工智能正在催生新的科研范式。机器学习能够处理多维、多模态的海量数据，解决复杂场景下的科学难题，带领科学探索抵达过去无法触及的新领域。人工智能不仅将加速科研流程，还将帮助发现新的科学规律。预计未来三年，人工智能将在应用科学中得到普遍应用，在部分基础科学中开始成为科学家的生产工具。机器学习帮助数学家发现两大猜想，以及采用机器学习、多尺度建模和高性能计算相结合的方式解决超大规模量子随机电路实时模拟问题，让人们看到了人工智能应用于科学研究，在处理数据、设计新型实验以及创建更高效的计算模型方面的巨大潜力。正在兴起的 AI for Science 有望促进数据驱动和理论推演两大科研范式的深度融合。预计未来几年，AI 将进一步与数学、物理、化学、材料、工程学等不同领域深度结合，在基础科学的进步中发挥更大作用。大小模型协同进化大模型参数竞赛进入冷静期，大小模型将在云边端协同进化超大规模预训练模型是从弱人工智能向通用人工智能的突破性探索，解决了传统深度学习的应用碎片化难题，但性能与能耗提升不成比例的效率问题限制了参数规模继续扩张。人工智能研究将从大模型参数竞赛走向大小模型的协同进化，大模型向边、端的小模型输出模型能力，小模型负责实际的推理与执行，同时小模型再向大模型反馈算法与执行成效，让大模型的能力持续强化，形成有机循环的智能体系。

问题现象训练过程中拷贝数据/代码/模型时出现如下报错。原因分析出现该问题的可能原因如下。：磁盘空间不足分布式作业时，有些节点的docker base size配置未生效，容器内“/”根目录空间未达到50G，只有默认的10GB,导致作业训练失败。实际存储空间足够，却依旧报错“No Space left on device”。同一目录下创建较多文件时，为了加快文件检索速度，内核会创建一个索引表，短时间内创建较多文件时，会导致索引表达到上限，进而报错。原因分析出现该问题的可能原因如下。：磁盘空间不足分布式作业时，有些节点的docker base size配置未生效，容器内“/”根目录空间未达到50G，只有默认的10GB,导致作业训练失败。实际存储空间足够，却依旧报错“No Space left on device”。同一目录下创建较多文件时，为了加快文件检索速度，内核会创建一个索引表，短时间内创建较多文件时，会导致索引表达到上限，进而报错。1. 分目录处理，减少单个目录文件量。 2. 减慢创建文件的速度。 3. 关闭 ext4 文件系统的 dir_index 属性，具体可参考： https://access.redhat.com/solutions/29894，（可能会影响文件检索性能）。 4. 使用 xfs 文件系统（xfs 不在欧拉交付范围，可以使用，但是欧拉不保证商用质量）。

贝叶斯优化可以说是一种黑盒优化算法，该算法用于求解表达式未知函数的极值问题。因其具有极强的样本有效性，近年来被广泛使用，研究者只需较少地迭代次数，即可得到一个较好的结果，因此可用于机器学习模型算法调参。 近日，华为诺亚开源了一个新的关于贝叶斯优化的库，该库可用于低维和高维领域的贝叶斯优化，主要包含： 河伯（Heteroscedastic Evolutionary Bayesian Optimization，HEBO）：异方差演化贝叶斯优化，可用于超参数调优，华为诺亚凭借该算法赢得 NeurIPS BBO 竞赛冠军；T-LBO：一种将深度度量学习与潜在空间贝叶斯优化相结合以实现高维优化的算法，该算法可以减少 97% 的数据需求；CompBO：使用组合优化器进行贝叶斯优化。项目地址：https://github.com/huawei-noah/HEBO河伯算法是华为诺亚方舟决策与推理（DMnR）实验室开发的贝叶斯优化库。该算法击败了 NVIDIA、IBM、Jetbrain 等，以 93.519 得分赢得了 AI 国际顶会 NeurIPS 2020 的黑盒优化竞赛冠军。 HEBO 是与前 5 名竞争对手之间差异最大的算法，以非常大的优势获胜。下面是比赛结果的截图：完整榜单：https://bbochallenge.com/leaderboard/T-LBO 算法该算法出自论文《High-Dimensional Bayesian Optimisation with Variational Autoencoders and Deep Metric Learning》，全篇 42 页，研究者来自华为诺亚方舟实验室。 论文地址：https://arxiv.org/pdf/2106.03609.pdf 研究者提出了一种基于深度度量学习的方法，以使用变分自编码器（VAE）在高维结构化空间中执行贝叶斯优化。通过扩展监督深度度量学习的想法，他们解决了高维 VAE 贝叶斯优化中长期存在的一个问题，即如何将判别式隐空间作为归纳偏置来执行。重要的是，研究者仅使用以往工作的 1% 的标记数据就实现了这种归纳偏置，显示出了所提方法面向样本的高效性。 在实验中，研究者展示了在真实世界高维黑盒优化问题（包括属性引导的分子生成）上的 SOTA 结果。他们希望，本文展示的结果可以作为实现高效高维贝叶斯优化的指导原则。 利用组合优化器做贝叶斯优化（CompBO）这是一篇发表在机器学习研究杂志 JMLR 2021 上的论文，标题为《Are We Forgetting about Compositional Optimisers in Bayesian Optimisation?》，全篇共 78 页。研究者来自华为英国研发中心。 论文地址：https://www.jmlr.org/papers/volume22/20-1422/20-1422.pdf项目地址 https://github.com/huawei-noah/noah-research/tree/CompBO/BO/HEBO/CompBO贝叶斯优化为全局优化提供了一种面向样本高效的方法。在这个框架内，采集函数（acquisition function）的最大化是决定性能的关键因素。但是，由于采集函数往往是非凸的，因此不容易优化，导致其最大化变得复杂。 华为的这篇论文对最大化采集函数的方法进行了全面的实证研究。此外，通过为流行的采集函数推导出全新但数学上等效的组合形式，研究者将采集函数的最大化任务重新定义为组合优化问题，从而能够从领域大量文献中获益。他们特别强调了 3,958 个单独实验中采集函数最大化组合方法的实证优势，这些实验包括组合优化任务和贝叶斯任务。 鉴于采集函数最大化方法的通用性，研究者认为采用组合优化器有可能在当前贝叶斯优化应用的所有领域内实现性能提升。