可视化技术在深度学习的应用实验说明实验目的深度学习已经成功运用在自然语言,多媒体,计算机视觉,语音和跨媒体等相关的特定领域.然而,这一架构在"端到端"模式下,通过标注大量数据来进行误差后向传播而优化参数的学习方法被比喻为一个"黑盒子",解释性较弱.可解释性指算法要对特定任务给出清晰概括,并与人类世界中已定义的原则或原理联结.在诸如自动驾驶,医疗和金融决策等"高风险"领域,利用深度学习进行重大决策时,往往需要知晓算法所给出结果的依据。因此,可视化技术可以将深度学习模型的运行过程进行直观的展示，透明化深度学习的"黑盒子",使其具有可解释性,具有重要意义。实验内容与要求1.使用华为 ModelArts 开发平台完成 “可视化提升深度学习建模指导手册.pdf” 中的第一部分 “使用ModelArts 快速搭建深度学习模型—以花卉识别为例” ， 并自行选定一张花卉图像，进行花卉识别 。3. 使用华为 ModelArts 开发平台完成 “可视化提升深度学习建模指导手册.pdf” 中的第二部分 “ Notebook以及MindInsight的使用”， 利用MindInsight提供的可视化功能实现深度学习的参数可视化/中间结果/输出结果的可视化等功能（文档中给出的代码仅做参考）。4.撰写实验报告，展示实验结果，阐述可视化技术在深度学习中的作用以及意义。实验内容实验简介学习使用Model Arts快速实现AI的应用开发；学习在Model Arts部署在线服务；使用ModelArts,使用Model Arts快速搭建花卉识别模型，并上传一张花卉图片进行预测。详见附件的“Modelarts使用手册 第一部分”。学习使用Model Arts notebook，在notebook中运行神经网络代码，学习神经网络模型训练过程；基于MindInsight，实现深度学习的中间和最终输出结果的可视化；理解可视化技术在解释深度学习“黑盒子”中发挥的重要作用；修改网络结构或者参数，并可视化结果，对比修改模型参数后导致的可视化结果的不同，从而理解可视化如何帮助模型调参和改善模型质量。实验步骤及结果（请按实验内容，逐项任务记录实验过程和结果，配图和文字说明）任务1. 图像分类获得授权（选择已有委托）进入开发环境下载花卉数据集创建一个桶 bucket，并在桶中新建文件夹：下载完成：订阅算法订阅页面显示已经成功订阅：创建训练开始训练：创建 AI 应用导入成功：部署为在线服务创建成功：输入图片，预测结果上传一张实例中给出的向日葵图片。可以看到输出结果为向日葵。清除资源停止在线服务：用相似的方式删除作业、删除数据任务2. Notebook 以及 MindInsight 的使用创建 Notebook创建成功，点击启动：编写代码并收集 MindSight 数据成功启动 MindInsight点击查看可视化结果实验参考资料可视化提升深度学习建模指导手册.pdf (ouc.edu.cn)MindSporeMindInsight可视化作业_AI开发平台ModelArts_开发环境_JupyterLab_可视化训练作业_华为云 (huaweicloud.com)实验总结与体会本次实验通过使用华为ModelArts开发平台，完成了可视化提升深度学习建模指导手册中的第一部分和第二部分的实验内容。在第一部分的实验中，我们使用ModelArts快速搭建深度学习模型，以花卉识别为例。首先，我们利用ModelArts提供的图像分类模板，选择合适的算法和数据集，进行训练。通过调整超参数，我们得到了一个准确率较高的花卉识别模型。然后，我们自行选定了一张花卉图像进行识别，结果表明模型能够准确地识别出花卉的种类。整个过程中，ModelArts提供了一系列的便捷功能，如自动化训练、模型部署、在线推理等，大大提高了深度学习建模的效率和便利性。在第二部分的实验中，我们学习了如何使用Notebook和MindInsight进行深度学习的参数可视化和中间结果/输出结果的可视化。通过在Notebook中添加MindInsight的插件，我们可以方便地查看模型的训练过程和中间结果。而在MindInsight中，我们可以通过可视化方式查看模型的参数、梯度、损失、准确率等信息，还可以查看每个层的输出结果，从而更好地理解模型的运作原理和优化方向。实验结果表明，可视化技术在深度学习中具有重要的作用和意义。首先，它可以帮助我们更好地理解模型的运作原理和优化方向，从而更好地进行模型设计和调整。其次，通过可视化方式查看训练过程和中间结果，我们可以更好地分析模型的性能和瓶颈，从而优化模型。最后，可视化技术也可以帮助我们更好地与其他人进行沟通和交流，促进深度学习技术的共同发展。总之，本次实验让我们深入了解了ModelArts和MindInsight这两个强大的深度学习工具，同时也让我们更加深入地认识到可视化技术在深度学习中的重要作用和意义。

神经网络和深度学习兴起之后很自然地就被引入强化学习领域。DRL的一个经典例子就是深度Q网络(Deep Q-Learning Network,DQN）Q-Learning算法的整体思路。在给定状态、行为、Q值和奖励等概念的情况下，先初始化一个Q值的Q-Table，然后对每一个episode（片段）重复执行每一步：根据状态S来选取要执行的行为，然后观察奖励和新的状态，根据Q函数更新公式进行更新。为什么叫Q-Learning,大概是因为其本身是一种依靠Q函数来寻找最优的动作-状态决策的。Q-Learning算法的流程这里在初始化Q值时使用了一个Q-Table来存储Q值，这样做无疑非常方便。但在问题非常复杂且有无数多个状态和行为时，如果还用表格来存储Q值恐怕是不行的。一是内存不够，二是在巨大表格里搜索状态会非常耗时。所以，当问题复杂到QGTable难以表示的时候，就可以用一个价值近似函数来表示Q(S,A)。既然价值近似函数没有固定的形式，那么就可以直接用神经网络来表示它。这就是强化学习与深度学习进行结合的第一步，也是最重要的一步。到这里，传统的Q-Learning算法中的Q值就成了Q网络。Q-Learning算法这种通过神经网络来表示Q(S,A)的方式，发展到现在就成了著名的DQN。

传统的强化学习包括3种主要方法，分别是基于价值（ValueGBased）、基于策略(PolicyGBased)和基于模型(ModelGBased)的方法。基于价值的强化学习方法会基于一个价值函数计算主体在每个状态下未来奖励的最大预期值，如著名的QGLearning算法就是一种基于价值的强化学习方法。基于策略的强化学习方法会摒弃价值函数，直接优化主体的策略函数，将主体的每一状态和当前状态下的最佳行为建立联系，ActorGCritic、A3C和DDPG等就是基于策略的强化学习方法。策略也可以分为确定性策略和随机性策略。基于模型的强化学习方法则是要对环境进行建模，其中需要知道很多环境的状态。例如，状态转移矩阵，像马尔科夫决策过程(Markov Decision Process,MDP)就是一种基于模型的强化学习方法。

如何利用AI开发平台ModelArts来对管道漏液进行训练模型，是否有最佳实践可以参考？

华为开发者名校行-清华大学

华为开发者名校行-华南理工大学

11月12日，为加强校企交流，提供学生与产业界接触的机会，培养适合产业发展的人才，“华为开发者名校行”活动走进天津大学，300余名天大学子一起与业界大咖分享交流，感受科技无穷魅力。活动新闻→育人才，创未来——天津大学与华为公司共建产教融合人才培养新体系：cid:link_0→“育人才 创未来”华为开发者名校行-天津大学专场圆满落幕：cid:link_1

10月30日，为加强校企交流，提供学生与产业界接触的机会，培养适合产业发展的人才，“华为开发者名校行”活动走进北京航空航天大学，北航200余名学子一起与业界大咖分享交流，感受科技无穷魅力。活动新闻：→深化产教融合 为AI人才提供广袤空间 | 华为开发者名校行走进北航：cid:link_0→深化产教融合 为AI人才提供广袤空间 | 华为开发者名校行走进北航：cid:link_1

9月24日，为加强校企交流，提供学生与产业界接触的机会，培养适合产业发展的人才，“华为开发者名校行”活动走进哈尔滨工业大学，哈工大400余名学子一起与业界大咖分享交流，感受科技无穷魅力。活动新闻→双向奔赴 携手共赢 | 华为开发者名校行首站在哈工大成功举办：cid:link_2→“华为开发者名校行”首站走进哈工大：cid:link_1→双向奔赴 携手共赢 | 华为开发者名校行首站在哈工大成功举办：https://c.m.163.com/news/a/IFIMMR1Q00099BK0.html?from=wap_redirect&spss=adap_pc&referFrom=&spssid=cc27d805fb4b0e49cea23a94d6345a2c&spsw=1&isFromH5Share=article​

9月没有整理，所以把9月的也补上。9月10月的合集如下。1. AI开发平台ModelArts新功能弹性裸金属：提供不同型号的xPU裸金属服务器，通过弹性公网IP进行访问，在给定的操作系统镜像上可以自行安装GPU&NPU相关的驱动和其他软件，使用SFS或OBS进行数据存储和读取相关的操作，满足算法工程师进行日常训练的需要。推理平台支持大模型导入：支持大模型场景下的AI应用管理和服务部署。2. 人工智能相关直播合集“智汇医药，云聚新生”AI+生物医药创新发展高峰论坛cid:link_1从基因编辑到智能诊断，从药物研发到个性化治疗，AI与生物医药的结合正开启一个全新的智慧医药时代。 峰会聚焦“智汇医药，云聚新生”的主题，围绕生物医药行业数字化创新、产业前沿热点以及区域生态发展等方向，共同探讨AI技术+生物医药产业融合新趋势，解读未来发展新风向。 通过数字化和智能化的使能，可以为生物医药领域带来创新和改变。“我们鼓励开发者们积极探索如何充分利用华为云盘古大模型，将其应用于生物医药，推动医疗创新，提升人民健康水平。”备份恢复全掌握，数仓数据更安全 cid:link_2 当意外发生时，你就知道：数据的备份恢复是一项不可忽视的系统工作。 相对于集群级备份恢复海量的文件操作，物理细粒度备份恢复能够从更小的粒度、以更少的数据文件操作，对数据库对象进行备份与恢复。GaussDB(DWS) Roach工具提供了丰富的物理细粒度备份恢复功能，帮助您更加精确高效地备份恢复指定数据。 每个和数据打交道的人都需要来看一看~Toolkit插件在诗情画意中完成AI作诗——classroom教你如何作诗 cid:link_0包括4部分内容：Huawei Cloud Toolkit 介绍Huawei Cloud Toolkit 实战介绍，AI作诗实战Classroom介绍，培训课程&实验教程演示2023华为开发者大赛宣讲其中API能力那一块还是很吸引人的

被拦截了，但很难人工修改：GAN核心思想和原理https://bbs.huaweicloud.com/forum/thread-02109134092937224045-1-1.html?fid=567

从整个机器学习的任务划分上来看，机器学习可以分为有监督学习、无监督学习和半监督学习及强化学习。图像、文本等深度学习的应用都属于有监督学习范畴。自编码器和生成式对抗网络可以算在无监督深度学习范畴内。最后就剩下强化学习了。强化学习发展到现在，早已结合了神经网络迸发出新的活力，强化学习结合深度学习已经形成了深度强化学习（Deep Reinforcement Learning,DRL)这样的新领域。强化学习是一种关于序列决策的工具，在许多领域中都有研究，如博弈论、控制论、运筹学信息论、仿真优化、多主体系统学习、群体智能、统计学及遗传算法等领域。具体而言，就是描述决策主体如何基于环境而行动以获取收益最大化的问题。强化学习一个最典型的例子就是击败李世石和柯洁的阿尔法围棋(Alpha Go)，其实现下棋并战胜人类的背后技术原理就是深度强化学习。如图分别是AlphaGo的价值网络(Value Network)和策略网络(Policy Network)强化学习就是让计算机在环境中学习。在环境中，机器的每个行为(Action)都会给定相应的奖励(Reward)，机器通过对这些数据进行学习来决定之后的决策。这其实非常符合人类的经验学习方式。例如，当我们还是一个小孩子时，第一次看见火，走到火边，感受到了温暖，这时火给我们带来的是正反馈（奖励为正），后来尝试用手想要去摸一下火，然后我们就被烫伤了，这时火给我们带来的是负反馈（奖励为负）。于是我们知道了，离火稍微远一点会带来温暖，离得太近则会被烫伤。这种与环境交互式的学习方式正是强化学习的核心思想。而用数学语言来描述基于环境交互的强化学习过程会更精确一些。

GAN的核心思想就在于两个部分：一个是伪造者网络；另一个是鉴定者网络。二者互相对抗，共同演进，在此过程中大家的水平都越来越高，伪造者网络生成的图像就足以达到以假乱真的水平。基于这个思想来看一下GAN的原理与细节。GAN的基本原理就在于两个网络：G(Generator)和D(Discriminator)分别是生成器和判别器。生成器网络以一个随机向量为输入，并将其解码生成一张图像，而判别器网络以一张真实或合成的图像作为输入，并预测该图像是来自真实的图像还是合成的图像。在训练过程中，生成网络G的目标就是尽量生成真实的图像去欺骗判别网络D。而D的目标就是尽量把G生成的图像和真实的图像分别开来。这样，G和D就构成了一个动态的"博弈过程'。在理想状态下，博弈的结果就是G可以生成足以以假乱真的图像G(z)，而此时的D难以判定生成的图像到底是真是假，最后得到D(G(z)）=0.5的结果。这里的理解与博弈论中的零和博奔非常类似，可以说GAN借鉴了博弈论中相关的思想和方法。GAN的基本结构如图自从GoodFellow提出GAN以后，GAN就存在着训练困难、生成器和判别器的损失无法指示训练进程、生成样本缺乏多样性等问题。为了解决这些问题，后来的研究者不断推陈出新，以至于现在有着各种各样的GAN变体和升级网络。例如，LSGAN、WGAN、WGAN-GP、DRAGAN、CGAN、lnfoGAN、ACGAN、EBGAN、BEGAN、DCGAN及最近号称史上最强图像生成网络的BigGAN等。DCGAN的原始论文为Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks，DCGAN，顾名思义就是生成器和判别器都是深度卷积神经网络的GAN。

Generative Adversial Networks GAN的关键在于生成器网络和判别器网络之间的对抗学习。GAN生成式对抗网络自从问世以来就颇受瞩目，相对于变分自编码器，生成式对抗网络既可以学习图像的潜在空间表征，也可以生成与真实图像在统计上几乎无法区分的合成冬像。开创GAN的必读论文就是GAN。作者Goodfellow就是那本号称深度学习圣经的"花书"的作者。下面以一个例子作为类比，先来直观地体会一下GAN的基本思想。假设一名书法家想伪造王羲之的书法，刚开始，这名书法家对于模仿王羲之的书法并不精通，于是他把模仿的书法和王羲之的真迹放在一起交给另一位行家，这位行家对每一书法的真实性都进行了鉴定和评估并向这名书法家进行反馈．告诉他王羲之书法的特点和精髓，以及如何模仿才像真正的王羲之书法。模仿的书法家根据反馈回去继续研究，并不断给出新的模仿书法。模仿者越来越擅长模仿王羲之书法，鉴定者也越来越长找出真正的赝品。

这个模型的名字叫作变分自编码器，什么是变分？学过泛函分析的人应该都知道。函数的概念在于变量之间的映射，输入一个数值，返回的也是一个数值。而泛函则是函数的函数，所谓函数的函数，就是输入的是函数，返回的是数值，一般用积分的形式来表示泛函。这是函数与泛函的对比。函数有微分这一概念。函数的微分就是关于自变量X发生变化时对应函数值的变化量。将微分的概念准广到泛函就是变分的含义。所渭变分，就是自变量函数X(t)发生变化时，对应泛函值的变化量。所以，简单而言，变分就是泛函的微分。微分可以用来求函数的极值，那么相应的变分就可以用来求泛函的极值，研究泛函机制的方法就是所渭的变分法(Variational Method)。VAE中好像确实没有用到变分？实际上，VAE中的变分在于损失函数推导过程中利用了KL散度及其性质，而KL散度本身则是一个泛函。作为自编码器的一种，VAE有着自己的特殊性但是其本质并不复杂。VAE本质上就是在常规的自编码器的基础上，对Encoder的结果（在VAE中对应着计算均值的网络）加上了"高斯噪声"，使得结果Decoder能够对噪声有鲁棒性；而那个额外的KL损失（目的是让均值为0，方差为1），事实上就是相当于对Encoder的一个正则项，希望Encoder出来的东西均有零均值。而编码计算方差的网络的作用在于动态调节噪声的强度。可以看一下Keras给出的VAE实现。VAE是当前主流的生成模型之一，但相对来说其生成图像的质量效果并不是非常高。