• [其他] 从矩阵运算到机器学习
    矩阵运算:构建基础 学习始于基础,矩阵运算是机器学习的基石。通过Python的Numpy库,可以轻松地处理标量、向量和矩阵。一个标量,例如数字18,可以视为一个1x1的矩阵。向量和矩阵的概念也随之引入,向量是一维数组,而矩阵则是有序的二维数组。Numpy库使得矩阵的乘法、加法、减法,甚至转置和重塑变得简单直观。线性代数的深入理解 深入学习线性代数后,了解到无论是行向量还是列向量,都可以通过二维数组来表示。这不仅加深了对数据形状和维度的理解,也使得使用np.matmul()进行矩阵乘法变得得心应手,为后续的机器学习模型构建打下了坚实的基础。房价预测:实际应用中的挑战与解决 将理论知识应用于实践,尝试了房价预测这一机器学习项目。通过处理波士顿房价数据集,构建了一个线性回归模型。最初,模型训练结果出现了NaN,这提示了特征数据归一化的重要性。归一化确保了不同特征值处于同一量级,对提高模型性能至关重要。模型的评估与测试 模型训练完成后,意识到需要进行评估和测试以验证其泛化能力。随机挑选训练数据进行预测的做法并不理想,更好的策略是将数据分为训练集、验证集和测试集。可视化:直观理解模型性能 在训练过程中,Matplotlib库的使用让损失函数的变化可视化,直观地展示了模型的收敛过程,加深了对模型训练动态的理解。探索MNIST:手写数字识别的奥秘 学习之旅的最后,探索了MNIST手写数字识别项目。这个项目不仅涉及图像识别,还涉及神经网络的构建。使用TensorFlow 2加载MNIST数据集,开始了手写数字识别模型的构建之旅。
  • [其他] 深度学习应用开发学习
    在2021年3月,我开始了一段深度学习的旅程,学习《深度学习应用开发》这门课程。这是一门基于TensorFlow实践的入门课程,它对初学者非常友好,不需要深厚的人工智能或数学基础,也无需丰富的编程经验。我通过中国大学APP接触到了吴明辉的课程,发现它确实名不虚传。课程的导论部分让我眼界大开,人工智能不仅在围棋和游戏中超越了人类,还能在更有意义的领域发挥作用,比如探索宇宙、语音处理、图像识别等。特别值得一提的是,我尝试了一个名为"形色"的APP,它能够识别家中的植物,这让我对人工智能的实用性印象深刻。课程内容涵盖了人工智能的发展历史,从1956年的起源到现代的三次重要突破——国际跳棋、国际象棋和围棋。这些历史事件不仅展示了人工智能的演进,也体现了其在系统性思维上的挑战。在机器学习领域,我学习了有监督学习、无监督学习、半监督学习和强化学习等概念。特别是强化学习,它通过奖励和惩罚机制进行学习,非常适合棋类游戏。而无监督学习中的聚类算法,让我意识到它在日常生活中的广泛应用,比如超市货架的商品摆放。课程还介绍了神经元模型的起源和全连接层的概念,以及ReLU等激活函数的作用。深度学习的核心是构建多层的神经网络,而卷积神经网络(CNN)的发展,尤其是AlexNet在2012年的突破,让我对深度学习的强大能力有了更深的认识。在学习过程中,我也了解到了不同的深度学习开发框架,包括Theano、Caffe、Torch、PyTorch以及Keras等。TensorFlow作为其中的佼佼者,以其强大的功能和灵活性,成为了我学习的重点。为了更好地学习TensorFlow,我通过清华镜像下载了Python 3的Anaconda,并通过它安装了TensorFlow 1.2版本。我还学习了如何在Jupyter Notebook中进行TensorFlow编程,包括张量的定义、变量的创建以及模型的训练过程。在单变量线性回归的学习中,我理解了模型、参数、损失函数和梯度下降法的基本概念。通过编写代码,我实践了如何使用TensorFlow构建和训练一个简单的线性回归模型,并观察了模型随着训练迭代逐渐拟合数据的过程。此外,我还尝试了多元线性回归,以波士顿房价预测为例,学习了如何处理更复杂的数据集。我使用了pandas和numpy等库来处理数据,并进一步熟悉了TensorFlow在实际问题中的应用。尽管学习过程中有时会感到疲惫,但我始终保持着对深度学习的热情和好奇心。通过这段时间的学习,我不仅掌握了深度学习的基础知识,也对人工智能的未来发展充满了期待。
  • [其他] 固件版本、驱动版本和CANN版本
    首先,固件版本是直接与硬件设备交互的软件,它负责管理硬件设备的基本功能。在我升级的过程中,我发现ECS中的固件版本是20.1,这意味着它与硬件加速卡(Atlas 300)紧密相关,确保硬件可以正常工作。然后是驱动版本,它位于固件和操作系统之间,充当两者之间的桥梁。驱动程序允许操作系统发送指令给硬件,并接收硬件的响应。在我检查系统时,发现驱动版本也是20.1,这与固件版本相匹配,确保了硬件和操作系统之间的顺畅通信。最后是CANN版本,这是华为推出的用于AI应用的软件栈,它包括了各种库和工具,用于加速AI模型的推理过程。CANN版本20.1可能与硬件加速卡的特定固件和驱动版本相绑定,以确保最佳性能。我尝试升级了我在华为云上的ECS(弹性云服务器)上的CANN版本。ECS的AI推理加速型实例Ai1s是基于Atlas 300加速卡设计的,专为提升AI推理速度而生。我发现我安装的CANN版本是20.1,感觉这个版本有点旧。现在昇腾AI处理器都有自己的网站了,CANN的版本命名方式也更新了。我对比了旧版本和新版本,发现新版本简直是新鲜出炉的。所以,我决定手动卸载ECS上的CANN 20.1版本,并安装最新的5.1.RC2.alpha001版本,希望可以获得更好的性能。卸载过程还算顺利,我首先运行了卸载脚本,ascend-toolkit目录就被移除了。然后,我又卸载了算子包,opp目录也随之消失。卸载前,我检查了系统是否安装了驱动软件包,并确认了加速卡的状态是正常的。在安装新版本CANN时,我注意到了版本号的重构说明,了解到将20版本号改为3即可。虽然驱动和固件的版本号是20.1,与CANN软件包的大版本号5可能存在不匹配的问题,但根据CANN的安装文档提示,我需要下载对应的驱动和固件版本。安装完成后,我尝试运行了samples,以验证新版本CANN的安装是否成功。我还发现了ECS提供的安装包。
  • [其他] 数字图像基础
    数字时代,信息的数字化是基础,而图像作为信息的一种形式,它的数字化处理尤为重要。在AI领域,图像处理尤为关键。首先,图像被分割成一个个像素点,每个像素点包含了图像的信息。根据颜色的不同,图像可以分为黑白、灰度和彩色三种类型。黑白图像简单直接,灰度图像则提供了更多的细节和层次,而彩色图像则通过RGB三个颜色分量混合来表达丰富的色彩。灰度直方图是图像的一个重要特征,它显示了不同灰度级出现的频率。这个直方图不仅可以帮助我们理解图像的灰度分布,还可以用于确定图像二值化的阈值。通过观察直方图上的波峰和波谷,我们可以找到一个合适的阈值,将图像转换为黑白二值图,简化图像信息。数字图像处理的算法多种多样,包括点处理、邻域处理、迭代处理等。每种算法都有其适用的场景和优势。同时,图像的数据结构也影响着图像处理的效率,比如组合方式、比特面方式、分层结构等。在图像存储方面,不同的存储方式对应不同的应用场景。RAW格式保留了图像的原始数据,而BMP格式则通过调色板来节省空间,适用于颜色较少的图像。TIFF格式则常用于遥感和地理信息领域。总的来说,这篇文章为我们提供了数字图像基础的概览,从图像的数字化表示到图像处理的算法和数据结构,再到图像的存储格式,为我们打开了数字图像处理的大门。
  • [其他] 在ModelArts使用自定义算法进行训练、模型导入和部署服务
    本文详细介绍了在华为云ModelArts平台上使用自定义算法进行训练、模型导入和部署服务的完整流程。如果你对自动学习感到限制太多,或者想要超越使用市场订阅算法的范畴,探索更多自定义的可能性,本文将为你提供有价值的指导。首先,自定义算法允许开发者拥有更大的灵活性和控制权。本文以一个简单的一元一次方程线性回归算法为例,展示了如何从头开始构建算法。算法的核心在于通过生成数据、定义损失函数和优化器来寻找变量之间的关系。这个过程不仅包括了数据的生成和模型的训练,还涉及到了模型参数的保存。在ModelArts平台上,算法的实现通过一个Python脚本tf_modelart.py完成,该脚本包含了数据生成、模型构建、训练过程以及最终的模型保存。特别地,使用了TensorFlow的SavedModelBuilder来保存模型,这使得模型可以方便地被导入和部署。接下来,文章介绍了如何在ModelArts上创建训练作业,包括设置启动文件、数据存储位置和运行参数。完成训练后,模型会被保存在对象存储服务(OBS)中,为后续的模型导入和部署做准备。模型导入阶段,需要确定模型服务的输入输出接口和推理代码,这些信息将被用于生成config.json配置文件和推理代码customize_service.py。config.json定义了服务的HTTP接口规范,而推理代码则实现了模型的加载、预测和结果返回。最后,文章讨论了服务的部署过程,包括准备环境、拉取镜像、启动服务等步骤。一旦服务启动成功,就可以通过RESTful风格的HTTP服务对外提供调用。文章还提供了服务测试的示例,展示了如何验证服务返回的正确性,并在出现问题时通过日志进行排查。整体而言,本文为读者提供了一个清晰的框架,指导如何在ModelArts上实现从算法开发到模型部署的全流程。通过这个过程,开发者不仅能够获得宝贵的实践经验,还能够理解如何在云平台上有效地管理和部署机器学习模型。感兴趣可以查看 cid:link_0
  • [其他] 通过TensorFlow Serving(TF Serving)实现模型的无缝部署和更新
    在华为云ModelArts平台上,TensorFlow框架被广泛应用于开发和训练深度学习模型。本文将探讨如何高效地保存、部署以及加载这些模型,特别是通过TensorFlow Serving(TF Serving)实现模型的无缝部署和更新。TF Serving是一个强大的系统,它允许开发者在不更改服务器端和API的情况下,部署新的算法或进行实验。这种能力极大地简化了模型部署流程,尤其是在需要频繁更换或测试不同模型时。传统的TensorFlow模型保存方法存在局限性,例如仅保存变量时需要重新定义模型的计算图,或者需要维护额外的配置文件来同步模型参数。为了克服这些限制,tf.saved_model模块提供了一种更优的解决方案。tf.saved_model模块的核心是SavedModelBuilder类,它允许开发者通过简单的API调用来保存模型。首先,通过初始化SavedModelBuilder对象并指定保存模型的目录,然后使用add_meta_graph_and_variables方法导入模型的计算图和变量信息。最后,调用save方法将模型序列化到指定目录。在载入模型时,可以使用tf.saved_model.loader.load方法,通过指定模型保存时的标签和目录,快速恢复模型状态。这种方法的优势在于,它允许开发者在不关心具体张量名称的情况下,通过SignatureDef协议来封装模型的输入输出信息。SignatureDef是一种定义模型输入输出别名的机制,它允许开发者在模型保存和使用时,不必关心张量的具体名称。这样,即使模型的内部结构发生变化,只要输入输出的别名保持一致,就无需修改使用模型的代码。使用SignatureDef来创建模型的输入输出协议,并在保存和载入模型时应用这些协议。这种方法不仅提高了模型部署的灵活性,也简化了模型的维护和更新过程。
  • [热门活动] HCDG北京站精彩回顾| AI原生应用的探索与创新技术沙龙成功举办
    6月15日, HCDG城市行·北京站——“AI原生应用的探索与创新”技术研讨沙龙圆满举办。活动特邀来自华为云和华为云HCDE圈层的专家们为与会开发者带来一场别开生面的技术交流活动。为正在探索AI创新之路的企业与开发者们赋能助力,与开发者共同探索AI技术的无限可能。句子互动联合创始人& CTO、华为云HCDE  高原活动伊始,句子互动联合创始人& CTO、华为云HCDE高原进行《AI Workflow 的敏捷开发》的主题演讲,他表示敏捷开发的核心在于快速迭代和持续交付,它要求我们在开发过程中不断收集反馈,快速调整策略,以适应不断变化的需求和技术环境。面对功能挑战,如精确控制的记忆、主动被动结合的沟通场景、自有系统逻辑的融合介入;以及迭代挑战,包括分析不符合预期的回答和保证新变动不影响旧逻辑。敏捷开发策略可总结为如下3点:一是快速迭代需要快速反馈,通过调优中心和一键导入测试中心实现;二是流程中节点验证和流程运行完动作校验,确保执行结果清晰可见。三是版本控制保证测试和生产环境的互不干扰,并通过不同版本的用例测试进行效果比对。通过他现场的操作演示,开发者们对这一理解更加深刻。华为云EI解决方案专家  张瑞锋随后,华为云EI解决方案专家张瑞锋为到场的开发者们介绍了华为云昇腾算力和盘古大模型,他表示在大模型产业的潜在空间极大,其本质是对人类知识的数字化,未来基础大模型的构建还需要企业与人才的持续投入。基于华为打造全栈的AI解决方案,充分释放AI算力潜能,通过ModelArts一站式开发平台为开发者提供全套工具,实现快速训推与部署。开发者们还可以在AI Gallery部署开源模型,支持百模千态一键部署。他指出大模型的开发与应用是一个复杂的系统工程,其训练需要在大规模数据处理和分布式并行训练方面具备广泛实践经验,例如在集群建设、数据准备、模型训练、推理压缩、应用开发等方面会遇到许多问题和挑战,这些都可以靠华为解决。华为云通过提供全套的开发套件使能开发者,提升行业大模型开发效率的同时也为用户和伙伴创造价值。此外他还介绍了盘古大模型在政务、互联网、影视、游戏等多个行业应用实践案例,进一步阐释了人工智能发展从局部探索正在走向千行百业。聆心智能CEO、华为云HCDE  郑叔亮最后,聆心智能CEO、华为云HCDE郑叔亮发表了《超拟人大模型和心理支持与陪伴》的主题演讲,介绍了超拟人大模型的概念、进展以及心里健康解决方案。他提到超拟人大模型是在效率价值及创意价值的基础上为用户进一步提供情绪价值,主要应用在情感陪伴、心理健康、教研教学等有个性化需求的领域。同时他还从高安全、强可控、拟人化多个角度对Emohaa、CharacterGLM、OPD-2拟人化LLM进行分析,以及应用于教育、文娱、营销等落地场景,提供AI Native社交/陪伴体验,展现沉浸式多模态交互。同时现场还邀请到了华为云DTSE专家(开发者技术支持工程师)与开发者们深入交流技术难题,解答开发困惑并提供对应的解决方案,为开发者用云开发保驾护航。未来华为云将继续携手广大开发者共同推进AI大模型创新技术应用的落地,共建繁荣的AI生态!
  • [其他] Open-SORA模型训练介绍
    Open-SORA模型训练是一个结合了视频生成和文本到图像生成技术的先进过程。该模型深受Stable Video Diffusion工作的启发,同时借助了成熟的文生图(text-to-image)模型,为用户提供了从文本描述直接生成高质量视频的能力。在Open-SORA模型训练过程中,首先,模型会接受大量的文本-视频对作为训练数据。这些数据中包含了各种场景的文本描述以及对应的视频片段。通过这些数据,模型能够学习到如何将文本中的语义信息映射到视频帧的视觉特征上。接着,模型会利用Stable Video Diffusion的思想,通过逐步添加噪声和去噪的过程,来模拟视频帧的生成过程。在这个过程中,模型会不断地尝试预测缺失或模糊的帧内容,从而逐渐生成出完整的视频序列。同时,Open-SORA模型还借鉴了成熟的文生图模型。这些模型已经具备了从文本描述中提取关键语义信息,并将其转换为高质量图像的能力。在Open-SORA中,这些技术被进一步扩展到了视频领域。模型能够利用文本描述中的信息,生成出与文本内容高度一致的视频帧。最后,通过大量的迭代和优化,Open-SORA模型能够逐渐提升其生成视频的质量和多样性。训练完成后,用户只需提供一段文本描述,模型就能够快速地生成出与文本内容相匹配的高质量视频片段。总之,Open-SORA模型训练是一个结合了多种先进技术的复杂过程,它为用户提供了从文本描述生成高质量视频的强大能力。
  • [案例分享] 华为云-昇腾适配-调研模板
    华为云-昇腾适配-调研模板
  • [开发环境] 急求:本地Pycharm开发的MindSpore模型迁移至云上训练报错,ModuleNotFoundError: No module named 'mindspore._c_expression'
    按照如下指导操作,执行到 步骤2:使用PyCharm进行本地开发调试 的最后一步时出现报错https://support.huaweicloud.com/bestpractice-modelarts/modelarts_10_0021.html#section3报错内容:C:\Users\xxxx\AppData\Local\Programs\Python\Python37\python.exe "D:\xxxx\models-master\official\cv\ResNet\train.py" --net_name=resnet50 --dataset=imagenet2012 --data_path=../../../dataset/flower_photos/ --class_num=5 --config_path=./config/resnet50_imagenet2012_config.yaml --epoch_size=1 --device_target=CPU  Traceback (most recent call last):   File "D:\xxxx\models-master\official\cv\ResNet\train.py", line 18, in <module>     import mindspore   File "C:\Users\xxxx\AppData\Local\Programs\Python\Python37\lib\site-packages\mindspore\__init__.py", line 18, in <module>     from mindspore.run_check import run_check   File "C:\Users\xxxx\AppData\Local\Programs\Python\Python37\lib\site-packages\mindspore\run_check\__init__.py", line 17, in <module>     from ._check_version import check_version_and_env_config   File "C:\Users\xxxx\AppData\Local\Programs\Python\Python37\lib\site-packages\mindspore\run_check\_check_version.py", line 29, in <module>     from mindspore._c_expression import MSContext, ms_ctx_param ModuleNotFoundError: No module named 'mindspore._c_expression'  Process finished with exit code 1 
  • [部署上线] 北京4创建的ai应用 在贵阳1运行时报错
    把北京4创建的ai应用上传到ai gallery后,在贵阳1部署上线时报错:Step 1/13 : FROM swr.cn-southwest-2.myhuaweicloud.com/modelarts-infer-model-base-image/pytorch-model-server:2.0.1-20210916210141-python3.7 manifest for swr.cn-southwest-2.myhuaweicloud.com/modelarts-infer-model-base-image/pytorch-model-server:2.0.1-20210916210141-python3.7 not found上传前已经把config文件里的runtime改成Python3.7    ai应用的运行环境显示也是Python3.7 为什么还是报错
  • [问题求助] 人工智能在医疗领域的APass有哪些成熟应用
    人工智能在医疗领域的APass有哪些成熟应用
  • [技术干货] 赛题解读|第十九届“挑战杯”揭榜挂帅专项赛·华为命题
    挑战杯是由共青团中央、中国科协、中国社会科学院、教育部和全国学联共同主办的全国性的大学生课外学术实践竞赛。第十九届“挑战杯”揭榜挂帅专项赛·华为命题正在火热招募ing,本次华为命题设立了高校和青年科技人才两大赛道,不仅挑战性强,而且设置了高达390,000+元的奖金。那么在本次大赛中开放的技术成果有哪些亮点?开发者如何借助这些技术能力创造出神奇作品呢?快收下这份超全的赛题解读攻略!一、赛题介绍(具体的指导文档可扫描下方二维码的赛题详情获取哦!)二、技术能力华为昇腾AI云服务技术能力解读:自主可控,构建AI云底座:昇腾AI云服务通过优化架构,重构了云基础设施,利用多样化算力池、高性能缓存池和分级存储池等多层池化技术,减少由上到下的计算代价,大大提升了资源利用率,充分释放了昇腾规模云算力。简化开发,让AI落地更简单:AI开发生产线ModelArts,提供了包括昇腾工具链、SDK、CLI、IDE插件等端到端生产工具链,支持数据管理、模型开发、训练、推理等全流程MLOps开发,提供了统一资源调度能力,提升AI开发效率,降低AI开发门槛和成本。开放兼容,支持百模千态:AI Gallery纳管业界主流开源大模型,持续改造和适配,在昇腾算力上保障性能和精度,开箱即用;并且提供了大模型微调、Prompt和测评等开放工具链,开发者可以构建即开即用的大模型服务。鸿蒙智能终端及APP开发技术解读:鸿蒙操作系统是一款支持多设备、采用分布式架构的高性能操作系统。它能够无缝运行在智能手机、平板电脑、智能手表及智能家居等终端设备上,实现跨设备协同,优化用户体验。同时,鸿蒙系统还具备强大的性能适配能力,满足不同设备的运行需求。更重要的是,它提供了多层次的安全机制,确保用户数据和隐私得到严密保护。这些特点使鸿蒙操作系统成为智能设备领域的杰出代表。鸿蒙智能终端开发涉及硬件适配、驱动开发以及系统定制。开发者需基于鸿蒙操作系统的硬件抽象层(HAL)适配设备,确保系统稳定运行。同时,需编写驱动程序以实现设备与系统的通信。此外,开发者还能根据设备特性和用户需求,对鸿蒙操作系统进行个性化定制,提供独特的功能和界面,以满足不同用户的需求。这些工作共同确保了鸿蒙智能终端的高效开发和卓越性能。鸿蒙APP开发环境由华为提供的DevEco Studio支持,集成了全流程开发工具。开发者主要采用ArkTS编程语言,并利用鸿蒙丰富的组件库进行组件化开发,轻松实现APP功能和界面。鸿蒙APP支持跨平台运行,开发者可以针对不同设备进行优化,确保最佳用户体验。这一完整的开发流程和工具链,极大地提升了鸿蒙APP的开发效率和质量。三、基于上述能力,参赛开发者可以提升开发效率:使用昇腾AI云服务,开发者可以在完善的工具链基础上,实现从数据处理、算法训练到模型部署的全流程开发,更快地进行模型迭代。提升应用效果:借助优质稳定的基础大模型,使用便捷的微调和测评工具,开发者可以快速构建自己的大模型应用,提高任务精度。四、技术应用案例美图:基于昇腾AI云服务,华为云与美图围绕影像产品及解决方案设计、AIGC创新应用等领域深度推进合作,打造互联网行业多模态场景服务,提供便捷、高效、高质的影像创作解决方案。服装图片的制作时间由“天”级降至“秒”级,缩短新品上架周期,帮助服装行业降本提效。双鹿:依托ModelArts开发平台,华为云与双鹿电池联合打造了一套柔性检测系统,实现全自动在线检测,自主工作,可以做到24小时无人值守,减少人工劳动力,机器自动通过人工智能学习方法,把缺陷识别出来,并通过自动化设备在缺陷处标记,以方便供人工复检。综合人员效益和退还成本,这套系统成功帮双鹿电池每年创造了百万以上的收益。山能:借助昇腾云、ModelArts、盘古大模型等华为云全栈AI能力,山能集团建设了集团人工智能训练中心,具备视觉大模型、图网络大模型、多模态大模型、自然语言大模型等四大能力,探索和发掘煤矿生产领域全场景的人工智能应用,通过技术创新实现“人工智能大规模下矿”,让员工远离井下作业环境,实现“高效、安全、可持续性”的生产运营管理。在这里,欢迎各路大神集结,一起竞技打擂,开发创新应用,共创AI质检新篇章!
  • [训练管理] 创建训练作业时报错
    创建训练作业时报错:[ModelArts Service Log][ERROR][2024/06/11 16:17:07]: moxing copy dataset by manifest file failed: [Errno {'status': 404, 'reason': 'Not Found', 'errorCode': 'NoSuchBucket', 'errorMessage': 'The specified bucket does not exist', 'body': None, 'requestId': '00000190065EE99CE045AA085CAB174F', 'hostId': '8FJIivvMN9pmPox9zrbGGIQSjFQ+thuBrLYvi3EvjVAbSSLd6QSQQJrOil1zocgw', 'header': [('date', 'Tue, 11 Jun 2024 08:16:41 GMT'), ('content-type', 'application/xml'), ('content-length', '317'), ('connection', 'close'), ('x-reserved', 'amazon, aws and amazon web services are trademarks or registered trademarks of Amazon Technologies, Inc'), ('request-id', '00000190065EE99CE045AA085CAB174F'), ('id-2', '32AAAQAAEAABAAAQAAEAABAAAQAAEAABCSSFIwPI3A6e/G0S4ImPSiAqKoZQjD4+')]}] file or directory or bucket not found.是数据集没找到吗 
  • [问题求助] AI Gallery中的免费GPU算力最多同时支持多少人在线?
    AI Gallery中的免费GPU算力最多同时支持多少人在线?
总条数:3065 到第
上滑加载中