使用pycharm modelarts 上传training jobupload training code时生成了压缩包，而后无法读取此压缩包以下是我的事件日志

      在预算一体化平台的业务架构和功能架构搭建之后，随着AI架构逐步运行起来，慢漫开始出现了幻觉，这是模型泛化能力不强导致的。     这需要开始优化AI架构，增强模型泛化能力，减少模型幻觉。这需要聊到AI架构依赖的平台和工作间环境。AI架构模型如何逐步从一个一个的模型算子，组合起来变成一套整体功能的模型，实现独立的预测功能。算子有五个，通过流水线部署的方式，部署到工程平台上，MA平台部署的算子都是独立，之间没有关联起来。    之前谈过chatflow，这是一个MA平台的流程工作间，有了它，我们就可以把算子关联起来。我们先把算子跟训练数据集关联起来，训练数据库是存储在数仓里，上一回谈到数仓都是存储格式内容相对统一的数据，这里都是存放预算管理的训练数据。         模型输入了训练数据集后进行计算，模型采用了稀疏数据间插的算法，计算出每天的预测结果，通过曲线把未来30天的预测结果显示在图表上。       这些解析出来的结果要存储在数仓里，这也是依赖上回谈到数据架构。到这里你就会明白平台数据架构为什么要这样设计了。      在云平台上，数据架构存储空间会换成OBS，也就是桶，五个算子的结果会存放在同一个桶中，这个桶命名为预算管理模型训练桶。     这个OBS容量设计，我们预留了10T的空间，由于模型训练数据量比较大，通常要1000份数据作为训练数据集，根据2/8原则，还要预留250份数据作为测试数据集，共1250份数据集。     经过了平台和工作间的再训练，模型的幻觉减少了，原来识别精度只有1/6，训练后加强到1/12.5，这样的精度基本满足的预算的工作要求。

咨询项目调研完，客户提出一个问题：为什么不开发一个台风预测模型？ 它既用于地质领域。既可以保护人身安全，也可以避免台风带来的山体滑坡自然灾害发生，减少经济损失。在地质一体化平台上要开发这个台风预测模型，有一些共同的特点：首先要有一个厚重的云底座，底座上有强大的平台能力和数据存储能力，云数据库；除此之外，计算能力都非常强大，依赖于强大的计算硬件平台提供的算力，台风模型才可以迅速计算出台风相似路径的预测结果。经过前期业界的了解，我们在项目中初步画出了云平台和台风模型二者之间的架构轮廓：上层应用是应用平台，调用中台的台风模型，模型层之下是坚实的平台能力，包括云平台和数据平台，AI工程平台；平台依托在下层的硬件平台之上，包括强大的计算平台、海量存储能力、高速网络和牢靠的安全能力。依据这个轮廓，我们通过调研获悉，院内有地质云平台，但版本比较旧，3.0版本，很多高阶服务还不支持；还有院内各业务部门和上下级机关单位多年存储的业务数据，我们惊奇的发现这些数据非常宝贵，直接可以用来训练模型，存储量达15T之多。众所周知，大模型训练至少需要10000份数据，地质数据分为两类：调查文献资料和勘探地形地貌的GIS数据或向量数据。调研之后就是着手开始写架构规划了，下回咱继续聊。我正在参加【案例共创】第1期 书写云产品应用构建开发最佳实践/评测，共创官方文档https://bbs.huaweicloud.com/forum/thread-0217170307934787108-1-1.html

     咨询项目调研完，客户提出一个问题：为什么不开发一个台风预测模型？ 它既用于地质领域。既可以保护人身安全，也可以避免台风带来的山体滑坡自然灾害发生，减少经济损失。    在地质一体化平台上要开发这个台风预测模型，有一些共同的特点：首先要有一个厚重的云底座，底座上有强大的平台能力和数据存储能力，云数据库；除此之外，计算能力都非常强大，依赖于强大的计算硬件平台提供的算力，台风模型才可以迅速计算出台风相似路径的预测结果。     经过前期业界的了解，我们在项目中初步画出了云平台和台风模型二者之间的架构轮廓：上层应用是应用平台，调用中台的台风模型，模型层之下是坚实的平台能力，包括云平台和数据平台，AI工程平台；平台依托在下层的硬件平台之上，包括强大的计算平台、海量存储能力、高速网络和牢靠的安全能力。     依据这个轮廓，我们通过调研获悉，院内有地质云平台，但版本比较旧，3.0版本，很多高阶服务还不支持；还有院内各业务部门和上下级机关单位多年存储的业务数据，我们惊奇的发现这些数据非常宝贵，直接可以用来训练模型，存储量达15T之多。众所周知，大模型训练至少需要10000份数据，地质数据分为两类：调查文献资料和勘探地形地貌的GIS数据或向量数据。      调研之后就是着手开始写架构规划了，下回咱继续聊。     欢迎点赞原文和关注公众号“科技江河”，如果喜欢，欢迎打赏，感谢。

它山之石可以攻玉！模型需要训练和调试，众所周知。 在不同平台上，开发部署训练调试模型，所经历的过程是不一样的。这里我们介绍一下在国内五彩斑斓的云环境下如何“借鸡下蛋”。在2017年，国内云市场不如现在百花齐放，云的概念还没有普及。在Z市台风模型一体化平台上曾经借助OWS云开发环境，开发业务模型，这是当时为数不多在国内企业B端市场上活跃的一朵云。有公有云和私有云两种场景，这里介绍这个平台的开发模式，供读者参照对比。当时私有云部署不多，硬件平台也不具备条件，大多数企业采用公有云开发，在公有云上训练模型算法。项目平台基本的业务架构和AI架构都已设计好后，接下来就是逐步搭建云平台能力，让AI模型运行起来。首先配置平台，这是AI模型配置部署运行流水线。 配置有两种形式，一种是在华为云私有云部署配置，适用本地数据不允许外发到互联网的场景；一种是数据外发到华为内部，在内部云上进行模型部署配置。这是集众多AI模型功能于一体的平台，本咨询项目涉及到AI Galley和流水线。流水线要配置数据处理全周期，数据选型、数据清洗和数据存储三部分。数据选型是对AI模型的训练数据和测试数据进行选型，这个功能提供了用户选用地质数据的范围，并且按照理论化的配置，80%用于训练，20%用于测试。这个基础上，再设计模型数据的分类，数据选型前就已经搭好数据湖设计，则按地质业务，训练数据分为图表和文字这两类结构化数据，这是由于当时云环境还不支持非结构化数据。我正在参加【案例共创】第1期 书写云产品应用构建开发最佳实践/评测，共创官方文档https://bbs.huaweicloud.com/forum/thread-0217170307934787108-1-1.html

它山之石可以攻玉！模型需要训练和调试，众所周知。 在不同平台上，开发部署训练调试模型，所经历的过程是不一样的。这里我们介绍一下在国内五彩斑斓的云环境下如何“借鸡下蛋”。在2017年，国内云市场不如现在百花齐放，云的概念还没有普及。在Z市台风模型一体化平台上曾经借助OWS云开发环境，开发业务模型，这是当时为数不多在国内企业B端市场上活跃的一朵云。有公有云和私有云两种场景，这里介绍这个平台的开发模式，供读者参照对比。当时私有云部署不多，硬件平台也不具备条件，大多数企业采用公有云开发，在公有云上训练模型算法。项目平台基本的业务架构和AI架构都已设计好后，接下来就是逐步搭建云平台能力，让AI模型运行起来。首先配置平台，这是AI模型配置部署运行流水线。 配置有两种形式，一种是在华为云私有云部署配置，适用本地数据不允许外发到互联网的场景；一种是数据外发到华为内部，在内部云上进行模型部署配置。这是集众多AI模型功能于一体的平台，本咨询项目涉及到AI Galley和流水线。流水线要配置数据处理全周期，数据选型、数据清洗和数据存储三部分。数据选型是对AI模型的训练数据和测试数据进行选型，这个功能提供了用户选用地质数据的范围，并且按照理论化的配置，80%用于训练，20%用于测试。这个基础上，再设计模型数据的分类，数据选型前就已经搭好数据湖设计，则按地质业务，训练数据分为图表和文字这两类结构化数据，这是由于当时云环境还不支持非结构化数据。

感觉它吐内容，比我用的其他AI工具要明显快很多。为什么这么快，可以看下下面的解释，仅供参考：Mixture-of-Experts (MoE)架构，一种将LLM分割成多个子网络（或称为“专家”）的方法，每个子网络专注于处理输入数据的一个子集，以共同完成特定任务。（1）专家系统：MoE架构包含多个专家，每个专家都是一个独立的神经网络，能够处理特定的任务或数据类型。有多达256个专家，每个专家专注于处理特定任务。（2）动态路由：不是所有的专家都会参与到每一次的计算中，而是通过一种路由机制动态选择一部分专家进行计算。每次计算会选取前8个最相关的专家（topk=8）参与。（3）效率与性能：主要优势在于它减少了预训练和推理期间的计算成本。它通过有选择地激活特定任务所需的专家，而不是每次任务都激活整个神经网络，从而提高了效率。（4）参数激活：拥有671B的总参数，但每个任务仅激活37B参数，这优化了效率和性能。（5）负载平衡：引入了无辅助损失的负载平衡策略，动态监控和调整专家的负载，以平衡的方式利用它们，而不牺牲整体模型性能。DeepSeek-V3中的MoE架构通过将大模型分解为专家网络，并根据任务需求动态激活这些专家，实现了计算效率和性能的提升。

1. AI开发平台ModelArts新功能2024年11到12月份ModelArts发布的新功能。11月发布的新功能比较多，一共有11项。 12月没有发布新功能。ModelArts Notebook支持创建定时任务Lite Cluster节点支持批量计费Snt9b硬件故障支持在线服务故障自动重启通过VPC访问通道的方式访问在线服务MindSpore预置框架支持msrun和torchrun启动方式训练作业支持配置卡死检测时间训练作业支持批量录入超参和环境变量自定义镜像训练作业支持配置节点间SSH免密互信下面3项是关于MaaS的：MaaS支持免费体验预置服务：ModelArts Studio大模型即服务平台给新用户分配了每个模型100万Tokens的免费调用额度，无需部署即可一键体验通义千问、Llama、ChatGLM等预置模型服务。MaaS支持扩缩容模型服务的实例数MaaS模型服务提供内容审核服务2. 人工智能相关直播合集昇腾云服务ModelArts深度解析：理论基础与实践应用指南https://bbs.huaweicloud.com/live/cloud_live/202412031400.html如何快速创建和部署模型，管理全周期AI工作流呢？聚焦华为昇腾云服务ModelArts一站式AI开发平台功能介绍，同时结合基于ModelArts 的实践性实验，帮助开发者从理论到实验更好地理解和使用ModelArts。人工智能应用测试深度解析：理论基础与实践应用指南 https://bbs.huaweicloud.com/live/cloud_live/202412061430.html结合理论及人工智能的相关实验，给大家讲述AI应用测试的主要流程和方法。帮助开发者了解AI应用测试的理论及方法，和AI应用测试在模型迭代调优过程中的作用。这个对于对AI测试兴趣的朋友，一定要来看看，里面很多有用的知识。基于华为云AI的在线实验教学https://bbs.huaweicloud.com/live/cloud_live/202412101600.html如何部署ModelArts中开源大模型来完成智能问答任务，及如何调用华为云EI-自然语言处理服务的API接口呢？手把手带领大家一步步进行实验操作，深入体验基于华为云AI的实验过程。这个是具体的实验实操，可以跟着动手做一下。里面有一些有用的技巧。

LangChain 的亮点组件是其核心优势所在，它们以模块化的方式简化了复杂语言模型应用的开发。以下是 LangChain 中一些关键组件的详细介绍：1. Models（模型）LangChain 提供了统一的接口来调用多种语言模型，包括 OpenAI、Hugging Face、Anthropic 等。开发者可以轻松切换不同的模型，而无需修改大量代码。此外，LangChain 还支持自定义模型的集成，为开发者提供了极大的灵活性。亮点：标准化接口，支持多模型切换，降低模型依赖风险。2. Prompts（提示词）提示词是语言模型应用的核心。LangChain 提供了 PromptTemplate 组件，允许开发者动态生成提示词。通过模板，可以将用户输入、上下文信息或外部数据嵌入到提示词中，从而优化模型的输出。亮点：支持动态提示词生成，提升模型输出的准确性和相关性。3. Chains（链式任务）Chains 是 LangChain 的核心组件之一，用于将多个任务串联起来，形成自动化工作流。例如，可以构建一个链式任务，先从数据库中检索信息，再生成提示词，最后调用模型生成回答。LLMChain 是最常用的链，它将提示词与模型调用结合。亮点：简化复杂流程，支持任务自动化，提升开发效率。4. Memory（记忆机制）Memory 组件使应用能够在多轮交互中记住上下文信息。LangChain 提供了多种记忆机制，如 ConversationBufferMemory（短期记忆）和 VectorStoreMemory（长期记忆），帮助开发者实现上下文感知功能。亮点：支持短期和长期记忆，增强交互体验。5. Indexes（索引）Indexes 组件用于与外部数据源（如向量数据库）集成，使应用能够访问实时或特定领域的数据。通过 RetrievalQA，开发者可以快速构建基于检索的问答系统，将模型与外部知识库结合。亮点：支持数据检索，增强模型的知识覆盖范围。6. Agents（代理）Agents 是 LangChain 的高级组件，允许模型根据输入动态选择工具或动作。例如，一个代理可以决定是先调用搜索引擎还是直接生成回答。通过 Tool 和 AgentExecutor，开发者可以构建智能代理，实现更复杂的任务。亮点：支持动态决策，提升应用的智能化水平。7. Callbacks（回调）Callbacks 组件允许开发者在模型调用过程中插入自定义逻辑，例如日志记录、性能监控或错误处理。通过回调，开发者可以更好地控制和调试应用的行为。亮点：支持自定义逻辑，增强应用的可控性和可调试性。8. Utilities（实用工具）LangChain 提供了一系列实用工具，如文本分割器、向量化工具和 API 集成工具，帮助开发者处理数据、优化流程并扩展功能。亮点：提供开箱即用的工具，减少重复开发工作。总结LangChain 的亮点组件以模块化的方式解决了语言模型应用开发中的常见问题。无论是模型调用、提示词管理、任务自动化，还是数据检索和记忆机制，这些组件都显著降低了开发复杂度，让开发者能够更专注于构建创新应用。如果你正在探索大语言模型的潜力，LangChain 的这些组件无疑会成为你的得力助手。

LangChain 是一个强大的框架，旨在简化复杂语言模型应用的开发流程。通过提供模块化组件和标准化接口，LangChain 让开发者能够更轻松地构建、扩展和部署基于大语言模型（LLMs）的应用。以下是 LangChain 如何将复杂任务简单化的几个关键方面：1. 模块化设计，降低开发门槛LangChain 将复杂的语言模型应用拆分为多个模块，如模型调用、提示词管理、记忆机制、数据检索和链式任务等。开发者无需从头构建每个功能，只需根据需求组合这些模块即可。例如，通过 LLMChain，开发者可以快速将提示词与模型调用结合，而无需关注底层细节。2. 标准化接口，提升开发效率LangChain 提供了统一的接口，支持多种语言模型（如 OpenAI、Hugging Face 等）和数据源（如向量数据库、API 等）。开发者只需学习一次接口，即可在不同模型和工具之间无缝切换，避免了重复学习成本。3. 链式任务，简化复杂流程LangChain 的 “Chain” 功能允许开发者将多个任务串联起来，形成自动化工作流。例如，可以构建一个链式任务，先从数据库中检索信息，再生成提示词，最后调用模型生成回答。这种设计让复杂流程变得清晰易管理。4. 记忆机制，增强交互体验LangChain 提供了短期和长期记忆机制，使应用能够在多轮对话中记住上下文。通过 ConversationBufferMemory 或 VectorStoreMemory，开发者可以轻松实现上下文感知功能，而无需手动管理状态。5. 数据检索，整合外部知识LangChain 支持与向量数据库（如 Pinecone、Weaviate）和 API 的集成，使应用能够访问外部知识库。通过 RetrievalQA，开发者可以快速构建基于检索的问答系统，将模型与实时数据结合。6. 提示词管理，优化模型输出LangChain 提供了提示词模板和优化工具，帮助开发者设计更有效的输入提示。通过 PromptTemplate，可以动态生成提示词，提升模型的输出质量。7. 开源社区，加速问题解决作为一个开源项目，LangChain 拥有活跃的社区支持。开发者可以快速找到解决方案、学习最佳实践，甚至贡献自己的代码，进一步降低开发难度。总结LangChain 通过模块化设计、标准化接口和丰富的功能，将复杂语言模型应用的开发过程简化为可管理的步骤。无论是构建对话系统、自动化工作流，还是整合外部数据，LangChain 都能显著降低开发门槛，让技术爱好者更专注于创新而非底层实现。如果你正在探索大语言模型的应用，LangChain 无疑是一个值得尝试的工具。

请问一下，现在Modelarts云平台训练作业里面，有适配大模型的文档吗？

这个是创建训练作业界面运行的时候，报了下面的错误，有人知道是怎么回事吗，实在没搞出来，感谢！

面向对象检测的AI算法有许多经典模型，以下是一些常见的：基于锚点的物体检测器Faster R-CNN：这是一种两阶段的目标检测模型，利用区域提议网络（RPN）生成候选框，再通过全卷积网络（FCN）进行分类和定位。YOLO（You Only Look Once）：这是一种单阶段的目标检测模型，以其快速的检测速度和较高的准确性而闻名。YOLO系列包括YOLOv1、YOLOv2、YOLOv3、YOLOv4等版本，每个版本都有不同的改进和优化。SSD（Single Shot Multibox Detector）：这也是一种单阶段的目标检测模型，通过单个神经网络进行预测，解决了多尺度目标检测的问题。无锚式物体检测器CenterNet：这种模型消除了对预定义的锚框的需要，直接预测对象的中心或角。FCOS（Fully Convolutional One-Stage Object Detection）：这是一种全卷积的一级目标检测模型，直接预测对象的中心及其高度和宽度，而不依赖于预定义的锚。CornerNet：这种模型通过预测对象的角来检测对象，而不依赖于预定义的锚。基于Transformer的检测器DETR（Detection Transformer）：这是一个完整的对象检测框架，其中整个检测过程（包括特征提取、对象检测和边界框预测）都是使用transformers完成的。DETR消除了对区域建议网络、锚框或非最大抑制的需要。Vision Transformer (ViT)：将图像视为一系列面片，并使用Transformer对全局关系进行建模，用于对象检测任务。Swin Transformer：一个分层的Transformer，在非重叠窗口上运行，使其计算效率更高，更适合下游对象检测任务。其他经典模型Mask R-CNN：这是一个强大的通用对象实例分割框架，不仅可对图像中的目标进行检测，还可以对每一个目标给出一个高质量的分割结果。R-FCN（Region-based Fully Convolutional Network）：这是一种基于区域的全卷积网络，通过全卷积神经网络生成一个3x3的位置敏感卷积实现对位置信息编码，完成预测，实现对象检测。EfficientDet：这是一种一阶段的对象检测网络，基于EfficientNet网络作为基础网络，使用多尺度双向金字塔特征融合技术，其中权重特征融合使用了交叉尺度链接与权重快速归一化融合。这些模型各有优缺点，适用于不同的应用场景。在选择模型时，需要根据具体的任务需求、计算资源和数据集特点来进行选择。

自监督学习和监督学习是机器学习领域中的两种不同的学习范式，它们在数据标注需求、学习方法、应用场景和数据要求等方面存在显著差异。自监督学习与监督学习的对比对比维度自监督学习监督学习数据标注需求无需人工标注需要大量人工标注数据学习方法利用数据自身生成监督信号根据预先标记的数据进行训练应用场景无监督环境下的特征学习分类、回归和预测等问题数据要求无需人工标记的数据，但需要能够从数据本身派生标签的数据需要有大量标记的数据进行训练模型训练包括预训练和微调两个步骤直接使用标记数据进行训练常见任务对比学习、预文本任务等分类、回归等优势降低人工标注成本，提高模型表征能力训练数据集的标签准确可靠，模型精度和泛化能力高挑战任务设计复杂，训练资源需求大，可解释性问题依赖高质量标注数据，标注成本高昂未来方向跨学科结合，高效模型设计，可解释性增强优化模型结构，提升模型性能自监督学习与监督学习的选择自监督学习的优势：自监督学习在没有人工标注的情况下，通过从输入数据本身派生标签进行学习，特别适用于数据标注成本高昂、专业标注人员稀缺的情况。自监督学习能够从无标签数据中挖掘有用的信息，提高模型表征能力，同时避免了人工标注的繁琐工作。监督学习的优势：监督学习在训练数据集已知的情况下，通过学习输入与输出之间的映射关系来进行模型训练，适用于数据标注充足且明确的任务。监督学习的模型具有较高的精度和泛化能力，因为训练数据集的标签是准确可靠的。大规模数据集的选择对于大规模数据集，自监督学习可能更为适用，因为：标注成本：大规模数据集的标注成本通常很高，自监督学习可以通过设计预训练任务，从未标注的数据中生成标签，从而降低标注成本。模型性能：自监督学习能够学习到更加通用的数据表示，从而提升下游任务的性能，这对于大规模数据集来说尤为重要。数据多样性：大规模数据集通常具有更高的数据多样性，自监督学习可以通过对比学习等方法，更好地捕捉数据的内在结构和特征。然而，监督学习在某些情况下仍然是不可替代的，例如在需要高精度预测的场景下，监督学习的模型可能会表现得更好。因此，在实际应用中，需要根据具体任务的特点和数据的实际情况来选择合适的学习方法。

系统优化的关键：降低精度与算子融合在大规模机器学习模型的训练和推理过程中，系统优化是提升效率、降低成本的重要手段。其中，低精度计算和算子融合是两项具有重大实践价值的技术，它们通过减少计算复杂度和内存开销，显著提升了系统性能。1. 低精度计算：平衡效率与准确性低精度计算的核心思想是通过降低数值表示的精度来加速计算并减少内存占用。传统的深度学习模型通常使用32位浮点数（FP32）进行计算，但这种高精度表示会带来较大的计算和存储开销。16位浮点数（FP16）是一种常用的低精度格式。通过将矩阵运算从FP32降至FP16，可以显著提升计算速度并降低内存占用。这是因为FP16所需的内存带宽和计算资源更少，同时现代硬件（如GPU）对FP16的支持也更加高效。然而，低精度计算也面临一个关键挑战：数值精度不足可能导致模型训练不稳定或精度损失。为了解决这个问题，研究人员采用了一种精妙的策略：混合精度训练。在这种方法中，计算过程使用FP16，但模型权重和梯度更新仍保持在FP32。这样既利用了FP16的计算效率，又通过FP32确保了权重更新的准确性，从而在保证模型质量的同时大幅提升了训练效率。2. 算子融合：减少内存访问开销在深度学习模型的传统实现中，每个操作（如矩阵乘法、激活函数等）都需要与GPU内存进行数据交互。这种频繁的数据移动会显著增加内存带宽的压力，成为性能瓶颈。算子融合技术通过将多个操作合并处理，减少了内存访问次数，从而提升了计算效率。例如，在一个典型的神经网络层中，矩阵乘法和激活函数通常是分开执行的，这意味着需要将中间结果从GPU内存中读取和写入多次。通过将这两个操作融合为一个单一的内核函数，可以避免中间结果的频繁读写，显著减少内存带宽的占用。算子融合不仅减少了内存访问开销，还优化了计算资源的利用率。现代GPU的并行计算能力非常强大，但频繁的内存访问会限制其性能发挥。通过融合操作，可以更好地利用GPU的计算单元，提升整体吞吐量。