如何让大模型变成很好的工作帮手，并且在这其中得到良好的互动和获得感呢？可以参考一下别人的经验，如下：我并不经常把大语言模型 (LLM) 当作搜索工具或知识库来使用。我不会用它们来完整地自动处理一个任务，它们也不是我生活中的自动化工具。我不依赖生成式 AI 来取代我的创造力。我更喜欢与它们进行互动，我的决策和专注始终贯穿于这个过程。大语言模型并没有让我一夜之间成为超级程序员。那些认为大语言模型和自动化可以替代员工的 CEO 和 AI 界的意见领袖，我认为他们的想法很短视。但是。大语言模型给了我极大的快乐，我非常享受与它们的互动。它们激发了我对所参与的每件事情的兴趣和热情 - 对我来说，它们不仅仅是一个工具或自动化的替代品，而是一个充满乐趣的助手，帮助我学习和进步。至少在过去十年中，没有任何技术能像现在这样让我感到这么多快乐和敬畏。虚拟现实？让人不适和恶心。增强现实？让你时刻被工作、通知和广告所困扰。加密货币？无用，滋生犯罪，充斥着欺诈。Web3？只不过是资本家的小把戏，试图将我们的生活完全商品化。过去的十年，我们见证了太多被过分吹噜的平庸技术。但是，在我看来，AI 才是真正的下一个（或者说已经是当前的）重大飞跃大语言模型和生成式 AI 的魅力不仅仅在于商业或生产力，也在于它们的趣味性和愉悦感 - 是的，技术应该是有趣的，令人享受的。我想重温我七岁时的那种兴奋，当时我正在探索 DOS、Windows 3.11，学习 Turbo Pascal 编程，并且开始接触 Web 1.0，制作我的第一个“无用”HTML 主页。我们的价值不应该只是在于提高生产力和为资本增值。这也是为什么我坚信，应该发展和推广开源大语言模型，让每个人都能平等地接触这些技术。尽管对大语言模型存在一些技术上和社会上的担忧和批评，我仍然保持乐观态度。这些问题看起来是可以解决的，而且这样做是值得的。大语言模型会继续进步，但即便它们不再有太大的变化，我也会满足于现有的模型，因为它们已经在很大程度上丰富了我的生活。我希望这篇文章能展示给你大语言模型的这些乐趣，并鼓励你以新的方式去体验和享受它们。

一名开发者列举了他日常使用 ChatGPT 的用法，如下应用案例 - 编程和控制台工具编写 ffmpeg/ImageMagick 命令行写小段脚本（Python、Javascript）编写正则表达式用不同的语言/框架重写代码片段制作 LaTeX 图表与表格数据转换与可视化呈现从图像和图表中提取数据应用案例 - 语言、图像和知识英语语法纠错精简和重塑段落将想法转化为文字总结文章总结 YouTube 视频解释学习过程中遇到的错误翻译私人导师生成图像 - 音乐封面生成图像 - 灵感集和参考资料创意头脑风暴 - 挑选标题和主题知识库其中有个别的我也用过，比如生成代码片段，语法纠错等。其他的则没有。感觉很有必要去尝试一下，一定能找到新的价值。

大模型在BI分析的应用，可以大大缩短了BI分析的报表设计、数据建模等交付周期，更可以穷尽企业有限域的全量指标、模型和报表，用户输入问题后，大模型识别问题意图，解析决策变量，生成SQL数据查询语句，匹配企业实时数据，自动生成最佳决策方案，满足用户更灵活智能的数据需求，实现“问答即洞察”，带来基于动态因子、实时数据的决策革命。例如，当问到“为什么某车型产量不及预期？”时，未来大模型可先将预期产量和实际产量对比，得出差值后，不仅仅是对显性变量的分析（例如：生产因设备等原因的异常停产20分钟、某型号配件质量异常等），而是分析涉及的所有变量（例如：原材料供应波动、能源消耗及供应稳定性）。通过对数据排查，最终找出关联性最大的原因并生成可视化报表。我觉得，如果能落地，那对于企业决策真的是太有帮助了。比BI分析师来的快多了。

OpenAI 在研发 GPT 系列模型过程中,主要探索了 GPT-1(1.1亿参数)、GPT-2(15 亿参数)、以及 GPT-3(1750 亿参数)三个不同参数规模的模型，谷歌也推出了参数规模高达 5400亿参数的 PaLM 模型。当模型参数规模达到千亿量级,语言大模型能够展现出多方面的能力跃升。例如，GPT-3 在没有微调的情况下，可以仅通过提示词或少数样例 (In-context learning,上下文学习)完成多种任务，甚至在某些任务上超过当时最好的专用模型。也因此，学术界引入了“语言大模型”(Large language models)来特指这种超大规模的预训练语言模型，以突出与早期预训练语言模型的不同。

提供素材生成提纲按提纲生成多页PPT单页PPT按内容结构生成段落层级按内容生成匹配图像调整风格和整体结构要是AI能这样帮助生成PPT，那能提高多少的工作效率啊。所有要写PPT的人都开心了不知道现在有没有能实际用的上的生成PPT的AI工具？

增加了更多的数据，并针对工具链进行了优化。此次正式开源的拥有130亿参数的iFlytekSpark-13B模型（讯飞星火开源-13B），也是首个基于全国产化算力平台“飞星一号”的大模型。地址：cid:link_0iFlytekSpark-13B不仅具备通用任务处理能力如聊天、问答、文本提取和分类等，还具备数据分析和代码生成等生产力功能。特别在学习辅助、数学、推理等领域进行了深度优化，大幅提升模型的实用性和易用性。本次开源包含基础模型iFlytekSpark-13B-base、精调模型iFlytekSpark-13B-chat，微调工具iFlytekSpark-13B-Lora、人设定制工具iFlytekSpark-13B-Charater。模型结构：iFlytekSpark-13B使用Rotary Embedding作为位置编码方法，GELU作为激活函数，其中layer_num为40，head_num为40，hidden_size为5120，ffn_hidden_size为28672。效果评测：在八个具有挑战性的中英文测试集上对模型进行性能评估。其中chat模型采用0-shot进行测试，base模型在C-EVAL，MMLU，CMMLU，FinanceIQ测试集上采用5-shot进行测试，其余测试集采用0-shot进行测试。数据集介绍：C-EVAL：C-Eval 是一个全面的中文基础模型评估套件，涵盖了52个不同的学科和四个难度级别，验证集包括1346个选择题，测试集包含12342个选择题MMLU：MMLU 是一个庞大的多任务数据集，由各种学科的多项选择题组成。其中包括57个任务，涵盖了人文学科、社会科学、自然科学和其他对某些人学习很重要的领域。CMMLU：CMMLU 是一个综合性的中文评估基准，涵盖了从基础学科到高级专业水平的67个主题。涵盖了自然科学、人文科学和社会科学等领域。AGIEVAL：AGIEval 是一个专门为评估基础模型在以人类为中心的标准化考试（如大学入学考试、法学院入学考试、数学竞赛和律师资格考试）的语境中而设计的基准测试。ARC：包含了ARC-E和ARC-C，它们分别是ARC数据集中的简单集和挑战集，分别有5197 和2590 个问题。这些问题是仅文本的英语语言考试问题，跨越了多个年级水平。GaoKao：GaoKao收集了从 2010 年到 2022 年的高考试题，包括 1781 道客观题和 1030 道主观题。本项目报告结果为GaoKao中客观题结果。FinanceIQ：FinanceIQ 是一个专注于金融领域的中文评估数据集，涵盖了10个金融大类及36个金融小类，总计7173个单项选择题。

小白开发者，如何上手语言大模型应用，一张思维导图帮助你，请看：从1到7，一步步来：如何调用大模型 API，本节介绍了国内外知名大模型产品 API 的多种调用方式，包括调用原生 API、封装为 LangChain LLM、封装为 Fastapi 等调用方式，同时将包括百度文心、讯飞星火、智谱AI等多种大模型 API 进行了统一形式封装；大模型开发流程及架构，大模型应用开发的基本流程、一般思想和本项目的架构分析；数据库搭建，不同类型知识库文档的加载、处理，向量数据库的搭建；Prompt 设计，如何设计 Prompt 来让大模型完成特定任务，Prompt Engineering 的原则和技巧有哪些；验证迭代，大模型开发如何实现验证迭代，一般的评估方法有什么；前后端开发，如何使用 Gradio、FastAPI 等框架快速开发大模型 Demo，展示应用能力。参考：datawhalechina.github.io/llm-universe/

目前看好像不是特别好。但这个是一个会有很大应用场景的能力。大模型文档对话的核心功能就是让模型能够理解和解释文档中的信息，并根据用户的问题和需求提供准确的回答和解释。通过训练，大模型可以学习到如何从文档中提取关键信息，并根据上下文生成适当的语言回应，从而帮助用户更好地理解文档内容。因此，大模型文档对话可以被视为一种智能化的文档阅读和理解系统。如果大语言模型在这个方面能够做好，我觉得对于人的知识学习会有一个很大的提升。比如，让大语言模型读懂《红楼梦》，成为一个红学家，然后，你有什么问题，可以随时的去问他。如果这个可以实现的话，想想还是挺让人兴奋的。然而遗憾的是，即便是ChatGPT，这方面的能力也是差强人意。以下是具体分析：与 PDF 对话之难，及 ChatGPT 在此领域的不足 - 原因分析目前最普遍的 GPT-4 应用之一是“文档/PDF 对话”功能。这被认为是 AI 聊天机器人的一项杀手级应用，因为要读懂内容繁多的文件是很烦人的事 —— 相比之下，直接让大语言模型帮你解析并总结内容显得更加简便。然而，遗憾的是，当处理超过 10 页的 PDF 文件时，ChatGPT 的表现并不尽如人意。它所提供的总结往往过于简略且笼统，甚至在被要求提供更多细节时会直接拒绝。造成这一问题的原因之一是，这不是一个简单的应用场景。OCR - 有效的 OCR 技术是必需的，它需要能够精确解析表格和图像。但目前无论是免费的还是商业的 OCR 技术都难以做到这一点。大量商业和研究用的 PDF 文件中含有众多表格和图像。上下文 - 尽管我们现在有 128K 上下文长度的大语言模型，但目前尚不清楚 ChatGPT 实际部署了哪种模型。如果你对一篇论文进行 OCR 处理后再输入其文本给 ChatGPT，它经常会出现错误。我怀疑 ChatGPT 服务的是一个上下文长度更小的模型。快速 RAG - 实施一个简单的 RAG 处理流程，即将文档分块、嵌入、检索结果后再传递给大语言模型，可能是一个有效的解决方法。但目前的聊天机器人尚未具备这样的功能。突出文档关键部分 - 理想的解决方案应当能够明确展示出答案来源于文档的哪些部分。这将极大地简化验证过程。理想情况下，与 PDF 对话的功能应包含以上所有特点。似乎，如果一款独立的应用程序能够很好地实现这些功能，即使在应用商店中也能获得可观的收入。不过，我认为这并不适合作为一个获得风险投资支持的创业项目，更像是一个一两人小团队可以经营的小本生意，足以成为一种舒适的生活方式。简言之，实现一个看似简单的“与 PDF 对话”功能，其实是一个复杂且难以做到极致的任务。

编程逻辑是ChatGPT对比过去传统AI算法及预训练模型表现最优异和突出的场景。ChatGPT实现了：程序员负责聊天提需求，AI来写代码实现逻辑。事实当然还没有乐观到不再需要程序员的地步，但ChatGPT确实可以一定程度上解放程序员的双手。同时拥有GitHub和OpenAI的微软公司，毫无疑问正是AI辅助编程领域的急先锋。微软副CTO：sam schillace根据自己的使用经验，总结了9条将ChatGPT用于软件编程领域的原则。这9条原则，既包括一些ChatGPT用于编程的优点和最佳实践，也包括ChatGPT作为编程助手有什么缺点的阐述。这几条原则在英文中颇有韵律感和哲学意味。Based on his experience with GPT-4, Microsoft’s Deputy CTO Sam Schillace developed nine principles for using LLMs to create software. We call them the “Schillace Laws”:Don’t write code if the model can do it; the model will get better, but the code won’t.Trade leverage for precision; use interaction to mitigate. //不是很懂Code is for syntax and process; models are for semantics and intent.The system will be as brittle as its most brittle part.Ask Smart to Get Smart.Uncertainty is an exception throw.Text is the universal wire protocol.Hard for you is hard for the model.Beware pareidolia of consciousness; the model can be used against itself. //不是很懂

 1.情景概述         假设最一般的情况，我们的机械臂有六个自由度，那么从初始状态想要变化到目标的状态，一般情况下我们至少需要进行六次的变换，而这六次变换的矩阵参数隐含在整体的变换矩阵中。  图片请看原文！！！          根据之前的知识，左上角的3*3代表了三个单位向量的转置，这九个数6个限制条件：模长为一、两两垂直，决定了有三个自由度。右上角的3*1代表了平移变换，共三个自由度。而我们6次的变换都有12个三角函数关系式，对应着6个未知数和6个限制条件，我们的目标就是为了求解这六个未知数。  2.求解概念  2.1Reachable workspace 机械臂可以用一种以上的姿态到达的位置，左图的同心圆以及右图的圆（不包括边界）。  2.2Dexterous workspace 机械臂可以用任何的姿态到达的位置，右图的中心点。  2.3Subspace 机械臂在定义头尾的变换矩阵T所能到达的变动范围    比如这个2自由度的机械臂，引入（x,y）坐标，那么他的T是固定的：   可以看到，如果（x,y）一定，那么实际上左边的角度也都是确定的；而且，所能到达的位置也是有限的，因为旋转矩阵的九个数字已经有五个数字是确定的，只有四个数字可以发生变化。  2.4多重解 很多时候，到达一个点有多种驱动的实现方式，举一个例子，PUMA（6 rotational joints）    针对特定的工作点，前三轴会对应四种姿态，而每种姿态，具有两种的手腕转动姿态，因此共有八组解。不难发现这些角度有如下的关系：    但是由于机械结构的限制，未必每组解都会成为可行解。  选择解的方式要考虑以下几点：  1.相对于目前状态最快实现  2.相对于目前状态最节能  3.可以躲避障碍物  3.求解方法  3.1解析法 解析法分为代数法或几何法。目前来讲设计的大多数手臂都存在解析解，而且为了便于求解，通常将后三个轴交于一点。  3.2数值法 3.3求解过程 下面我们来看一个例子，分析其求解过程。    我们已知的条件是（x,y,φ），目标是要求解（θ1，θ2，θ3），即：  已知：    ，来求解     几何法：空间几何拆解成平面几何   量化计算结果如下所示：    代数法：建立方程式  首先根据两个矩阵建立方程式，通过观察首先求解θ2，然后通过大小判断是否有解，有几组解：    其次将θ2带入方程式：    再进行变数变换：    随后求解θ1：   当我们的θ2选择不同的解，θ1也会跟着产生变化。  最后求解θ3：    三角函数方程式的求解  ———————————————— 版权声明：本文为CSDN博主「HIT-Steven」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。 原文链接：https://blog.csdn.net/lqm1094583745/article/details/128401194 

2023年DTT直播对我产生了积极的深远影响，给我带来了丰富的收获与帮助，对我个人的成长和职业发展都有着重要的意义。1. 专业知识和技能的提升：DTT直播为我提供了学习和提升专业知识和技能的机会。通过聆听讲座、参与互动环节和案例分析，我受益匪浅，对设计思维、团队协作、产品设计等领域有了更深入的理解和实践经验。这些知识和技能的提升，让我在工作中更加自信和高效，也为我未来的职业发展奠定了坚实的基础。2. 视野和格局的拓宽：DTT直播让我接触到了来自不同行业和领域的专家、学者和企业家，他们的分享和观点让我开阔了眼界，拓宽了视野。通过与不同背景的人交流探讨，我了解到了不同的文化、不同的思维模式和不同的工作方式，这让我更加包容和理解，也为我未来的工作和生活带来了新的启发和动机。3. 人脉和资源的获取：DTT直播是一个重要的社交和网络建立平台，让我有机会与志同道合的人建立联系，这对我的人脉和资源的获取有很大帮助。在DTT直播中，我遇到了一些优秀的专业人士，他们分享了宝贵的经验和洞察，也为我提供了潜在的合作机会。这些连接和资源，不仅拓展了我的工作和生活圈子，也为我未来的发展提供了可能。4. 创新和创造力的激发：DTT直播的氛围充满活力和创造力，激发了我的创新和创造性思维。通过聆听不同的演讲和参与不同的活动，我获得了许多新的想法和灵感。这些启发让我在工作中更加敢于创新和尝试，并帮助我以更开阔的视角看待世界，寻找新的机遇和挑战。5. 个人成长的鞭策：DTT直播为我提供了一个自我反省和成长的机会。通过参与DTT直播，我意识到自己的优势和不足，这让我更加注重个人发展和学习。我开始更加积极地寻找机会，提升自己各方面的能力，包括专业知识、沟通能力、领导能力等。DTT直播让我意识到，持续学习和成长对于个人成功和职业发展至关重要。总之，2023年DTT直播对我产生了积极而深远的影响，它为我带来了丰富的收获和帮助，让我在专业知识、技能、视野、人脉、创新能力和个人成长等方面都得到了显著的提升。这是一个难忘的学习和成长之旅，我非常感谢DTT直播提供的这个绝佳的机会。

cid:link_0开源大模型应用开发体验官用的是哪个官方镜像呢？应该是：pytorch1.10-cuda10.2-cudnn7-ubuntu18.04看截图：所以，如果要用自定义的镜像，可以在这个镜像的基础上去做定制。价钱7块多一个小时。还可以接受。

新年的钟声即将敲响，我代表ModelArts人工智能论坛向你们致以最诚挚的祝福和问候。感谢你们在过去的一年里，用你们的智慧和努力，为华为云的发展做出了巨大的贡献。在过去的一年里，我们共同见证了华为云的快速发展，这一切都离不开你们的辛勤付出和不懈努力。你们是华为云最宝贵的财富，也是我们不断前进的动力源泉。面向未来，我们将继续坚持开放合作的理念，与全球的开发者一起，共同推动云计算技术的进步与发展。我们将致力于提供更加开放、智能、安全的云服务，帮助企业实现数字化转型，创造更加美好的未来。同时，我也希望在新的一年里，华为云开发者社区能够继续发挥平台作用，聚集更多的优秀人才，共同探讨云计算领域的最新技术和应用场景。相信在你们的共同努力下，华为云将会在未来的发展中取得更加辉煌的成绩。最后，再次感谢各位对华为云的关注和支持。祝大家新年快乐，身体健康，工作顺利！让我们携手共进，共同迎接更加美好的未来！

问题现象服务状态一直处于“部署中”，查看AI应用日志未发现服务有明显错误。原因分析一般情况都是AI应用的端口配置有问题。建议您首先检查创建AI应用的端口是否正确。处理方法AI应用的端口没有配置，默认为8080，如您在自定义镜像配置文件中修改了端口号，需要在部署AI应用时，配置对应的端口号，使新的AI应用重新部署服务。如何修改默认端口号，请参考使用自定义镜像创建在线服务，如何修改默认端口。

问题现象启动服务失败，报错：资源不足，服务调度失败。（Schedule failed due to insufficient resources. Retry later.或ModelArts.3976：No resources are available for the selected specification.）原因分析实例配置的规格过大，CPU或者内存剩余资源不足；（"insufficient CPU" / "insufficient memory"）模型需要的磁盘空间大，磁盘空间不足；（"x node(s) had taint {node.kubernetes.io/disk-pressure: }" / "No space"）解决方法在遇到资源不足的情况时，ModelArts会进行三次重试，在服务重试期间，如果有资源释放出来，则服务可以正常部署成功。如果三次重试后依然没有足够的资源，则本次服务部署失败。参考以下方式解决：如果是在公共资源池部署服务，可等待其他用户释放资源后，再进行服务部署。如果是在专属资源池部署服务，在满足模型需求的前提下，尝试选用更小的容器规格或自定义规格，进行服务部署；如果当前资源池的资源确实不够，也可以考虑将资源池扩容后再进行服务部署。公共资源池扩容，请联系系统管理员。专属资源池扩容，可参考扩缩容资源池。如果磁盘空间不够，可以尝试重试，使实例调度到其他节点。如果单实例仍磁盘空间不足，请联系系统管理员，更换合适的规格。如果是大模型导入的AI应用部署服务，请确保专属资源池磁盘空间大于1T（1000GB）。