-
大规模语言模型(LLMs)如GPT-4如何生成自然语言?
-
自然语言处理(NLP)的主要挑战是什么?
-
什么是强化学习?它在游戏中如何应用?
-
神经网络的基本原理是什么?
-
人工智能如何在自动驾驶汽车中发挥作用?
-
什么是人工智能(AI)?它与机器学习和深度学习有何区别?
-
明显不会是这样,否则在增加网络深度的同时,又用残差块来退回到浅层,又不是吃饱了撑的,没事干了…残差模块的设计看似矛盾(增加层数后又试图“退化”回浅层),但其核心思想并非简单回归浅层网络,而是通过引入可控的退化能力来解决深度网络训练中的本质矛盾。一、深度网络的本质矛盾:表达能力与优化难度深度网络理论上具备更强的表达能力,但层数增加会导致梯度消失/爆炸和网络退化(训练误差反而增大)。传统方法中,网络只能被动接受所有层的累积误差,而残差模块通过主动构造退化路径,赋予网络两种选择:当深层无效时:残差函数 F(x)F(x)F(x) 趋近于0,输出 H(x)=xH(x)=xH(x)=x,等效于跳过当前残差块,退化为浅层网络当深层有效时:F(x)F(x)F(x) 学习到有效特征,输出 H(x)=F(x)+xH(x)=F(x)+xH(x)=F(x)+x,实现深度网络的表达能力这种设计相当于给网络装了一个“安全阀”,既保留了深度网络的潜力,又避免了被动退化带来的性能损失。二、残差模块的数学优势:优化目标的重构传统网络直接学习目标函数 H(x)H(x)H(x),而残差模块改为学习残差函数 F(x)=H(x)−xF(x)=H(x)-xF(x)=H(x)−x,这带来两个关键优势:梯度稳定性:残差连接为反向传播提供了“高速公路”,即使深层梯度趋近于0,输入 xxx 的恒等映射仍能传递有效梯度参数初始化友好性:当残差块权重初始化为0时,网络初始状态等效于浅层网络,随着训练逐步激活深层特征,避免初始化偏差导致的训练震荡实验表明,152层的ResNet在ImageNet上的误差(3.57%)远低于34层普通网络(6.7%),证明残差结构真正释放了深度潜力。三、实际效果:退化可控性 vs 被动退化普通深度网络的退化是不可控的,表现为训练误差随深度增加而上升(见图2)。而残差网络的“退化”是可控的:输入维度匹配时:通过恒等映射实现无损退化维度不匹配时:使用1x1卷积调整维度,保证退化路径的有效性这种可控性使得152层ResNet的训练误差始终低于34层基础网络,实现了“深度增加但性能不降反升”的反直觉效果。四、生物学与工程学的双重启示生物启发:昆虫大脑中发现的“多层快捷连接”与残差结构高度相似,说明这种设计符合生物神经系统的信息传递规律工程扩展性:残差模块可与其他技术结合(如注意力机制、随机深度剪枝),形成更复杂的结构(如Transformer中的残差连接+层归一化)总之,残差网络的设计体现了“以退为进”的智慧:通过允许网络主动选择退化,反而获得了超越被动堆叠层数的能力。这类似于武侠小说中“无招胜有招”的境界——看似放弃了对深度的强制约束,实则通过结构设计让网络自发找到最优深度。实验证明,这种设计使千层级网络的训练成为可能,彻底改变了深度学习的模型构建范式。
-
1. AI开发平台ModelArts新功能2025年1月份发布了一项新功能,支持了常见的第三方模型格式,具体如下:MaaS支持多数据模板和权重转化模型调优页面支持根据不同模型框架选择不同的模板框架上传数据集,支持Huggingface和Megatron两种权重格式。Huggingface格式可直接创建为我的模型或者添加为当前调优模型新版本。Megatron格式需要将权重转换为Huggingface格式之后,才能创建为新的模型或者创建已有模型的新版本。Hugging Face 权重格式:Hugging Face 权重格式主要用于存储和加载深度学习模型的权重,支持多种框架(如 PyTorch、TensorFlow 等)。常见的文件格式包括 pytorch_model.bin(PyTorch 二进制格式)和 model.safetensors(SafeTensors 格式,更安全且加载速度快)。该格式还包含模型配置文件(如 config.json)和分词器相关文件(如 vocab.json 和 merges.txt),便于模型的初始化和文本处理。Megatron 权重格式:Megatron 权重格式专为大规模分布式训练设计,支持高效的张量并行和流水线并行。它通常用于存储经过优化的模型权重,适用于高性能计算场景。Megatron 格式支持与 Hugging Face 格式之间的转换,方便用户在不同框架间迁移模型。2. 人工智能相关直播合集DeepSeek深入浅出白话解读https://bbs.huaweicloud.com/live/dks_live/202502121700.htmlDeepSeek的来龙去脉,为什么DeepSeek那么强?哪些是它的领先优势?它是怎么发展过来的?在华为云上能不能用到DeepSeek?DS当下还很火,想了解更多的看过来~ 内容丰富、也包括了DS如何与华为云的结合。【深度开放特辑】融合算子设计原理与实现系列(七)https://bbs.huaweicloud.com/live/cloud_live/202502131600.html典型输入场景的FA算子开发-FlashAttention介绍在昇腾云上部署使用DeepSeekhttps://bbs.huaweicloud.com/live/dks_live/202502141630.html昇腾云上有多种方法部署DeepSeek,讲师一步步演示,解析配置参数的含义和推荐的选择。学完一起动手搭建自己的DeepSeek环境吧!视频回放还在准备中…
-
大模型文生图(Text-to-Image Generation, 文本生成图像)技术是一种基于深度学习的图像生成技术,它能够根据输入的文本描述自动生成符合描述的图像。该技术的核心原理是利用大规模的预训练模型,通过学习大量的文本-图像对数据,使得模型能够理解文本中的含义,并生成对应的图像。基本原理大模型文生图通常采用的是生成对抗网络(GANs)或变分自编码器(VAEs)等深度生成模型,并结合自然语言处理(NLP)技术进行训练和生成。常见的生成模型包括CLIP、DALL·E、Stable Diffusion等。具体来说,大模型文生图的原理可以分为以下几个步骤:文本理解:自然语言处理(NLP)模型:首先,输入的文本描述会通过NLP模型进行处理,提取出其中的关键特征。常用的模型包括基于Transformer架构的模型(如GPT、BERT等)。这些模型会将文本转化为一个嵌入向量(embedding vector),该向量是对文本的深度语义表示,能够捕捉文本中的语义信息、情感色彩以及特定的细节。图像生成:生成网络:经过文本处理后,嵌入向量被输入到生成网络中,该网络根据文本信息生成图像。生成网络通常是一个卷积神经网络(CNN)或者是Transformer架构,它的目标是根据文本特征生成一个与之相匹配的图像。在生成过程中,模型会通过多个层次的网络结构逐步生成图像的细节,从大致的形状到细腻的纹理和颜色。例如,对于描述“蓝色的天空和绿色的草地”的文本,模型需要从文本向量中理解“蓝色”和“绿色”以及“天空”和“草地”的概念,然后逐渐生成出一个包含这些元素的图像。图像优化:判别网络:如果使用生成对抗网络(GANs)结构,则生成网络和判别网络(Discriminator)会进行博弈。判别网络的任务是判断生成的图像是否符合真实图像的分布,并且与文本描述是否一致。生成网络通过不断优化,使得生成的图像越来越真实、细致,并能够准确地反映文本描述。生成网络和判别网络的博弈过程(即GAN的训练)会持续进行,直到生成的图像能够“骗过”判别网络,判别网络无法分辨生成的图像和真实图像的区别。多模态对齐:生成图像时,不仅要考虑图像的视觉效果,还要确保图像与输入的文本描述在语义上的一致性。这通常涉及到多模态学习,即在图像生成的过程中,需要确保图像的视觉内容与文本描述中的语义信息对齐。一些先进的模型(如CLIP)通过同时训练图像和文本的嵌入空间,使得文本和图像在同一向量空间中进行对比。通过这种对比,模型能够确保生成的图像在视觉和语义上都符合文本描述。关键技术Transformer架构: Transformer模型广泛应用于自然语言处理任务,能够捕捉文本中的长距离依赖关系。现代的文本生成图像模型通常采用基于Transformer的架构(如CLIP、DALL·E 2)来处理文本输入。这些模型通过自注意力机制(Self-Attention)来提取文本的丰富语义信息,并将其映射到图像生成网络中。生成对抗网络(GANs): 生成对抗网络是大模型文生图中的常见生成方式,GANs由两部分组成:生成器(Generator):根据文本特征生成图像。判别器(Discriminator):评估生成的图像是否真实,并给出反馈,帮助生成器优化图像。GANs的优势在于它能够生成高度逼真的图像,尤其是在视觉效果和细节方面。CLIP模型(Contrastive Language-Image Pre-Training): CLIP是由OpenAI提出的一种模型,它通过将图像和文本映射到同一向量空间,在图像和文本之间建立对比学习。CLIP的核心思想是,通过对大量图像-文本对进行预训练,学习到一个共享的表示空间,使得图像和文本可以在同一空间中进行相似性度量。这使得文本到图像生成的任务变得更加高效,CLIP在许多文生图模型中起到了关键作用。VQ-VAE(Vector Quantized Variational Autoencoders): VQ-VAE是一种生成模型,它通过离散化的潜在空间来生成图像。VQ-VAE在图像生成时非常高效,尤其是在需要生成高质量图像时,能够较好地捕捉图像的局部特征。典型模型DALL·E: DALL·E是由OpenAI开发的一个文本生成图像模型。它基于GPT架构,采用变压器模型(Transformer)来理解文本,并生成图像。DALL·E能够根据复杂的文本描述生成符合要求的图像,例如生成“一个穿着太空服的兔子骑在滑板上”这样的图像。Stable Diffusion: Stable Diffusion是一种基于扩散模型(Diffusion Model)的生成模型,通过逐步添加噪声来生成图像。该模型能够根据文本输入生成高度逼真的图像,并且具有较强的灵活性,可以生成各种风格和细节的图像。MidJourney: MidJourney是一个商业化的文本生成图像服务,广泛应用于创意产业,允许用户通过简单的文本描述生成艺术风格的图像。其核心原理与DALL·E类似,也采用了Transformer架构和GANs的组合。应用场景艺术创作:自动生成插画、海报、广告、游戏角色等。设计领域:帮助设计师快速生成灵感草图,进行视觉创意的初步探索。教育和研究:通过文本生成图像来帮助教育和科研人员更好地理解抽象概念。娱乐产业:为电影、游戏等内容创作提供创意视觉支持。总结大模型文生图技术通过将文本描述与图像生成技术相结合,能够自动从文字中生成相应的图像。它借助大规模的深度学习模型(如Transformer、GANs、CLIP等),实现了从文本到图像的映射,并且具有广泛的应用潜力,尤其在创意设计、艺术创作等领域有着巨大的前景。
-
多模态融合(Multimodal Fusion)是指在一个系统中整合来自多种模态(数据源、信息形式)的数据或特征,进而提供更丰富、更准确的理解和决策支持。每种模态提供的数据通常都有不同的特性和表现方式,而多模态融合通过综合各模态的信息,能够提升系统的整体性能,特别是在面对复杂任务时。模态的定义“模态”指的是信息的不同类型或来源。在多模态学习中,常见的模态包括:视觉模态(Vision Modal):例如,图像、视频等视觉数据。听觉模态(Audio Modal):例如,语音、音乐、环境声音等。文本模态(Text Modal):例如,文字、语句、文档等。传感器数据模态(Sensor Modal):例如,加速度计、温度传感器、GPS等。生理信号模态(Physiological Modal):例如,心电图(ECG)、脑电图(EEG)等。多模态融合的工作原理多模态融合的核心思想是:将来自不同模态的数据进行整合,结合每种模态的信息优势,使系统能够做出更为准确和全面的判断。在实际操作中,多模态融合可以分为以下几个步骤:数据获取: 各种模态的数据从不同的传感器、设备或数据源获取。例如,在自动驾驶系统中,视觉模态可能来自摄像头,听觉模态可能来自麦克风,传感器数据模态可能来自雷达或激光雷达。数据预处理: 不同模态的数据在处理时可能会有不同的格式和结构,因此需要对各个模态进行预处理,以确保其可以有效结合。比如,图像数据可能需要标准化,文本数据可能需要分词,音频数据可能需要转换为频谱图。特征提取: 对每个模态的数据进行特征提取。不同的模态有不同的特征提取方法。例如,图像数据常用卷积神经网络(CNN)提取特征,文本数据常用自然语言处理(NLP)技术,音频数据可能使用Mel频率倒谱系数(MFCC)等。特征融合: 将不同模态的特征进行融合。融合方式可以是:早期融合(Early Fusion):在数据层面直接将不同模态的数据合并,形成一个多维输入向模型进行训练。中期融合(Mid-level Fusion):在特征层面将各模态的特征进行融合。各模态的数据经过独立处理后,将提取到的特征进行结合。后期融合(Late Fusion):各模态的数据分别输入到不同的模型中,得到各自的预测结果,然后将这些预测结果结合起来进行最终决策。决策融合: 最终,基于融合后的特征或结果,进行决策。例如,在多模态情感分析中,可能会结合文本、语音、面部表情等多种模态的信息,以便更准确地分析一个人的情绪。多模态融合的优势信息互补: 不同模态的数据可以互为补充,弥补单一模态的不足。例如,视觉模态可能无法很好地处理语音中的情感信息,而音频模态则能提供更丰富的情感细节。通过融合,系统可以更全面地理解任务。提高准确性和鲁棒性: 多模态融合通常可以提高模型的准确性。在面对某些噪声或缺失数据时,其他模态的补充可以弥补这些缺陷,使得系统更为鲁棒。例如,在自动驾驶中,若摄像头图像质量较差,雷达或激光雷达可以提供额外的信息。增强理解与推理能力: 多模态融合使得系统能够进行更复杂的推理和理解。例如,图像和文本结合可以用于自动生成图像描述,图像和语音结合可以用于视频理解。更接近人类认知方式: 人类本身就是一个多模态的信息处理系统,我们通过视觉、听觉、触觉等多种感官来获取和理解世界。多模态融合使得计算机系统的认知方式更接近人类的思维模式。应用领域自动驾驶:在自动驾驶系统中,视觉、雷达、激光雷达等多种传感器提供的信息被融合,以提高对环境的理解和决策能力。医疗影像:通过融合CT、MRI、超声等多模态医学影像数据,可以更准确地进行疾病诊断和预测。情感分析:在情感分析中,融合文本、语音、面部表情等模态的信息,有助于更准确地识别一个人的情绪。智能助手:智能语音助手(如Siri、Alexa等)通过融合语音输入、文本、环境信息等多模态数据,提高其交互的自然度和准确性。机器人:在机器人系统中,视觉、触觉、听觉等感知系统的多模态融合,使机器人能够更智能地与环境进行交互。总结多模态融合是通过结合不同类型的输入数据来提供更全面、更准确的信息。它在解决复杂任务中有着显著的优势,能够提升系统的理解能力、决策能力和鲁棒性,广泛应用于自动驾驶、医疗诊断、情感分析等多个领域。
-
大家对华为云 x DeepSeek:AI驱动云上应用创新怎么看?【话题讨论】
-
模型蒸馏(Model Distillation)是一种知识迁移技术,通常用于深度学习模型的压缩和加速。简单来说,蒸馏的核心思想是将一个复杂且计算量大的“教师模型”(Teacher Model)中的知识,传递到一个较小且计算量较低的“学生模型”(Student Model)中,从而使学生模型能够在保持较好性能的同时,减少计算和存储开销。工作原理教师模型训练: 首先,你需要训练一个大型且高性能的教师模型,这个模型的参数非常庞大,可以在特定任务上达到很好的效果。例如,训练一个大型的卷积神经网络(CNN)用于图像分类。学生模型设计: 学生模型通常是一个结构较为简单、参数较少的模型,它可能不具备教师模型那样的复杂性和强大的表达能力。知识传递: 在蒸馏过程中,学生模型通过“模仿”教师模型的输出进行训练。这里的“输出”不仅仅是预测标签,还包括教师模型的软标签(soft targets)。软标签是指教师模型对每个类别的预测概率分布,而不是硬标签(hard targets)即单一的类别标签。教师模型的软标签包含了更多的细节信息,如类别间的相似性,而这些信息对于学生模型学习有很大的帮助。学生模型通过最小化与教师模型输出的差异来进行训练。蒸馏损失函数: 通常,蒸馏过程的损失函数不仅考虑学生模型的预测和真实标签之间的差异,还包含了教师模型和学生模型之间的差异。例如,损失函数可以是以下几部分的组合:软标签与学生模型输出的差异(如交叉熵损失)。学生模型与真实标签的差异(传统的监督损失)。通过这种方式,学生模型可以获得教师模型的“知识”,同时在效率上做出折衷。蒸馏的优势模型压缩: 通过蒸馏,可以将一个大的教师模型压缩为一个小的学生模型,这对于部署到资源受限的设备(如手机、嵌入式设备等)非常有用。加速推理: 由于学生模型通常较小,推理速度较快,这使得它能够在实时应用中表现得更好。提高学生模型的泛化能力: 学生模型可以通过模仿教师模型在更复杂数据上的表现,增强其泛化能力和鲁棒性。降低过拟合风险: 在训练学生模型时,由于其目标不仅是学习训练数据的标签,还包括教师模型的“行为”,因此可以减少过拟合,特别是在数据有限的情况下。蒸馏的常见应用模型压缩与加速:应用在需要高效推理和存储的场景,如移动设备、物联网设备等。迁移学习:通过教师模型的知识,帮助学生模型快速适应新的任务或领域。增强模型鲁棒性:使得学生模型能够从教师模型中学习到更多的知识,提升其对不同输入数据的适应性。总结模型蒸馏的核心思想是通过“教师”模型将其知识传递给更小、更高效的“学生”模型。这使得在不显著牺牲性能的情况下,可以获得更加轻量级和高效的模型,从而满足实际应用中的需求。
-
华为云可以搭建Deepseek吗?
-
1 案例介绍1.1 Open WebUI本次采用Open WebUI作为对话前端页面。Open WebUI 是一个可扩展、功能丰富且用户友好的自托管 AI 平台,旨在完全离线运行。它支持各种 LLM 运行器,如 Ollama 和 OpenAI 兼容的 API,并内置了 RAG 推理引擎,使其成为强大的 AI 部署解决方案。优点:完全开源,无需付费订阅,适合个人开发者和小型团队,拥有类 ChatGPT 界面。项目地址:GitHub - open-webui1.2 Ollama本次采用Ollama来运行各种热门大模型。Ollama能快速启动和部署热门大模型。如: DeepSeek-R1、Gemma 2 、Qwen2.5。优点:方便,本地化运行,完全离线,支持 macOS、Linux 和 Windows,无需复杂配置,一键安装即可使用。项目地址:GitHub - ollama1.3 鲲鹏服务器本次采用华为自主研发的鲲鹏920处理器服务器,由于完全是自主研发的芯片,性价比很高。鲲鹏CPU架构基于精简指令集(RISC)设计,通过减少指令类型和优化硬件解码流程,显著提升了执行效率与能效表现。其指令集采用固定长度编码,简化了流水线控制逻辑,使芯片在相同制程下能够以更低功耗实现高并发计算任务,尤其在云计算、边缘计算等场景中展现出优势。相较于采用复杂指令集(CISC)的x86架构,鲲鹏CPU通过摒弃冗余指令、降低动态功耗波动,在能效比上提升约20%-40%,例如在大规模数据中心部署时可降低30%以上的电力与散热成本。帮助文档:鲲鹏CPU架构1.4 HCE OS本次服务器安装的操作系统是华为云的HCE 操作系统。Huawei Cloud EulerOS(简称HCE)是基于openEuler构建的云上操作系统。HCE打造云原生、高性能、高安全、易迁移等能力,加速用户业务上云,提升用户的应用创新空间,可替代CentOS、EulerOS等公共镜像。帮助文档:Huawei Cloud EulerOS2 案例时间本案例总时长预计60分钟。3 案例流程说明:使用华为云CloudShell连接目标服务器,完成Ollama框架的安装配置;配置并验证DeepSeek大语言模型的运行状态;通过CloudShell部署Open WebUI交互界面;在Open WebUI界面中检查能否正确呈现Ollama驱动的DeepSeek模型响应内容;实现基于浏览器(Edge)访问的对话功能,支持用户与DeepSeek大模型进行对话交互。4 资源的准备与购买4.1 资源总览本案例预计花费总计10.002元,体验完成后请及时释放资源,避免产生多余的费用。需要使用的云资源:区域选择华北-北京四资源名称规格单价(元/小时)时长(分钟)弹性云服务器ECS鲲鹏通用计算增强型 | kc2.6xlarge.2 | 24vCPUs | 48GiB3.3460弹性公网IP全动态BGP | 独享 | 按带宽计费 | 30Mbit/s6.56560云硬盘EVS系统盘: 通用型SSD, 100GiB0.09760购买同配置的链接:cid:link_6pricing/calculator.html?shareListId=5a8b9de0f6a911efb4fe1b4fd71886e84.2 购买鲲鹏服务器4.2.1使用购买链接方式复制购买链接cid:link_6pricing/calculator.html?shareListId=5a8b9de0f6a911efb4fe1b4fd71886e8粘贴到浏览器,点击查看详情:首先点击更多,然后点击去购买:然后只需配置网络、云服务器管理即可:配置网络:配置密码即可:4.2.2 控制台购买方式下面是在控制台选择购买的方式:点击华为云官网:华为云,然后进入控制台:点击计算,然后选择弹性云服务器ECS。点击购买弹性云服务器:本次购买的是基于华为云ECS(鲲鹏实例KC2)鲲鹏通用计算增强型 | kc2.6xlarge.2 | 24vCPUs | 48GiB 部分重要配置如下:返回查看服务器,已经处于运行状态:4.3 登录鲲鹏服务器点击其远程登录。这里简单介绍一下:CloudShell华为云CloudShell是一款用于管理与运维云资源的网页版Shell工具,通过CloudShell可以完成登录弹性云服务器、连接集群等操作。CloudShell目前支持Windows和Linux系统。帮助文档:通过CloudShell登录Linux ECS_弹性云服务器 ECS_华为云点击立即登录,输入密码,后点击连接:说明服务器已经登录成功。5 部署操作5.1 Ollama 部署首先点击Ollama官网:https://ollama.com,点击Download选择Linux操作系统:复制上面的脚本命令到服务器终端执行:curl -fsSL https://ollama.com/install.sh | shOllama正在安装中。Ollama安装完成:我们可以忽视这个警告,本次仅使用CPU 920通过Ollama大模型运行,没有使用GPU,由于使用CPU运行,可能会速度慢一些,所以ollama给出一个小警告。使用ollama -v 验证是否安装成功:ollama -v 说明Ollama 安装成功,本次使用的版本为0.5.11。本次我们选择运行最火爆的deepseek系列的大模型。首先我们点击Ollama官网中的Models按钮:最火爆的大模型就是deepseek,已经默认排列在第一个:本次部署基于Qwen-2.5蒸馏得到的DeepSeek-R1-Distill-Qwen-7B大模型:地址为:https://ollama.com/library/deepseek-r1:7b(deepseek-r1:7b)如果想部署其他大模型,可以通过搜索来找到其他大模型,如原版Qwen-2.5地址为:https://ollama.com/library/qwen2.5:7b(qwen2.5:7b)可以直接复制其命令:ollama run deepseek-r1:7b 到终端执行:ollama run deepseek-r1:7b也可以先拉取大模型再来运行大模型,本次使用ollama pull deepseek-r1:7b 拉取大模型:ollama pull deepseek-r1:7b正在拉取中(如果遇到网络卡顿,可以反复重新执行拉取)。下面是deepseek-r1:7b大模型拉取完成:使用 ollama list 验证大模型是否成功下载:ollama list说明大模型下载成功。通过使用 ollama run deepseek-r1:7b 来运行大模型:ollama run deepseek-r1:7b可以随便问几个问题,查看大模型回答结果:再问一个 9.8和9.11谁大的问题:至此说明Ollama部署成功,但是使用终端命令行来进行对话,对用户不友好,也不安全。下面使用Open WebUI来部署类chatgpt页面。5.2 Open WebUI 部署首先打开 ⏱️ Quick Start : https://docs.openwebui.com/getting-started/quick-start,发现有好几种部署方式,但是个人认为通过docker部署比较方便,而且不会对服务器环境造成影响。下面先安装docker,使用 yum install docker -y命令安装:yum install docker -y使用 docker -v 验证docker 是否安装成功:docker -v说明docker 安装成功:首先第一步拉取Open WebUI 镜像,使用如下命令:docker pull ghcr.io/open-webui/open-webui:main正在拉取中。下面是镜像拉取完毕:我们使用 docker images 命令查看下载的镜像:docker images第二步就可以开始启动容器:docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 -e ENABLE_OPENAI_API=false --name open-webui ghcr.io/open-webui/open-webui:main参数说明:docker runDocker 的核心命令,用于创建并启动一个新容器。-d(Detached 模式)让容器在后台运行,不占用当前终端窗口。--network=host容器直接使用宿主机的网络堆栈,与宿主机共享 IP 地址和端口。这意味着容器内的服务可以通过 127.0.0.1 直接访问宿主机本地的服务(如 Ollama),无需端口映射。-v open-webui:/app/backend/data将 Docker 管理的名为 open-webui 的持久化存储卷挂载到容器内的 /app/backend/data 目录,确保应用数据(如用户配置、缓存等)在容器重启后不丢失。-e OLLAMA_BASE_URL=http://127.0.0.1:11434设置环境变量,指定 Open WebUI 连接的 Ollama 服务的地址。指向宿主机本地(127.0.0.1)的 11434 端口。-e ENABLE_OPENAI_API=false允许使用 OpenAI API(值为True),否则禁止使用OpenAI API(false)。这里需要禁用 OpenAI 服务调用。国内无法访问 OpenAI 的网络环境,必须将此值设为 false,否则应用在登录阶段会因尝试连接 OpenAI 接口超时而卡顿,导致界面长时间无响应。具体描述:ENABLE_OPENAI_API : https://docs.openwebui.com/getting-started/env-configuration#enable_openai_api--name open-webui为容器分配一个易识别的名称 open-webui,便于后续通过 docker start/stop/open-webui 等命令管理容器。ghcr.io/open-webui/open-webui:main指定使用的容器镜像来源:GitHub Container Registry(ghcr.io)中 open-webui 项目的 main 标签镜像,通常代表最新开发版或主分支构建版本。环境参数文档:🌍 https://docs.openwebui.com/getting-started/env-configuration容器运行成功:使用 docker ps 查看容器的运行状态:docker ps读取STATUS字段说明容器正在启动中,稍等一会,Open WebUI的容器启动成功:本次服务器的弹性公网的ip的为:123.249.24.108基于docker安装的Open WebUI的端口为8080,因此需要保证服务器的安全组的8080端口是否处于打开状态:打开Open WebUI网页链接:123.249.24.108:8080点击开始使用:设置名称为admin(名称可以随意)电子邮箱和密码,由自己设计:点击创建管理员账号,会进入首页:刚开始进入会显示更新描述,我们直接点击确认,开始使用:由于我们已经提前在docker的启动参数中指定Ollama的地址,所以Open WebUI直接连接上了Ollama,我们随便问几个问题:问题回答的不错。至此,所有的部署已经完毕!当然我们也可以部署其他大模型:如Qwen2.5通过管理员面板,我们也可以下载模型:已经开始下载qwen2.5:7b的模型:下载完成:也是随便问几个问题:6 小结通过以上的教程,完成了大模型对话网页的部署,能快速部署,体验大模型的超强能力!但是由于使用CPU推理,对于参数量比较大的模型,可能运行速度较慢,这个时候需要使用GPU来运行大模型。 我正在参加【案例共创】第2期 构建开发场景最佳实践/体验评测,创作案例文章cid:link_1
-
作为全网夸的AI,DeepSeek已经把打工人的脑电波,编译成0误差代码,不需要有复杂的提示词便能自动分析,给出你想要的内容。很多新手小白在真正上手DeepSeek时,还是会出现令人头痛的问题:DeepSeek是什么?在哪儿能用?能有什么核心优势?为了帮助大家快速了解手DeepSeek,以及掌握DeepSeek的使用技巧。华为云携手华为技术专家推出第一期系列课程:《昇腾云xDeepSeek 深入浅出白话解读》通过学习本课程,学员将掌握DeepSeek的核心技术优势、昇腾云的部署方案及实际应用技巧,能够独立完成DeepSeek在昇腾云上的部署与优化,提升在人工智能领域的实践能力。课程免费!扫描下方海报二维码观看!
上滑加载中
推荐直播
-
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战,从0到1打通消息通道;码道鸿蒙端云一体化实战,快速搭建员工签到系统。
回顾中 -
华为云开发者AI素养直播课·第三期2026/08/21 周五 16:00-18:00
林华鼎-华为云AI开发者运营负责人;念擎-华为云AI开发者运营案例开发专家
本期直播内容:AI六层能力首次详细解读 + 新一代华为云开发者空间亮相 + 校园案例直播带练
回顾中 -
华为云监控CES新特性解读2026/08/26 周三 19:00-20:30
刘英杰-华为云监控产品专家
华为云监控 CES H1 版本重磅全新升级!本次直播特邀华为云监控产品专家,围绕特性深度解读 + 现场实操演示 + 实时线上答疑三大模块,全方位拆解版本核心亮点,直击运维各类痛点难题。助力实现告警高效配置、指标快速检索、插件便捷部署,切实降低运维工作负担,提升监控运维工作效率。欢迎预约观看,互动提问交流!
回顾中
热门标签