• [技术干货] 机器学习中的反向传播
    机器学习的训练过程BP算法的学习过程由正向传播过程和反向传播过程组成。在正向传播过程中,输入信息通过逐层处理并传向输出层。如果在输出层得不到期望的输出值,则通过构造输出值与真实值的损失函数作为目标函数,转入反向传播,逐层求出目标函数对各神经元权值的偏导数,构成目标函数对权值向量的梯度,作为修改权值的依据,网络的学习在权值修改过程中完成。输出值与真实值的误差达到所期望值时,网络学习结束。什么是反向传播反向传播(Backpropagation)是一种与最优化方法(如梯度下降法)结合使用的,用来训练人工神经网络的常见方法在神经网络训练过程中,首先给网络输入一组训练数据,并计算输出结果。然后根据输出结果与实际结果的差异(即网络的误差)计算每个节点对误差的贡献(即误差反向传播到前一层的梯度),并将这些贡献反向传播到前一层。接着根据每个节点对误差的贡献大小,调整每个节点的权重,使得误差减小。重复以上过程,直到误差达到一定程度为止。通过不断调整权重,反向传播算法能够使网络越来越准确地预测结果反向传播算法有什么优势和缺点反向传播算法作为深度学习神经网络的理论核心,有以下优势:能够处理大规模网络和大量参数 。它的关键优势在于能够处理大规模网络和大量参数,并以高效的方式计算每个参数的梯度。计算精度高 。这使得深度学习能够应对复杂任务和海量数据,并取得了许多重大的突破和进展。同时,反向传播算法也存在一些缺点,比如计算成本高,存在计算冗余等。参考资料:[1]反向传播算法_百度百科 cid:link_0[2] 一文弄懂神经网络中的反向传播法 cid:link_1[3]BP反向传播矩阵推导图示详解 cid:link_2
  • pytorch 张量
    什么是张量张量(Tensor)是一个定义在的一些向量空间和一些对偶空间的笛卡儿积上的多重线性映射,其坐标是 n 维空间内,有 n 个分量的一种量,其中每个分量都是坐标的函数,而在坐标变换时,这些分量也依照某些规则作线性变换张量这一术语起源于力学,它最初是用来表示弹性介质中各点应力状态的,后来张量理论发展成为力学和物理学的一个有力的数学工具。张量之所以重要,在于它可以满足一切物理定律必须与坐标系的选择无关的特性。张量概念是矢量概念的推广,矢量是一阶张量。张量是一个可用来表示在一些矢量、标量和其他张量之间的线性关系的多线性函数张量上下标的含义张量的上下标分别代表不同的意义,例如:张量的下标代表向量的某一维度,相当于向量某一维的属性值。张量的上标代表向量的编号,可以理解成这是第几个向量。张量的四种初始化方式1.直接生成,原始结构类型决定张量类型import torch data=[[1,2],[3,4]] x_data=torch.tensor(data)2.通过numpy转化生成张量(可以相互转化)import numpy as np np_array=np.array(data) x_np=torch.from_numpy(np.array)3.通过已有张量来生成新的张量 (同时新的张量将会继承已有张量的数据属性,包括结构、类型,也可以指定新的数据类型)x_zeros=torch.zeros_like(x_data) x_ones=torch.ones_like(x_data) x_rand=torch.rand_like(x_data,dtype=torch.float) #生成一个元素服从[0,1]均匀分布的张量,形状和给定张量x_data相同 x_randn=torch.randn_like(x_data) #生成一个元素服从标准正态分布的张量,形状和给定张量x_data相同 x_randint=torch.randint_like(x_data,0,100)#生成0~100均包含的张量,形状和x_data相同 x_full=torch.full_like(x_data,1.7,dtype=torch.float)4.通过指定数据维度来生成张量(用的比较少)shape=(2,3) one_tensor=torch.ones(shape) full_tensor=torch.full((shape),fill_value=5,dtype=torch.long)
  • [技术干货] 简单介绍人工智能中的分类器
    什么是分类器分类器是一种计算机程序,其设计目标是通过自动学习将数据分到已知类别。分类器在多个领域都有应用,如搜索引擎和各种检索程序中,同时也大量应用于数据分析和预测领域。分类器是一种机器学习程序,因此归为人工智能的范畴中,其数学模型可针对模型的不同而分为多种分支,例如:Bayes分类器、BP神经网络分类器、决策树算法、SVM(支持向量机)算法等。训练一个分类器的步骤如下:收集数据:从目标领域收集数据,并对数据进行清洗和预处理,使其适合训练模型。确定模型:根据问题的特点,选择一个合适的分类模型。如果数据比较简单,可以选择一个线性模型;如果数据比较复杂,可以选择神经网络等非线性模型。准备数据:将数据划分为训练集、验证集和测试集三部分。训练集用于训练模型,验证集用于调整模型的参数,测试集用于评估模型的性能。训练模型:使用训练集训练模型,根据训练结果调整模型的参数,使得模型的分类准确率更高。验证模型:使用验证集对模型进行验证,调整模型的参数,提高模型的泛化能力。测试模型:使用测试集对模型进行最终测试,评估模型的性能,得出模型的准确率、召回率、F1 值等指标。评估模型:评估模型的性能,可以考虑使用混淆矩阵、ROC 曲线、AUC 值等指标。优化模型:如果模型的性能不够好,可以考虑使用交叉验证、正则化、集成学习等方法优化模型。应用模型:将训练好的模型应用到实际场景中,对新的数据进行分类预测。
  • [技术干货] 神经网络入门
    什么是神经网络神经网络是一种计算机模型或者数学模型,是存在于计算机的神经系统,由大量的神经元相连接并进行计算,在外界信息的基础上,改变内部的结构,常用来对输入和输出之间复杂的关系进行建模。神经网络架构是由很多层组成的,输入层负责接收信息,比如一只猫的图片。输出层是计算机对这个输入信息的判断结果,它是不是猫。隐藏层就是对输入信息的传递和加工处理。此外,神经网络也可以指由生物神经元组成的生物神经网络,或者用于解决人工智能(AI)问题的人工神经网络。人工神经网络的原理在于,生物神经元的连接在人工神经网络中被建模为节点之间的权重,正的权重反映了兴奋性连接,而负值意味着抑制性连接。所有的输入都被一个权重修改并加总,这种活动被称为线性组合。最后,一个激活函数控制输出的振幅。神经网络的结构怎样确定神经网络的结构,一般可以分为两个主要部分:输入层和隐藏层,其中隐藏层可以有很多层,通常被称为深度学习模型。输入层是神经网络的起点,负责接收来自外界的信息,比如一张图片、一段文字等等。这些信息经过处理后,被传递到隐藏层,隐藏层负责对这些信息进行加工处理,并将处理结果传递到下一层,直到最后输出结果。神经网络的结构是由许多参数决定的,比如每个神经元的权重、阈值、激活函数等等。这些参数需要通过训练来优化,以使神经网络能够更好地学习和预测数据。通常,神经网络的结构需要根据具体的应用场景和数据来设计,需要进行大量的实验和调整来得到最优的结构参数。神经网络有哪些应用场景神经网络的应用场景非常广泛,包括但不限于以下几个方面:语音识别。计算机视觉。医学医疗。信息领域应用。智能控制。智能交互。生物信息学。机器人。智能制造。金融风控。
  • [互动交流] WeautomateRPA执行python脚本时候报错“cx_Oracle._Error object at 0x000001CC03CC4840”
    执行脚本时发生报错,脚本如下图:有没有大神能讲下怎么解决???本人新手小白,最好详细点~~~
  • [互动交流] WeautomateRPA执行python脚本时候报错“cx_Oracle._Error object at 0x000001CC03CC4840”
    执行脚本时发生报错,脚本如下图:
  • [互动交流] Weautomate执行python脚本时报错“用户输入错误: 变量名未定义。详情:name 'xlsx_write' is not defined”
    如图调用python脚本时出现报错,脚本代码如下:
  • [问题求助] 关于CTIPOOL模式下的U1960使用,有点疑问需要帮忙看下
    【问题来源】广西北部湾银行【问题简要】最近这边生产新上线了一台U1960,查看中继链路有问题【问题类别】U1960【AICC解决方案版本】V200R003C30SPC500B011【问题现象描述】生产环境新上线一台U1960,接入了一条运营商的线路,因为环境为CTIPOOL的模式,所以U1960的SIP中继是配置了两台UAP,配置后使用没有问题,但是查看“资源管理”-》“中继链路状态”时显示中继不通,但是此时线路通话已经是正常的了,从UAP侧查看也是对接正常,是否为U1960侧有某个类似于心跳端口需要开放呢?
  • [互动交流] “图像自动化”中的“图像"功能,截图时页面自动放大,导致右下区域的图片无法截取
    “图像自动化”中的“图像"功能:截图时,感觉屏幕分辨率自动变了,导致网页放大,只能看到网页的部分区域,右下区域的图片没法截取,这是BUG吗?有解决办法吗?
  • [参赛经验分享] 2023“域见杯”医检人工智能开发者大赛(赛题二:智能染色体核型分析)-赛队“道”TOP1方案分享
    大家好,我是来自参赛队伍的“道”,本次比赛很荣幸获得第一名,以下是我比赛过程的思路分享。数据分析本赛道提供的数据均经过脱敏,包含Question和Answer两个字段:数据两个字段连接后最大长度526,有90%数据长度不超过200,存在少量的异常值,数据长度呈现长尾分布。在训练过程使用分桶训练以及开启混合精度可以数倍提升训练速度。下图统计不同长度的词频,数据中存在很多高频词,其中有一个长度为11的文本出现了1943次,针对此数据特点,本方案提出了基于BPE的Mask策略,用于脱敏文本分词,也是和其他队伍的区别的点,具体在后文介绍。数据特点总结:初赛阶段对比了BART、CPT和Pegasus三者实验,Pegasus效果最好,BART效果最差,猜测因为Pegasus针对摘要任务设计,有从较强的从原文总结答案的能力,本次赛题数据要求从给出的核型分析信息生成诊断结果,也需要从原文总结答案,任务上比较相似。预训练策略训练使用的是预训练微调的训练模式,将两个字段的文本连接后再mask,然后送到模型预训练,通过预训练阶段对齐脱敏文本和开源权重,可以提升微调模型效果,加快微调收敛。mask方式采用了两种策略:        第一种是ngram的Mask方式,以0.1:0.2:0.3:0.4的概率mask文本长度为4、3、2、1的连续字符。        第二种基于BPE的mask,其先利用BPE算法生成词表,然后对句子分词,最后以词的粒度mask。相对ngram的好处首先是BPE生成的单词语义信息更完整,可以缓解单个完整语义被分成多块的问题。其次不会导致词表爆炸。预训练损失函数是:LM Loss和MLM Loss的结合,LM Loss的目的是将预训练任务和微调任务对齐,使模型拥有预测下一个token的能力,MLM Loss使得模型集中理解被Mask部分的内容。检索增强:另外微调阶段尝试了检索增强方法,但线上单模掉了很多,猜测是因为检索增强本身是解决知识长尾问题的,本赛题数据量较少,模型很容易记住所有知识,遗忘现象不明显,增加检索策略后反而会引入噪音,影响模型的稳定性。最后是通过对不同策略训练的模型集成效果,基于BPE的Mask是在比赛尾声做的尝试,直接拿来做集成了,在最高成绩的基础上又提升了1.5个百分点,没来得及测单模,这一块好好调一调应该还有上分空间,后续还可以尝试拿来作为微调阶段的词表:预训练和微调阶段所使用到的Trick有:线性Warmup、FGM、RDrop、Cos学习率衰减、标签平滑、权重平均,此外在微调阶段对解码器的输入注入噪音缓解曝光偏差问题,EMA我用了掉分(可能是用了权重平均的缘故)。线上单模最高成绩1.3187,基础权重使用的是燃灯的Pegasus Base模型,用Large反而还会掉点。致谢        最后感谢主办方为我们提供了这次的比赛机会,让我们能够在医疗领域贡献自己的力量,探索人工智能的无限可能性。
  • [互动交流] 图像搜索API服务调用实验中的实验手册问题
    在图像搜索API服务调用实验中,实验手册的步骤是如下步骤:但是在真实操作的时候却变成了下面这种:并且当我按照手册步骤进入网址的时候没有弹出使用旧版提示:搜索相关文档后,发现是之前的API废弃了但是我想过这个实验,换成新的API的操作又是什么样的呢?
  • [问题求助] IVR放音收号,播放的固定语音时间超过255秒,怎么处理才能让后续的内容播放出来?
    【问题来源】   厦门国际银行 【问题简要】放音收号,播放的固定语音时间超过255秒,怎么处理才能让后续的内容播放出来【问题类别】  IVR【AICC解决方案版本】【必填】   ICD V300R008C25【问题现象描述】【必填】        IVR放音收号,播放的固定语音时间超过255秒,只播放到255秒,后续的内容不播放了,怎么处理才能让后续的内容播放出来?
  • [其他] 语音交互全链条在实际中的应用
    随着人工智能技术的不断发展,语音交互技术已经成为了人们日常生活中不可或缺的一部分。语音交互全链条,包括语音识别、转写和解码三个环节,是实现语音交互技术的重要过程。在实际应用中,语音交互全链条的作用和优势越来越明显。首先,语音识别技术是将人类语音转换为机器可读的数字信号,是实现语音交互的第一步。在实际应用中,语音识别技术广泛用于智能客服、智能家居、车载导航等领域。用户可以通过语音指令完成各种操作,无需手动输入,大大提高了用户体验和操作效率。其次,转写技术是将语音转换为文字的过程。在实际应用中,转写技术广泛应用于会议记录、课堂笔记、视频转写等领域。通过转写技术,可以将语音转换为文字,便于后续的整理和回顾,提高了工作效率和准确性。第三,解码技术是将文字转换为可听的语音。在实际应用中,解码技术广泛应用于语音助手、智能玩具、虚拟人物等领域。用户可以通过文字指令听到对应的语音回应,无需手动输入,提高了用户体验和操作效率。最后,对话管理是协调整个语音交互流程的关键环节。在实际应用中,对话管理负责协调语音识别、转写和解码三个环节,确保用户与系统的顺畅交互。同时,对话管理还可以通过自然语言处理技术对语音进行解析和理解,提取关键信息,为用户提供更加个性化的服务。总之,语音交互全链条是实现语音交互技术的重要过程,在实际应用中发挥着越来越重要的作用。通过语音交互全链条,用户可以更加便捷地完成各种操作,提高了工作效率和用户体验。未来,随着技术的不断发展,语音交互全链条将会继续优化和改进,为人类带来更多的便利和可能性。
  • [其他] 语音合成和转写技术:让机器理解人类语言
    随着人工智能技术的不断发展,语音合成和转写技术也日益受到人们的关注。这些技术使得机器能够理解和转换人类语言,将语音转换为文字,或者将文字转换为语音。在本文中,我们将深入探讨语音合成和转写技术的工作原理以及它们在实际应用中的重要性。语音合成技术主要是将文本转换为语音。它使用一系列的算法和模型将文字转换为可听的音频流。这些算法和模型将文本编码为数字信号,然后通过一系列声音转换技术将这些信号转化为声音。最终生成高质量的语音输出,使机器可以像人类一样发出各种语音。语音转写技术则是将人类说出的语音转换为文本。这需要先对语音信号进行预处理,例如去除噪音和进行特征提取。然后,系统会利用训练好的声学模型来预测人类说话的声音特征,并将这些特征转化为对应的文本。这种技术的关键在于准确识别和理解人类语音,并将其转换为可读的文字。这两个系统相互协作,使得机器可以更好地处理和理解人类语言。例如,在智能客服系统中,语音合成和转写技术可以使得机器能够自动回答用户的问题或者提供相关的信息。在智能家居系统中,这些技术也可以使得机器能够理解用户的语音指令,从而控制各种智能设备。为了实现高质量的语音合成和转写,需要不断优化和改进这两个系统,并确保它们能够协同工作。其中,标准化和可复制性设计非常重要。标准化可以确保系统的输出与输入一致,从而提高语音合成的质量和可读性。而可复制性则可以确保系统在不同场景下能够产生一致的结果,从而提高系统的可靠性和一致性。总的来说,语音合成和转写技术是人工智能领域中非常重要的组成部分。它们使得机器能够更好地理解和处理人类语言,从而在各个领域中发挥重要作用。未来,随着技术的不断发展,这些技术也将继续改进和优化,为人类带来更多的便利和可能性。
  • [其他] 车载语音识别的算法
    车载语音识别系统主要采用自动语音识别(ASR)技术,而ASR算法又可以分为基于规则的算法和基于统计学习的算法。基于规则的算法主要是基于语言学和信号处理技术,通过设计规则和滤波器等手段,对输入的语音信号进行处理和分析,提取出语音特征,然后与预定义的词库进行匹配,找到最匹配的词或短语。这种算法的主要优点是识别准确率高,但是需要手动设计规则和词库,开发周期较长,且对于不同地区的方言和口音适应性较差。基于统计学习的算法主要是利用大量的语音数据和文本数据进行训练,通过机器学习算法和深度学习算法等手段,让系统自动学习出语音特征和语言规则,从而实现语音识别。这种算法的主要优点是对于不同地区的口音和方言适应性较好,且可以自动学习和优化,但是需要大量的训练数据和计算资源。在基于统计学习的算法中,深度学习算法是最为常用的一种。深度学习算法通过构建深度神经网络模型,对语音信号进行多层次特征提取和抽象,从而得到更加准确的语音特征表示。常见的深度学习模型包括循环神经网络(RNN)、长短时记忆网络(LSTM)、卷积神经网络(CNN)等。车载语音识别系统在实现时,还需要考虑一些特殊情况,例如车内噪音、非标准发音、多语种等情况。针对这些情况,可以通过采用降噪技术、语音增强技术、语音唤醒技术等手段来提高语音识别准确率。同时,对于非标准发音和多语种的情况,也可以通过采用多模型融合、迁移学习等技术来提高系统的适应性和识别准确率。总之,车载语音识别系统主要采用基于统计学习的算法,其中深度学习算法是最为常用的一种。这种算法可以自动学习出语音特征和语言规则,从而实现高准确率的语音识别,同时还可以适应各种特殊情况。未来,随着技术的不断发展,车载语音识别系统将会更加智能化和个性化,能够提供更加便捷和安全的车载服务。
总条数:7868 到第 页
上滑加载中