1. KNN算法原理KNN算法是选择与输入样本在特征空间内最近邻的k个训练样本并根据一定的决策规则，给出输出结果 。决策规则：分类任务：输出结果为k个训练样本中占大多数的类 。回归任务：输出结果为k个训练样本值的平均值 。如下图的分类任务，输出结果为w1类 。KNN算法优缺点优点：1）算法简单，理论成熟，可用于分类和回归。2）对异常值不敏感。3）可用于非线性分类。4）比较适用于容量较大的训练数据，容量较小的训练数据则很容易出现误分类情况。5）KNN算法原理是根据邻域的K个样本来确定输出类别，因此对于不同类的样本集有交叉或重叠较多的待分样本集来说，KNN方法较其他方法更为合适。缺点：1）时间复杂度和空间复杂度高。2）训练样本不平衡，对稀有类别的预测准确率低。3）相比决策树模型，KNN模型可解释性不强。文章来源于机器学习算法那些事 ，作者石头

梯度下降梯度下降是迭代法的一种,可以用于求解最小二乘问题(线性和非线性都可以)。在求解机器学习算法的模型参数，即无约束优化问题时，Gradient Descent是最常采用的方法之一，另一种常用的方法是最小二乘法。在求解损失函数的最小值时，可以通过梯度下降法来一步步的迭代求解，得到最小化的损失函数和模型参数值。反过来，如果我们需要求解损失函数的最大值，这时就需要用梯度上升法来迭代了。在机器学习中，基于基本的梯度下降法发展了两种梯度下降方法，分别为随机梯度下降法和批量梯度下降法。1. 步长（Learning rate）：步长决定了在梯度下降迭代的过程中，每一步沿梯度负方向前进的长度。用上面下山的例子，步长就是在当前这一步所在位置沿着最陡峭最易下山的位置走的那一步的长度。　　　　2.特征（feature）：指的是样本中输入部分，比如2个单特征的样本（x(0),y(0)）,（x(1),y(1)）,则第一个样本特征为x(0)，第一个样本输出为y(0)。　　　　3. 假设函数（hypothesis function）：在监督学习中，为了拟合输入样本，而使用的假设函数，记为hθ(x)。比如对于单个特征的m个样本（x(i),y(i)）(i=1,2,...m),可以采用拟合函数如下： hθ(x)=θ0+θ1x。　　　　4. 损失函数（loss function）：为了评估模型拟合的好坏，通常用损失函数来度量拟合的程度。损失函数极小化，意味着拟合程度最好，对应的模型参数即为最优参数。在线性回归中，损失函数通常为样本输出和假设函数的差取平方。比如对于m个样本（xi,yi）(i=1,2,...m),采用线性回归，损失函数为：             J(θ0,θ1)=∑i=1m(hθ(xi)−yi)2 　　　　其中xi表示第i个样本特征，yi表示第i个样本对应的输出，hθ(xi)为假设函数

决策树算法决策树及其变种是一类将输入空间分成不同的区域，每个区域有独立参数的算法。决策树算法充分利用了树形模型，根节点到一个叶子节点是一条分类的路径规则，每个叶子节点象征一个判断类别。先将样本分成不同的子集，再进行分割递推，直至每个子集得到同类型的样本，从根节点开始测试，到子树再到叶子节点，即可得出预测类别。此方法的特点是结构简单、处理数据效率较高。朴素贝叶斯算法朴素贝叶斯算法是一种分类算法。它不是单一算法，而是一系列算法，它们都有一个共同的原则，即被分类的每个特征都与任何其他特征的值无关。朴素贝叶斯分类器认为这些“特征”中的每一个都独立地贡献概率，而不管特征之间的任何相关性。然而，特征并不总是独立的，这通常被视为朴素贝叶斯算法的缺点。简而言之，朴素贝叶斯算法允许我们使用概率给出一组特征来预测一个类。与其他常见的分类方法相比，朴素贝叶斯算法需要的训练很少。在进行预测之前必须完成的唯一工作是找到特征的个体概率分布的参数，这通常可以快速且确定地完成。这意味着即使对于高维数据点或大量数据点，朴素贝叶斯分类器也可以表现良好。 支持向量机算法基本思想可概括如下：首先，要利用一种变换将空间高维化，当然这种变换是非线性的，然后，在新的复杂空间取最优线性分类表面[8]。由此种方式获得的分类函数在形式上类似于神经网络算法。支持向量机是统计学习领域中一个代表性算法，但它与传统方式的思维方法很不同，输入空间、提高维度从而将问题简短化，使问题归结为线性可分的经典解问题。支持向量机应用于垃圾邮件识别，人脸识别等多种分类问题。 随机森林算法控制数据树生成的方式有多种，根据前人的经验，大多数时候更倾向选择分裂属性和剪枝，但这并不能解决所有问题，偶尔会遇到噪声或分裂属性过多的问题。基于这种情况，总结每次的结果可以得到袋外数据的估计误差，将它和测试样本的估计误差相结合可以评估组合树学习器的拟合及预测精度。此方法的优点有很多，可以产生高精度的分类器，并能够处理大量的变数，也可以平衡分类资料集之间的误差。人工神经网络算法人工神经网络与神经元组成的异常复杂的网络此大体相似，是个体单元互相连接而成，每个单元有数值量的输入和输出，形式可以为实数或线性组合函数。它先要以一种学习准则去学习，然后才能进行工作。当网络判断错误时，通过学习使其减少犯同样错误的可能性。此方法有很强的泛化能力和非线性映射能力，可以对信息量少的系统进行模型处理。从功能模拟角度看具有并行性，且传递信息速度极快。Boosting与Bagging算法Boosting是种通用的增强基础算法性能的回归分析算法。不需构造一个高精度的回归分析，只需一个粗糙的基础算法即可，再反复调整基础算法就可以得到较好的组合回归模型。它可以将弱学习算法提高为强学习算法，可以应用到其它基础回归算法，如线性回归、神经网络等，来提高精度。Bagging和前一种算法大体相似但又略有差别，主要想法是给出已知的弱学习算法和训练集，它需要经过多轮的计算，才可以得到预测函数列，最后采用投票方式对示例进行判别。 关联规则算法关联规则是用规则去描述两个变量或多个变量之间的关系，是客观反映数据本身性质的方法。它是机器学习的一大类任务，可分为两个阶段，先从资料集中找到高频项目组，再去研究它们的关联规则。其得到的分析结果即是对变量间规律的总结。 EM（期望最大化）算法在进行机器学习的过程中需要用到极大似然估计等参数估计方法，在有潜在变量的情况下，通常选择EM算法，不是直接对函数对象进行极大估计，而是添加一些数据进行简化计算，再进行极大化模拟。它是对本身受限制或比较难直接处理的数据的极大似然估计算法。深度学习深度学习（DL，Deep Learning）是机器学习（ML，Machine Learning）领域中一个新的研究方向，它被引入机器学习使其更接近于最初的目标——人工智能（AI，Artificial Intelligence）。深度学习是学习样本数据的内在规律和表示层次，这些学习过程中获得的信息对诸如文字，图像和声音等数据的解释有很大的帮助。它的最终目标是让机器能够像人一样具有分析学习能力，能够识别文字、图像和声音等数据。 深度学习是一个复杂的机器学习算法，在语音和图像识别方面取得的效果，远远超过先前相关技术。深度学习在搜索技术、数据挖掘、机器学习、机器翻译、自然语言处理、多媒体学习、语音、推荐和个性化技术，以及其他相关领域都取得了很多成果。深度学习使机器模仿视听和思考等人类的活动，解决了很多复杂的模式识别难题，使得人工智能相关技术取得了很大进步。

机器学习算法-随机森林在机器学习中，随机森林是一个包含多个决策树的分类器， 并且其输出的类别是由个别树输出的类别的众数而定。 Leo Breiman和Adele Cutler发展出推论出随机森林的算法。 而 "Random Forests" 是他们的商标。 这个术语是1995年由贝尔实验室的Tin Kam Ho所提出的随机决策森林（random decision forests）而来的。这个方法则是结合 Breimans 的 "Bootstrap aggregating" 想法和 Ho 的"random subspace method"以建造决策树的集合。随机森林的优点有如下几点 ：1）对于很多种资料，它可以产生高准确度的分类器；2）它可以处理大量的输入变数；3）它可以在决定类别时，评估变数的重要性；4）在建造森林时，它可以在内部对于一般化后的误差产生不偏差的估计；5）它包含一个好方法可以估计遗失的资料，并且，如果有很大一部分的资料遗失，仍可以维持准确度；6）它提供一个实验方法，可以去侦测variable interactions；7）对于不平衡的分类资料集来说，它可以平衡误差；8）它计算各例中的亲近度，对于数据挖掘、侦测离群点（outlier）和将资料视觉化非常有用；9）使用上述。它可被延伸应用在未标记的资料上，这类资料通常是使用非监督式聚类。也可侦测偏离者和观看资料；10）学习过程是很快速的。

机器学习算法和一般优化算法不同的一点是，机器学习算法的目标函数通常可以分解为训练样本上的求和。机器学习中的优化算法在计算参数的每一次更新时通常仅使用整个代价函数中一部分项来估计代价函数的期望值。另一个促使我们从小数目样本中获得梯度的统计估计的动机是训练集的冗余。在最坏的情况下，训练集中所有的 m 个样本都是彼此相同的拷贝。基于采样的梯度估计可以使用单个样本计算出正确的梯度，而比原来的做法少花了 m 倍时间。实践中，我们不太可能真的遇到这种最坏情况，但我们可能会发现大量样本都对梯度做出了非常相似的贡献。使用整个训练集的优化算法被称为批量（batch）或确定性（deterministic）梯度算法，因为它们会在一个大批量中同时处理所有样本。这个术语可能有点令人困惑，因为这个词 “批量’’ 也经常被用来描述小批量随机梯度下降算法中用到的小批量样本。通常，术语 “批量梯度下降’’ 指使用全部训练集，而术语 “批量’’ 单独出现时指一组样本。例如，我们普遍使用术语 “批量大小’’ 表示小批量的大小。每次只使用单个样本的优化算法有时被称为随机（stochastic）或者在线（on-line）算法。术语 “在线’’ 通常是指从连续产生样本的数据流中抽取样本的情况，而不是从一个固定大小的训练集中遍历多次采样的情况。

即使对于线性分类器而言，精确地最小化 0 − 1 损失通常是不可解的（复杂度是输入维数的指数级别）(Marcotte and Savard, 1992)。在这种情况下，我们通常会优化代理损失函数（surrogate loss function）。代理损失函数作为原目标的代理，还具备一些优点。例如，正确类别的负对数似然通常用作 0 − 1 损失的替代。负对数似然允许模型估计给定样本的类别的条件概率，如果该模型效果好，那么它能够输出期望最小分类误差所对应的类别。在某些情况下，代理损失函数比原函数学到的更多。例如，使用对数似然替代函数时，在训练集上的 0 − 1 损失达到 0 之后，测试集上的 0 − 1 损失还能持续下降很长一段时间。这是因为即使 0 − 1 损失期望是零时，我们还能拉开不同类别的距离以改进分类器的鲁棒性，获得一个更强壮的、更值得信赖的分类器，从而，相对于简单地最小化训练集上的平均 0 − 1 损失，它能够从训练数据中抽取更多信息。一般的优化和我们用于训练算法的优化有一个重要不同：训练算法通常不会停止在局部极小点。反之，机器学习通常优化代理损失函数，但是在基于提前终止（第 7.8 节）的收敛条件满足时停止。通常，提前终止使用真实潜在损失函数，如验证集上的 0 − 1 损失，并设计为在过拟合发生之前终止。与纯优化不同的是，提前终止时代理损失函数仍然有较大的导数，而纯优化终止时导数较小。

机器学习算法的目标是降低式 (8.2) 所示的期望泛化误差。这个数据量被称为风险（risk）。在这里，我们强调该期望取自真实的潜在分布 pdata。如果我们知道了真实分布 pdata(x, y)，那么最小化风险变成了一个可以被优化算法解决的优化问题。然而，我们遇到的机器学习问题，通常是不知道 pdata(x, y)，只知道训练集中的样本。将机器学习问题转化回一个优化问题的最简单方法是最小化训练集上的期望损失。这意味着用训练集上的经验分布 pˆ(x, y) 替代真实分布 p(x, y)。现在，我们将最小化经验风险（empirical risk）：基于最小化这种平均训练误差的训练过程被称为经验风险最小化（empirical risk minimization）。在这种情况下，机器学习仍然和传统的直接优化很相似。我们并不直接最优化风险，而是最优化经验风险，希望也能够很大地降低风险。一系列不同的理论构造了一些条件，使得在这些条件下真实风险的期望可以下降不同的量。然而，经验风险最小化很容易导致过拟合。高容量的模型会简单地记住训练集。在很多情况下，经验风险最小化并非真的可行。最有效的现代优化算法是基于梯度下降的，但是很多有用的损失函数，如 0 − 1 损失，没有有效的导数（导数要么为零，要么处处未定义）。这两个问题说明，在深度学习中我们很少使用经验风险最小化。反之，我们会使用一个稍有不同的方法，我们真正优化的目标会更加不同于我们希望优化的目标。

正切传播也涉及到双反向传播(Drucker and LeCun, 1992) 和对抗训练(Szegedy et al., 2014a; Goodfellow et al., 2014b)。双反向传播正则化使Jacobian矩阵偏小，而对抗训练找到原输入附近的点，训练模型在这些点上产生与原来输入相同的输出。正切传播和手动指定转换的数据集增强都要求模型在输入变化的某些特定的方向上保持不变。双反向传播和对抗训练都要求模型对输入所有方向中的变化（只要该变化较小）都应当保持不变。正如数据集增强是正切传播非无限小的版本，对抗训练是双反向传播非无限小的版本。流形正切分类器 (Rifai et al., 2011d) 无需知道切线向量的先验。我们将在第十四章看到，自编码器可以估算流形的切向量。流形正切分类器使用这种技术来避免用户指定切向量。这些估计的切向量不仅对图像经典几何变换（如转化、旋转和缩放）保持不变，还必须掌握对特定对象（如移动身体的部分）保持不变的因素。因此根据流形正切分类器提出的算法相当简单：（1）使用自编码器通过无监督学习来学习流形的结构，以及（2）如正切传播（式 (7.67) ）一样使用这些切面正则化神经网络分类器。

在许多情况下，神经网络在独立同分布的测试集上进行评估已经达到了人类表现。因此，我们自然要怀疑这些模型在这些任务上是否获得了真正的人类层次的理解。为了探索网络对底层任务的理解层次，我们可以探索这个模型错误分类的例子。 Szegedy et al. (2014b) 发现，在精度达到人类水平的神经网络上通过优化过程故意构造数据点，其上的误差率接近100%，模型在这个输入点 x′ 的输出与附近的数据点 x 非常不同。在许多情况下，x′ 与 x 非常近似，人类观察者不会察觉原始样本和对抗样本（adversarial example）之间的差异，但是网络会作出非常不同的预测。见图 7.8 中的例子。对抗样本在很多领域有很多影响，例如计算机安全，这超出了本章的范围。然而，它们在正则化的背景下很有意思，因为我们可以通过对抗训练（adversarial training）减少原有独立同分布的测试集的错误率——在对抗扰动的训练集样本上训练网络 (Szegedy et al., 2014b; Goodfellow et al., 2014b)。Goodfellow et al. (2014b) 表明，这些对抗样本的主要原因之一是过度线性。神经网络主要是基于线性块构建的。因此在一些实验中，它们实现的整体函数被证明是高度线性的。这些线性函数很容易优化。不幸的是，如果一个线性函数具有许多输入，那么它的值可以非常迅速地改变。如果我们用 ϵ 改变每个输入，那么权重为w 的线性函数可以改变 ϵ ∥w∥1 之多，如果 w 是高维的这会是一个非常大的数。对抗训练通过鼓励网络在训练数据附近的局部区域恒定来限制这一高度敏感的局部线性行为。这可以被看作是一种明确地向监督神经网络引入局部恒定先验的方法。

使用Dropout训练时的随机性不是这个方法成功的必要条件。它仅仅是近似所有子模型总和的一个方法。Wang and Manning (2013) 导出了近似这种边缘分布的解析解。他们的近似被称为快速 Dropout（fast dropout），减小梯度计算中的随机性而获得更快的收敛速度。这种方法也可以在测试时应用，能够比权重比例推断规则更合理地（但计算也更昂贵）近似所有子网络的平均。快速 Dropout在小神经网络上的性能几乎与标准的Dropout相当，但在大问题上尚未产生显著改善或尚未应用。随机性对实现Dropout的正则化效果不是必要的，同时也不是充分的。为了证明这一点，Warde-Farley et al. (2014) 使用一种被称为 Dropout Boosting（Dropout Boosting）的方法设计了一个对照实验，具有与传统Dropout方法完全相同的噪声掩码，但缺乏正则化效果。Dropout Boosting训练整个集成以最大化训练集上的似然。从传统Dropout类似于Bagging的角度来看，这种方式类似于Boosting。如预期一样，和单一模型训练整个网络相比，Dropout Boosting几乎没有正则化效果。这表明，使用Bagging解释Dropout比使用稳健性噪声解释Dropout更好。只有当随机抽样的集成成员相互独立地训练好后，才能达到Bagging集成的正则化效果。

Dropout的另一个显著优点是不怎么限制适用的模型或训练过程。几乎在所有使用分布式表示且可以用随机梯度下降训练的模型上都表现很好。包括前馈神经网络、概率模型，如受限玻尔兹曼机(Srivastava et al., 2014)，以及循环神经网络(Bayer and Osendorfer, 2014; Pascanu et al., 2014a)。许多效果差不多的其他正则化策略对模型结构的限制更严格。虽然Dropout在特定模型上每一步的代价是微不足道的，但在一个完整的系统上使用Dropout的代价可能非常显著。因为Dropout是一个正则化技术，它减少了模型的有效容量。为了抵消这种影响，我们必须增大模型规模。不出意外的话，使用Dropout时最佳验证集的误差会低很多，但这是以更大的模型和更多训练算法的迭代次数为代价换来的。对于非常大的数据集，正则化带来的泛化误差减少得很小。在这些情况下，使用Dropout和更大模型的计算代价可能超过正则化带来的好处。只有极少的训练样本可用时，Dropout不会很有效。在只有不到 5000 的样本的Alternative Splicing数据集上 (Xiong et al., 2011)，贝叶斯神经网络 (Neal, 1996)比Dropout表现得更好 (Srivastava et al., 2014)。当有其他未分类的数据可用时，无监督特征学习也比Dropout更有优势。

迄今为止，我们讨论的许多问题都是关于损失函数在单个点的性质——若 J(θ)是当前点 θ 的病态条件，或者 θ 在悬崖中，或者 θ 是一个下降方向不明显的鞍点，那么会很难更新当前步。如果该方向在局部改进很大，但并没有指向代价低得多的遥远区域，那么我们有可能在单点处克服以上所有困难，但仍然表现不佳。大多数优化研究的难点集中于训练是否找到了全局最小点、局部极小点或是鞍点，但在实践中神经网络不会到达任何一种临界点。图 8.1 表明神经网络通常不会到达梯度很小的区域。甚至，这些临界点不一定存在。例如，损失函数 − log p(y | x; θ)可以没有全局最小点，而是当随着训练模型逐渐稳定后，渐近地收敛于某个值。对于具有离散的 y 和 softmax 分布 p(y | x) 的分类器而言，若模型能够正确分类训练集上的每个样本，则负对数似然可以无限趋近但不会等于零。同样地，实值模型p(y | x) = N (y; f(θ), β−1) 的负对数似然会趋向于负无穷——如果 f(θ) 能够正确预测所有训练集中的目标 y，学习算法会无限制地增加 β。给出了一个失败的例子，即使没有局部极小值和鞍点，该例还是不能从局部优化中找到一个良好的代价函数值。

一种新的基于深度学习的 3D 细胞分割框架，用于未来基于图像的疾病检测细胞分割在理解、诊断和治疗疾病方面起着至关重要的作用。尽管最近基于深度学习的细胞分割方法取得了成功，但在 3D 细胞膜图像中准确分割密集的细胞仍然具有挑战性。现有方法还需要在新数据集上微调多个手动选择的超参数。香港大学的研究人员开发了一个基于深度学习的 3D 细胞分割管道 3DCellSeg，以应对这些挑战。与现有方法相比，该方法具有以下新颖性：（1）一个稳健的两阶段流水线，只需要一个超参数；（2）一个轻量级的深度卷积神经网络 (3DCellSegNet) 以有效地输出体素掩码；（3）一个自定义的损失函数（3DCellSeg Loss）来解决clumped cell问题；（4）一种有效的基于触摸区域的聚类算法（TASCAN），用于将 3D 细胞从前景蒙版中分离出来。在四个不同的细胞数据集上进行的细胞分割实验表明，3DCellSeg 在 ATAS（植物）、HMS（动物）和 LRP（植物）数据集上优于基线模型，总体准确率分别为 95.6%、76.4% 和 74.7% ，同时实现了与 Ovules（植物）数据集上的基线相当的准确度，总体准确度为 82.2%。消融研究表明，准确性的个别改进可归因于 3DCellSegNet、3DCellSeg Loss 和 TASCAN，其中 3DCellSeg 在不同的数据集和细胞形状中表现出鲁棒性。实验结果表明，3DCellSeg 可以作为一种强大的生物医学和临床工具，例如组织病理学图像分析，用于癌症诊断和分级。该研究以「A novel deep learning-based 3D cell segmentation framework for future image-based disease detection」为题，于 2022 年 1 月 10 日发布在《Scientific Reports》。通过视网膜扫描和最少的个人信息预测心肌梗塞在眼科实践中，通常会获得视网膜图像以诊断和监测原发性眼病和影响眼睛的全身状况，例如糖尿病视网膜病变。最近的研究表明，视网膜图像上的生物标志物，例如视网膜血管密度或曲折度，与心脏功能相关，可以识别有冠状动脉疾病风险的患者。利兹大学的研究团队研究了使用视网膜图像以及相关的患者元数据，来估计左心室质量和左心室舒张末期容积，然后预测心肌梗死的发生。他们训练了一个多通道变分自编码器和一个深度回归模型，来估计左心室质量 [4.4 (–32.30, 41.1) g] 和左心室舒张末期容积 [3.02 (–53.45, 59.49) ml] 并预测心肌梗死的风险（AUC = 0.80 ± 0.02，灵敏度 = 0.74 ± 0.02，特异性 = 0.71 ± 0.03），仅使用视网膜图像和人口统计数据。研究结果表明，可以通过每个配镜师和眼科诊所提供的视网膜成像，来识别未来心肌梗死高风险的患者。该研究以「Predicting myocardial infarction through retinal scans and minimal personal information」为题，于 2022 年 1 月 25 日发布在《Nature Machine Intelligence》。医疗数据中隐藏的偏见可能会损害人工智能的医疗保健方法有证据表明，在医学和健康方面从人体获得的和关于人体的数据并不总是能创建公平的系统。偏见在临床设备、干预和互动中普遍存在。其中包括在设计时不考虑性别、性别和肤色的设备；嵌入种族的干预措施；取决于性别或种族的疾病诊断；以及患者和卫生工作者之间存在偏见的互动。来自这些系统的数据在用于机器学习算法时会促进或加剧这些偏见。通常，计算机科学缺乏关于性别歧视、种族主义和社会经济不平等对开发健康机器学习算法所用数据的系统性影响的教育。解决这些根深蒂固的偏见的解决方案并不容易，需要开发算法的人和使用算法的人（包括计算机科学家、工程师、临床医生、医疗机构等）有意识地努力。然而，如果没有关于对边缘化群体的历史不公正的教育，拒绝接受不公平作为常态，以及承担创建和应用减少而不是促进不公平的算法的责任，这些解决方案就不可能存在。机器学习传统上是在假设数据和标签以客观事实为基础的空间中运行的。不幸的是，许多证据表明，从人体中获取的和关于人体的「具体」数据并不能创建按预期运行的系统。医疗保健数据的复杂性可能与长期的歧视有关，该领域的研究禁止幼稚的应用。为了改善医疗保健，机器学习模型必须从一开始就努力识别、减少或消除此类偏见。波士顿大学和麻省理工学院的研究人员发表综述文章，他们的目标是列举许多例子来证明存在的偏见的深度和广度，这些偏见在整个医学史上一直存在。他们希望对算法自动化偏见的愤怒将导致生成此类数据的基本实践发生变化，从而减少健康差异。该综述以「In medicine, how do we machine learn anything real?」为题，于 2022 年 1 月 14 日发布在《Patterns》。通过强化学习优化基于风险的乳腺癌筛查策略筛查计划必须平衡早期发现的好处和过度筛查的成本。在这里，麻省理工学院的研究人员介绍了一种新的基于强化学习的个性化筛查框架 Tempo，并展示了其在乳腺癌筛查中的功效。研究人员在来自马萨诸塞州总医院（MGH；美国）的大型筛查乳房 X 线摄影数据集上训练了他们基于风险的筛查策略，并在来自 MGH 的保留患者和来自埃默里大学（Emory；美国）、卡罗林斯卡学院（Karolinska；瑞典）和长庚纪念医院（CGMH；台湾）的外部数据集中验证了该数据集。在所有测试集中，研究人员发现 Tempo 策略与基于图像的人工智能（AI）风险模型相结合，在每个屏幕频率的模拟早期检测方面比临床实践中使用的当前方案明显更有效。此外，该团队表明相同的 Tempo 策略可以很容易地适应各种可能的筛查偏好，允许临床医生在早期检测和筛查成本之间选择他们想要的权衡，而无需培训新的策略。最后，研究人员证明了基于 AI 风险模型的 Tempo 策略，优于基于不太准确的临床风险模型的 Tempo 策略。总而言之，将基于 AI 的风险模型与敏捷的 AI 设计的筛查策略相结合，有可能通过促进早期检测同时减少过度筛查来改进筛查计划。该研究以「Optimizing risk-based breast cancer screening policies with reinforcement learning」为题，于 2022 年 1 月 13 日发布在《Nature Medicine》。使用人工智能了解肺癌和支气管癌死亡率机器学习（ML）在预测死亡率方面已显示出前景；然而，了解风险因素对死亡率影响的空间变化需要可解释性。布法罗大学的研究人员在堆栈集成机器学习模型框架上应用了可解释的人工智能（XAI），以探索和可视化已知风险因素对美国本土肺癌和支气管癌（LBC）死亡率的贡献的空间分布。他们使用了五个基础学习器——广义线性模型（GLM）、随机森林（RF）、梯度提升机（GBM）、极端梯度提升机（XGBoost）和深度神经网络（DNN）来开发堆栈集成模型。然后，应用了几种与模型无关的方法来解释和可视化堆栈集成模型在全局和局部尺度（在县级）的输出。堆栈集成通常比所有基础学习器和三个空间回归模型表现更好。基于排列的特征重要性技术将吸烟率列为最重要的预测因子，其次是贫困和海拔。然而，这些风险因素对 LBC 死亡率的影响在空间上有所不同。这是第一项使用集成机器学习和可解释算法，来探索和可视化美国本土 LBC 死亡率和风险因素之间关系的空间异质性的研究。该研究以「Explainable artificial intelligence (XAI) for exploring spatial variability of lung and bronchus cancer (LBC) mortality rates in the contiguous USA」为题，于 2021 年 12 月 16 日发布在《Scientific Reports》。

第四范式成立于2014年，聚焦决策类AI领域，通过提供以平台为中心的AI解决方案，使企业实现人工智能快速规模化转型落地，提升企业的决策能力。第四范式的愿景是「AI for everyone」。根据灼识咨询报告，以2020年收入计，公司在中国以平台为中心的决策型AI市场排名第一。The Forrester Wave将其评为2020年预测分析与机器学习中国市场评测领域第一名。作为最大的即将上市的平台型人工智能公司，能否降低AI技术的应用门槛，是第四范式成功与否的关键。1、天才创业，以AI平台破局AI是企业深入推进数字化和智能化转型所必须导入或采用的技术，但其过高的门槛让众多缺乏技术和人才储备的企业望而却步。2016年7月，第四范式开发出了一个能够让非专业人士使用的机器学习平台——先知。用戴文渊的话说，就是一个完全不懂技术的小白，通过运用此数据架构平台，大概经历2周的时间，就可以成为一个AI专家。先知平台由人工智能操作系统Sage AIOS、包括HyperCycle及Sage Studio的人工智能开发套件两部分组成。Sage AIOS是一个企业级人工智能操作系统，具有界面友好、数据治理标准化、资源管理和调度自动化、中间软件全面兼容的优点。利用无代码和低代码开发工具HyperCycle、Sage Studio系列，用户可快速便捷地大规模部署各种定制化的人工智能应用。目前，第四范式的这套解决方案已广泛应用于金融、零售、制造、能源与电力、电信及医疗保健等众多行业。招股书显示，2021年前三季度，公司服务了55家财富世界500强企业及上市公司（即标杆用户），整体企业用户数量同比增82.4%至186家。随着用户数量扩大，第四范式的营收规模也逐年迅速增长。在2018年、2019年及2020年，其收入分别为人民币1.28亿元、4.60亿元、9.42亿元。2021年前三季度的收入同比增长134.3%至人民币13.45亿元，已远超2020年全年水平。第四范式创始人兼CEO戴文渊是个理工天才。他是全世界首个提出「非监督迁移学习」概念的人，开创了「非监督迁移学习」这一重要研究方向，获得过中国智能科技界最高荣誉「吴文俊人工智能科学技术奖」一等奖。在机器学习子领域迁移学习，他更被认为是该领域的全球领军学者，单篇论文被引用次数全球排名第三。戴文渊在AI技术行业拥有超过10年经验。他是商用AI系统百度“凤巢”的设计者，于2014年创立第四范式。2、估值30亿美元，资本的香饽饽决策人工智能赛道对于数据的处理能力、算法精确度要求非常高，因此相关企业也存在面临机会成本高昂、回报短期内难以评估、落地部署困难等诸多问题。第四范式也不能例外。招股书显示，在2018年、2019年、2020年和2021年前三季度，扣除以股份为基础的非现金薪酬影响后，经调整经营亏损在同期分别为人民币2.13亿元、3.18亿元、3.86亿元及3.91亿元。在研发费用投入上，在2018年、2019年、2020年及2021年前三季度，第四范式研发费用分别为人民币1.93亿元、4.16亿元、5.66亿元及8.44亿元，占同期收入的比例分别为151.2%、90.6%、60.0%及62.8%。尽管亏损连连，第四范式依旧是资本追捧的「明星」。成立至今，第四范式融资金额超10亿美元，估值接近30亿美元。2021年1月，第四范式宣布完成D轮7亿美元融资，为2020年以来AI技术领域披露的最大单笔融资。本轮融资由春华资本、博裕资本、厚朴投资领投，并引入国家制造业转型基金、国开、国新国同、建投华科、熙诚金睿、中信建投、海通证券等战略股东，红杉中国、中信产业基金、高盛、金镒资本和方源资本等财务投资机构。引人注目的是，第四范式还是第一家获得了中国工商银行、中国农业银行、中国银行、中国建设银行、交通银行等五大国有银行共同投资的创业公司。戴文渊曾表示，过去AI是可以for someone，特定企业才能拥有；未来AI终将for everyone，「第四范式要做的事情，是不断降低企业使用人工智能的门槛。」招股书显示，第四范式拟将此次IPO募集资金用于：加强基础研究、技术能力和解决方案开发；拓展产品，建立品牌及进入新的行业领域；寻求战略投资和收购机会，从而实施长期增长战略，以开发解决方案及拓展及渗透所涵盖的垂直行业；以及一般企业用途。

华为和国际大学生程序设计竞赛（ICPC）合办的2022年ICPC训练营的第一阶段于周二落下帷幕，华为再次成功地汇集了世界级的教练团队为ICPC选手提供了为期两天的线上专业培训。该训练营旨在帮助选手们为即将到来的2022年ICPC赛事做好准备。来自世界各地的576名选手参与了本次训练营，共计201支赛队。该训练营的第二阶段预期将在2022年下半年启动。来自全球各地的ICPC选手们竭尽全力、认真解题。本次训练营中用的难题均是由来自俄罗斯圣彼得堡国立信息技术机械与光学大学（ITMO）和中国北京大学的资深教练精心设计。ICPC基金会主席William B. Poucher博士（左）和华为战略研究院副院长周红博士（右）在闭幕式上祝贺选手ICPC基金会主席William B. Poucher博士在闭幕式上表示：“训练营不仅是头脑的碰撞，也是交流的平台。它的价值不仅仅在于训练内容，还包括通过训练营建立的联结。感谢华为为ICPC志愿者们提供机会，更好地为学生们提供免费培训。”同时，华为训练营还邀请了著名教练们为学员们答疑解惑。在第一天的环节中，华为邀请了来自北京大学的顶级竞赛选手设计训练赛题，并在赛后详细分析了解题思路。第二天，华为更是邀请了曾两次获得ICPC全球总决赛冠军的Gennady Korotkevich为参与者设计训练赛题（他以Codeforces网站上的昵称“Tourist”为大家所周知）。赛后，他为所有参与者带来了精彩的赛题讲解。Gennady Korotkevich 为参与选手讲解题目在为期两天的训练营模拟比赛综合结果中，来自中国清华大学的一支团队获得了第一名，他们在2481分钟内解出了19道题（共计22道题）。第二名获得者是来自波兰华沙大学的团队。共有6支团队因其出色的表现获得奖项，奖品包括华为笔记本电脑以及华为智能手表等。此外，在紧张的解题全程中，来自不同学校的赛队在不同阶段都有出色表现，展现了选手们追求更快、更准的解题风采。华为战略研究院副院长周红博士表示：“很荣幸我们能够支持ICPC，我们希望能为现役和未来的竞赛选手提供更多的机会，支持他们在编程竞赛的世界里追求卓越。”自2019年起，华为成为ICPC全球决赛的钻石赞助商和多个区域竞赛的赞助商。华为很荣幸能够支持全球规模最大、最具影响力的大学生程序设计大赛，愿意与ICPC社区携手，为全球优秀人才提供更多的学习和培训机会。