-
>摘要:传统大数据集群中,用户数据明文保存在HDFS中,集群的维护人员或者恶意攻击者可在OS层面绕过HDFS的权限控制机制或者窃取磁盘直接访问用户数据。本文分享自华为云社区[《FusionInsight MRS透明加密方案》](https://bbs.huaweicloud.com/blogs/307406?utm_source=zhihu&utm_medium=bbs-ex&utm_campaign=ei&utm_content=content),作者: 一枚核桃 。 # 概述 传统大数据集群中,用户数据明文保存在HDFS中,集群的维护人员或者恶意攻击者可在OS层面绕过HDFS的权限控制机制或者窃取磁盘直接访问用户数据。 FusionInsight MRS引入了Hadoop KMS服务并进行增强,通过对接第三方KMS,可实现数据的透明加密,保障用户数据安全。  - HDFS支持透明加密,Hive、HBase等在HDFS保存数据的上层组件也将通过HDFS加密保护,加密密钥通过HadoopKMS从第三方KMS获取。 - 对于Kafka、Redis等业务数据直接持久化存储到本地磁盘的组件,通过基于LUKS的分区加密机制保护用户数据安全。 # HDFS透明加密  - HDFS透明加密支持AES、SM4/CTR/NOPADDING加密算法,Hive、HBase使用HDFS透明加密做数据加密保护。SM4加密算法由A-LAB基于OpenSSL提供。 - 加密使用的密钥从集群内的KMS服务获取,KMS服务支持基于Hadoop KMS REST API对接第三方KMS。 - 一套FusionInsight Manager内部署一个KMS服务,KMS服务到第三方KMS使用公私钥认证,每个KMS服务在第三方KMS对应拥有一个CLK。 - 在CLK下可以申请多个EZK,与HDFS上的加密区对应,用于加密数据加密密钥,EZK在第三方KMS中持久化保存。 - DEK由第三方KMS生成,通过EZK加密后持久化保存到NameNode中,使用的时候使用EZK解密。 - CLK和EZK两层密钥可以轮转。CLK作为每个集群的根密钥,在集群侧不感知,轮转完全由第三方KMS控制管理。EZK可通过FI KMS管理,轮转在FI KMS可控制管理,同时第三方KMS管理员拥有KMS内密钥的管理能力,也可以做EZK的轮转。 # LUKS分区加密 对于Kafka、Redis等业务数据直接持久化存储到本地磁盘的组件,FusionInsight集群支持基于LUKS的分区加密进行敏感信息保护。 FusionInsight安装过程的脚本工具使用Linux统一密钥设置(Linux Unified Key Setup,简称LUKS)分区加密方案,该方案加密分区时会在集群每个节点生成或者从第三方KMS获取访问密钥,用于加密数据密钥,以保护数据密钥安全性。磁盘分区加密后,重启操作系统或者更换磁盘场景下,系统能够自动获取密钥并挂载或创建新的加密分区。
-
一、周周星分享——无能的万金油大家好,我们是“无能的万金油”团队,很荣幸获得了本次的周周星。下面是我们对于复赛数据的部分理解和思路:1、比赛进行到这里,对于训练集和测试集的清洗就不说什么了,大家也意识到其实上分是一件越来越玄学的事情,在初赛表现好的模型,复赛却不一定好原因也很简单,每条路径的不确定影响因素太多了。。 天气、疫情、塞港等突发事件,导致运船并不会按正常路线行驶,同时又由于人为录入的原因,路由信息也并不完全准确,有的船只的实际停靠港口也不一致。在就是test是截断的数据,就更导致trace可能写的 A-B-C 但实际是 A-C 甚至 A-C-D, 而你拿到的只有C-D或者,-C的部分数据,这就更加大了预测难度。2、针对上面的情况,我们其实能够知道,做的特征并不一定越全越好,而且有时候也不一定(强特)就好,因为强特代表训练集的平均特征,但是拿到的数据其实分布是各种各样的。反而“弱”一点的特征,少部分特征的泛化能力特强。3、对于A榜,我觉得没必要太纠结分数,因为数据分布太不一致了,更多的应该表现在模型的泛化能力上,测试下各个特征组合预测的时间分布特点,不然B榜很容易翻车。4、最后说下数据训练,找相似路由匹配的思路是个方向,但是这方面要细化才可能达到好的效果,需要一点点测试。5、如果单纯追求分数的话,完全可以采用探榜的方式,我们其实很大一部分也是探榜提升来的,但是说实话对B榜预测没有实际意义,最多用来做验证,所以后期不会再采取这样的尝试。大赛赛题:https://competition.huaweicloud.com/information/1000037843/introduction
-
一、周周星分享——什么都做不队大家好,我们是“什么都做不队”团队,很荣幸获得了本次的周周星。下面是本次的分享:1. 复赛的数据是更加复杂,我们在尝试的时候发现去重这个操作对数据的影响还是挺大的,针对不同的特征进行去重操作后 对最后的得分影响非常高,关于这一点我们初步认为大量塞港数据或者疫情影响数据导致。比如在测试集中LR运单号,我们尝试在匹配相似路径,最后发现部分属于2020的相似路径大部分出现一个情况: 到港口前开始停顿不动。 这可能是疫情原因导致的 也可能是塞港行为。我们认为上分的关键就是来处理这种异常运单号(可能会过拟合测试集)2. 特征选择:大家可以考虑使用少量特征,这个复赛数据有一个问题就是把初赛中某些强特带入能反向上分,可以尽量使用一些泛化能力强的特征。3. 模型方面 调参对模型的影响还是很大的,可以进一步参数通过调参上分。4. 接下来我们尝试去使用xgboost,ctb等其他模型看看是否会有提升效果,模型应该还是需要多多尝试。以上就是我们团队的分享 最后祝大家上分!二、周周星分享——智能集美大家好,我们是“智能集美”团队。首先感谢前几周的周周星的分享,下面是我们的一些思路心得。 1、数据清洗 A榜还有一周就要结束了,数据清洗的重要性我想大家都也明白。 初赛洗数据的方法已经不完全适用,所以我们除了保留了初赛部分简单的洗数据方法(如去除速度方向异常的gps记录),更多的采用的是画图找异常运单号的方式。通过先将各个运单号的航线画出来,找到可能为异常数据的运单号,再通提取这些异常数据的运单号数据,通过观察数据来判断是否进行删除。(在观察航线图的时候,还可以通过观察同一路由的其它运单号进行横向比对) 2、特征工程 特征工程是一个比较玄学的东西,大家可以尝试增删特征,找对比较合适的特征搭配。(我也在找…) 3、模型选择 LGB,永远滴神。参数还是有一定的影响的,在实在没有其它思路的时候可以考虑调参。 4、塞港问题 塞港显然是一个对结果影响很大的因素,但我们目前也没有什么很好的解决方案,毕竟有的船才刚刚走了百分之十到二十的路程,实在不知道怎么判断它有没有塞港。 我们接下来会特别关注一下经常塞港的路由,试图寻找到一些规律,同时我们接下来还会考虑疫情对于航线的影响,最后祝大家都能够取得好成绩。三、周周星分享--突然Ping通大家好,我们是“突然Ping通”团队,很高兴获得本次比赛的最后一周周周星,首先感谢前两周周周星的分享,让我们也有机会获得周周星。简要分享一下我们的思路:1、我们数据处理方式和初赛差不多,不过在初赛的基础上加了一步处理塞港状态的代码,根据之前官方人员提示经纬度在误差0.25之内可算到港,距离大概在30-40千米左右,所以我们对一些塞港的和到港又开走的数据进行了截断,就我们的方案在本地而言清洗完这类数据效果更好。由于测试集存在一些“离谱”的数据,比如FA订单,这些数据模型不能预测,所以我们对这类订单进行了后处理。2、特征工程一开始使用初赛的方案,但是效果不好,删除几个强特反而能够上分,所以大家可以尝试用少量特征调试。3、看到上周有周周星分享调参能上分,我们这周也用调参工具尝试调参,确实能上不少分,所以大家也可以尝试换换祖传参数,上一波分。大赛赛题:https://competition.huaweicloud.com/information/1000037843/introduction
-
一、周周星分享——什么都做不队大家好,我们是“什么都做不队”团队,很荣幸获得了本次的周周星。下面是本次的分享:1. 复赛的数据是更加复杂,我们在尝试的时候发现去重这个操作对数据的影响还是挺大的,针对不同的特征进行去重操作后 对最后的得分影响非常高,关于这一点我们初步认为大量塞港数据或者疫情影响数据导致。比如在测试集中LR运单号,我们尝试在匹配相似路径,最后发现部分属于2020的相似路径大部分出现一个情况: 到港口前开始停顿不动。 这可能是疫情原因导致的 也可能是塞港行为。我们认为上分的关键就是来处理这种异常运单号(可能会过拟合测试集)2. 特征选择:大家可以考虑使用少量特征,这个复赛数据有一个问题就是把初赛中某些强特带入能反向上分,可以尽量使用一些泛化能力强的特征。3. 模型方面 调参对模型的影响还是很大的,可以进一步参数通过调参上分。4. 接下来我们尝试去使用xgboost,ctb等其他模型看看是否会有提升效果,模型应该还是需要多多尝试。以上就是我们团队的分享 最后祝大家上分!二、周周星分享——智能集美大家好,我们是“智能集美”团队。首先感谢前几周的周周星的分享,下面是我们的一些思路心得。 1、数据清洗 A榜还有一周就要结束了,数据清洗的重要性我想大家都也明白。 初赛洗数据的方法已经不完全适用,所以我们除了保留了初赛部分简单的洗数据方法(如去除速度方向异常的gps记录),更多的采用的是画图找异常运单号的方式。通过先将各个运单号的航线画出来,找到可能为异常数据的运单号,再通提取这些异常数据的运单号数据,通过观察数据来判断是否进行删除。(在观察航线图的时候,还可以通过观察同一路由的其它运单号进行横向比对) 2、特征工程 特征工程是一个比较玄学的东西,大家可以尝试增删特征,找对比较合适的特征搭配。(我也在找…) 3、模型选择 LGB,永远滴神。参数还是有一定的影响的,在实在没有其它思路的时候可以考虑调参。 4、塞港问题 塞港显然是一个对结果影响很大的因素,但我们目前也没有什么很好的解决方案,毕竟有的船才刚刚走了百分之十到二十的路程,实在不知道怎么判断它有没有塞港。 我们接下来会特别关注一下经常塞港的路由,试图寻找到一些规律,同时我们接下来还会考虑疫情对于航线的影响,最后祝大家都能够取得好成绩。三、周周星分享--突然Ping通大家好,我们是“突然Ping通”团队,很高兴获得本次比赛的最后一周周周星,首先感谢前两周周周星的分享,让我们也有机会获得周周星。简要分享一下我们的思路:1、我们数据处理方式和初赛差不多,不过在初赛的基础上加了一步处理塞港状态的代码,根据之前官方人员提示经纬度在误差0.25之内可算到港,距离大概在30-40千米左右,所以我们对一些塞港的和到港又开走的数据进行了截断,就我们的方案在本地而言清洗完这类数据效果更好。由于测试集存在一些“离谱”的数据,比如FA订单,这些数据模型不能预测,所以我们对这类订单进行了后处理。2、特征工程一开始使用初赛的方案,但是效果不好,删除几个强特反而能够上分,所以大家可以尝试用少量特征调试。3、看到上周有周周星分享调参能上分,我们这周也用调参工具尝试调参,确实能上不少分,所以大家也可以尝试换换祖传参数,上一波分。大赛赛题:https://competition.huaweicloud.com/information/1000037843/introduction
-
一、周周星分享——无能的万金油大家好,我们是“无能的万金油”团队,很荣幸获得了本次的周周星。下面是我们对于复赛数据的部分理解和思路:1、比赛进行到这里,对于训练集和测试集的清洗就不说什么了,大家也意识到其实上分是一件越来越玄学的事情,在初赛表现好的模型,复赛却不一定好原因也很简单,每条路径的不确定影响因素太多了。。 天气、疫情、塞港等突发事件,导致运船并不会按正常路线行驶,同时又由于人为录入的原因,路由信息也并不完全准确,有的船只的实际停靠港口也不一致。在就是test是截断的数据,就更导致trace可能写的 A-B-C 但实际是 A-C 甚至 A-C-D, 而你拿到的只有C-D或者,-C的部分数据,这就更加大了预测难度。2、针对上面的情况,我们其实能够知道,做的特征并不一定越全越好,而且有时候也不一定(强特)就好,因为强特代表训练集的平均特征,但是拿到的数据其实分布是各种各样的。反而“弱”一点的特征,少部分特征的泛化能力特强。3、对于A榜,我觉得没必要太纠结分数,因为数据分布太不一致了,更多的应该表现在模型的泛化能力上,测试下各个特征组合预测的时间分布特点,不然B榜很容易翻车。4、最后说下数据训练,找相似路由匹配的思路是个方向,但是这方面要细化才可能达到好的效果,需要一点点测试。5、如果单纯追求分数的话,完全可以采用探榜的方式,我们其实很大一部分也是探榜提升来的,但是说实话对B榜预测没有实际意义,最多用来做验证,所以后期不会再采取这样的尝试。大赛赛题:https://competition.huaweicloud.com/information/1000037843/introduction
-
一、周周星分享——练习生团队大家好,我们是“练习生”团队,很荣幸获得了本次的周周星。下面是我们对于复赛数据的部分理解和思路:1、与初赛稍微对数据进行清洗,分数就能得到显著提升不同,复赛对于数据进行清洗产生的效益似乎并不太高,我认为如果初赛已经获得了一个相对较好的成绩,那么说明原先的数据清洗是有一定道理的,可能部分需要进行微调,但是没有必要完全重构。2、对于清洗数据收益甚微的情况,大家可以考虑一下特征的搭配,或许不使用全部特征,也能够获得较大收益。3、模型依然还是LGB模型,并没有什么特别4、对测试集的清洗也是一个关键点,分数上限不高,大部分也和测试集数据有关,目前我们做的只是简单的去重,进行操作的时候,要关注测试集的订单号总数是否发生变化。5、之后我们可能会尝试构造一些新的特征如时间特征、起始点终点的国家、城市等。以上是我们的分享,希望能和大家一起交流进步,祝大家取得好成绩。二、周周星分享—e402冲冲冲大家好,我们是“e402冲冲冲”团队,很荣幸获得了复赛第一周的周周星。下面分享一下我们对于复赛数据的一些理解和思路:1. 由于是复赛的第一周,我们主要是对数据集进行了清洗工作,清洗思路和初赛一样,包括:去掉direction为-1的记录,去重(去除loadingOrder, carrierName, timestamp和vesselMMSI相同的记录),去除路径中两点之间距离过大的的订单,出发港与目的港是否和路径匹配等。 2. 我们的主要思路也是相似轨迹的方法,这里我们采取了聚类的方法(感谢初赛周周星大佬的思路),从训练集中提取和测试集相似的轨迹进行训练,但是测试集中有很多轨迹是在训练集当中找不到的,这个就要自己处理。 3. 目前使用的还是LGB模型,特征也主要是一些统计特征。其实我们的方法也比较常规,相似轨迹的方法大家都有讨论,初赛也有很多团队使用,但是里面的一些细节例如测试集中找不到的轨迹就需要仔细思考。目前复赛第一周我们的主要工作也还是数据清洗,仍然处于探索阶段。希望能和大家一起交流进步,祝大家取得好成绩。 大赛赛题:https://competition.huaweicloud.com/information/1000037843/introduction
-
如题,现网用户使用官方提供的ODBC包,在windows下cognos连接DWS时,报Out of memory while reading tuples. 使用其他工具连接,也报一样的错误,说明与cognos本身没关系。ODBC在输出大数据量结果时,会一次性将结果输出出来,而windows的内存量不足以处理这样大量的数据时就会报这样的错误,查询资料后,可以通过勾选odbc的选项"use Declare/Fetch",利用游标来缓存结果,这样就不会让输出结果集消耗完内存。修改odbc的选项路径为Options->Datasource->use Declare/Fetch
-
近日,有国外媒体梳理了2021年十大数据泄密事件,并对事件进行了点评分析,可供读者参考。2021年,数据隐私泄露事件频发,涉及面广,影响力大,企业因此陷入数据保护合规与社会舆情压力的双重危机。近日,有国外媒体梳理了2021年十大数据泄密事件,并对事件进行了点评分析,可供读者参考。据数据统计,共有近2.2亿人受到以下十大数据安全事件的影响,其中三起泄密事件发生在科技公司,四起涉及敏感记录的泄露。1. OneMoreLead影响人数:6300万发现时间:2021年8月事件概要:vpnMentor的研究团队在8月份发现, B2B 营销公司 OneMoreLead 将至少6300万美国人的私人数据存储在一个不安全数据库中,该公司任由此数据库完全敞开。该数据库包含列出的每个人的基本个人身份信息数据,以及有关其工作和雇主的类似数据和信息。这些信息很可能被提供给注册其 B2B 营销服务的客户或顾客。vpnMentor 看到了数据库中大量的 .gov 和纽约警察局电子邮件地址,这让黑客有可能渗透到原本安全的高级政府机构。vpnMentor 表示,政府和警察部门成员的私人数据如同从事犯罪活动的黑客眼里的金矿,可能导致重大的国家安全事件,使公众严重丧失对政府的信任。据 vpnMentor 称,姓名、电子邮件地址和工作场所信息暴露在任何拥有网络浏览器的人面前。事件点评:科技和数据对于今天的营销而言非常重要,大数据营销的概念也是方兴未艾。当营销者们欢欣鼓舞地收集数据,建立模型,去做洞察,以指导营销时,用户数据的安全性该如何保障,企业营销的底线是什么,值得营销公司深思。2. T-Mobile影响人数:4780万发现时间:2021年8月事件概要:T-Mobile 于 8 月 17 日证实,其系统在 3 月18 日遭到了网络犯罪攻击,数百万客户、前客户和潜在客户的数据因此泄密。T-Mobile 表示,泄露的信息包括姓名、驾照、政府身份证号码、社会保障号码、出生日期、 T-Mobile 充值卡 PIN 、地址和电话号码。T-Mobile表示,不法分子利用了解技术系统的专长以及专门工具和功能,访问了该公司的测试环境,随后采用蛮力攻击及其他方法,进入到了含有客户数据的其他 IT 服务器。T-Mobile 表示,它弄清楚了不法分子如何非法进入其服务器并关闭这些入口点。该公司表示,它将向所有可能受到影响的人提供为期两年的免费身份保护服务(迈克菲的身份窃取防护服务)。此外, T-Mobile 表示为后付费客户提供帐户接管防护服务,这样一来,客户帐户更难被人以欺诈手段外泄和窃取。事件点评:T-Mobile 是一家跨国移动电话运营商,是德国电信的子公司,属于 Freemove 联盟。T-Mobile 在西欧和美国运营 GSM 网络,并通过金融手段参与东欧和东南亚的网络运营。该公司拥有1.09亿用户,是世界上较大的移动电话公司之一。对于网络犯罪分子来说,这类公司具有较高价值。通信公司有义务保护好客户信息,需要在数据安全方面做更多功课。3. 未知的营销数据库影响人数:3500万发现时间:2021年6月数据内容:个人信息事件概要:Comparitech研究人员在7月29日报告,一个含有估计3500万个人详细信息的神秘营销数据库泄露在网上,居然未设密码。该数据库包括姓名、联系信息、家庭住址、种族以及众多的人口统计信息(包括爱好、兴趣、购物习惯和媒体消费等)。相关样本显示,大多数记录与芝加哥、洛杉矶和圣迭戈这些大城市的居民有关。据 Comparitech 声称,凡是拥有网络浏览器和互联网连接的人都可以访问数据库全部内容,里面含有的信息可用于有针对性的垃圾邮件和诈骗活动以及网络钓鱼。Comparitech网络安全研究团队在6月26日发现了该数据库,尽管使出了浑身解数,还是无法确定该数据库归谁所有。该公司联系了托管该数据库服务器的亚马逊网络服务(AWS),要求撤下数据库,不过,该数据在7月27日之前仍可以访问。事件点评:互联网在提供精准营销的背后,却是一遍又一遍对用户隐私数据的索取、整理、分析和挖掘。任何国家的任何法律,都没有说不允许使用个人信息,所有的法律和规定,都是围绕如何正确使用这些信息,而不是如何禁止使用这些信息,这是一个大前提。那么,个人数据如何才算正确使用呢?这就涉及到“同意”原则,同意原则是企业使用个人信息的起点。当然,也有例外的情况可以不经过个人同意就使用个人信息,一般都是涉及国家安全等特殊情况。同意原则包含三个类型:默认同意、明示同意和授权同意。4. ParkMobile影响人数:2100万发现时间:2021年3月事件概要:ParkMobile在3月份发现一起与第三方软件漏洞有关的网络安全事件。调查发现,其基本的用户信息被人访问,包括车牌号、电子邮件地址、电话号码和车辆昵称。在少数情况下,邮寄地址也被访问。该公司还发现加密的密码被访问,但读取这些密码所需的加密密钥并未被访问。ParkMobile表示,它使用先进的散列和加入随机字符串(salting)技术对用户密码进行加密,以此保护用户密码。ParkMobile表示,用户应考虑更改密码,作为另一道预防措施;信用卡或停车交易历史记录未被访问;它并不收集社会保障号码、驾照号码或出生日期。ParkMobile称:“作为美国较大的停车应用软件,用户的信任是我们的重中之重。请放心,我们认真对待保护用户信息安全的责任。”事件点评:ParkMobile是在北美颇受欢迎的移动停车应用,用来显示街头可用的停车位Parkmobile还支持应用内支付停车费,即用户进入符合要求的距离之后可以在手机上为车位付费。不过需要特别注意的是,该功能只面向ParkmobilePro付费用户开放。它还能提供停车费折扣、路边援救以及临时优惠活动。在给用户带来方便的同时,其安全性也需要进一步加强。5. ClearVoiceResearch.com影响人数:1570万发现时间:2021年4月事件概要:ClearVoice在4月份获悉,一个未经授权的用户在网上发布了含有2015年8月和9月调查参与者的个人信息数据库,并向公众出售这些信息。可访问数据包括联系信息、密码以及针对用户健康状况、政治派别和种族等问题作出的答复。ClearVoice表示,这批数据可能会被不法分子滥用,导致调查参与者被人(比如广告商)联系。此外,可访问的信息可能用于准备个人资料,而这些资料可用于商业或政治目的。在收到未经授权用户发来的电子邮件的一小时内,ClearVoice表示它找到了备份文件,确保其安全,并消除了云服务端这个文件面临的泄露风险。另外ClearVoice对可能泄露信息的所有会员强行重置了密码,还实施了安全措施,以防止此类事件再次发生,并保护会员数据的隐私。事件点评:ClearVoice是一个人才网络和内容营销平台,帮助企业创建引人入胜的内容,以支持他们的博客,SEO,社交媒体和营销自动化。ClearVoice集成的编辑日历和简化的内容工作流程可提高工作效率,并帮助营销人员实现其内容营销目标。显然,在其开展相关营销活动时,并未很好地将安全性纳入到其平台上。6. Jefit影响人数:905万发现时间:2021年3月事件概要:锻炼跟踪应用程序Jefit在3月份发现了因安全漏洞而导致的数据泄密,这起事件影响了2020年9月20日之前注册的客户帐户。不法分子访问了以下信息:Jefit帐户用户名、与帐户关联的电子邮件地址、加密的密码以及创建帐户时的IP地址。Jefit保存IP地址用于防止机器人程序,并将滥用帐户登记在册。该公司查明了数据泄密的根本原因,并证实Jefit的其他系统未受影响。Jefit表示,它已采取安全措施来加强网络,以防范将来出现类似的泄密事件,并正在其产品上采用更加强大的密码策略,以便将来进一步保护用户帐户。此外,Jefit表示,敏感的财务数据未受到牵涉,因为该公司从不存储客户的付款信息。客户在Jefit网站购买产品时,所有支付流程都由Google Play Store 、 Apple App Store直接处理,或者由支付网关公司直接处理。事件点评:Jefit成立于2010年,立志于成为健身界的Facebook,在这个语境下,它有着同类应用难以比肩的大型数据库:超过1300种训练动作,以及数以百万计用户分享的训练计划。Jefit只能做到对健身训练数据的追踪和管理,想要直观地分析一定周期内个人在健身时的训练状态和身体表现情况,还得借助一些数据整合和分析工具。不管是使用自身系统还是借助于第三方工具,都需要做好数据保护工作。7. Robinhood影响人数:700万发现时间:2021年11月事件概要:电子交易平台Robinhood在11月8日披露,未经授权的有关方在五天前通过电话冒充员工,访问了客户支持系统。Robinhood表示,在此次事件中,黑客获得了大约500万人的电子邮件地址列表以及另外大约200万人的全名。Robinhood表示,这700万条记录中的数千个条目包含电话号码,大约310人的姓名、出生日期和邮政编码已被公开,其中大约10个客户的更详细帐户信息被公开。Robinhood在遏制这起入侵后表示,黑客敲诈索要赎金。它及时通知了执法部门,将在Mandiant的帮助下继续调查这起事件。事件点评:冒充他人登录到企业网络,事实上就是窃取员工的身份。身份认证也称为"身份验证"或"身份鉴别",是指在计算机及计算机网络系统中确认操作者身份的过程,从而确定该用户是否具有对某种资源的访问和使用权限,进而使计算机和网络系统的访问策略能够可靠、有效地执行,防止攻击者假冒合法用户获得资源的访问权限,保证系统和数据的安全,以及授权访问者的合法利益。单一的身份认证手段容易导致账号被冒用,造成内部信息泄露,企业需要进一步加固自身的身份认证体系,来保障网络信息的安全。8. Accellion影响人数:676万发现时间:2021年初事件概要:2021年初,黑客结合旧版Accellion文件传输设备(FTA)中多个零日漏洞工具,向外泄露数据,要求付款以确保归还和删除数据。据HIPAA Guide网站报道, Clop勒索软件团伙的数据泄露网站被用来发布一些被盗数据,劝诱受害者支付赎金。截至2021年4月份,已知至少九家医疗保健组织受到了Accellion数据泄密事件影响,其中包括Kroger Pharmacy的147万客户、Health Net的124万会员、Trinity Health的58.7万患者、California Health&Wellness的8万会员、Trillium Health Plan的5万客户,以及Arizona Complete Health的2.9万会员。Stanford Medicine 、 University of Miami Health和 Centene Corp也受到了这次泄密事件的影响,不过这每家组织中受影响的人数尚未得到证实。泄露信息包括姓名、社会保障号码、出生日期、信用或银行账号、健康保险号码及/或与健康有关的信息。事件点评:"零日漏洞"(zero-day)又叫零时差攻击,是指被发现后立即被恶意利用的安全漏洞。通俗地讲,即安全补丁与瑕疵曝光的同一日内,相关的恶意程序就出现。这种攻击往往具有很大的突发性与破坏性。有证据显示,黑客更加善于在发现安全漏洞不久后利用它们,实施攻击活动。虽然目前不能完全防范零日漏洞攻击,但是,科学完善的防御体系能有效减少被零日攻击的机率,以及降低零日攻击造成的损失。9. Infinity保险公司影响人数:572万发现时间:2021年8月事件概要:Infinity保险公司在3月份披露,在2020年12月的两天内,有人未经授权,短暂访问了Infinity网络中服务器上的文件。Infinity全面审查保存在被访问服务器上的文件后发现,一些社会保障号码或驾照号码包含在文件中。这起事件还影响了Infinity现在和以前的员工,泄露信息包括员工姓名、社会保障号码及/或有限情况下与病假或员工赔偿索赔有关的医疗信息。受影响员工和客户将获得为期一年的免费信用监控服务会员资格。为了降低发生类似事件的风险,Infinity继续审查其网络安全计划,并利用调查信息来确定另外的措施,以进一步增强网络安全性。该公司在致员工的一封信中写道:“我们理解保护个人信息的重要性,对由此造成的不便深表歉意。”事件点评:Infinity财产保险公司是总部设立在伯明翰,为美国各州提供汽车保险的公司。作为美国表现良好的公司之一,提供非标准的汽车保险,为那些不能通过标准保险公司获得安全保障的个人提供保险服务。这些不标准的因素可能是因为驾驶记录里有事故记录,驾驶者的年龄,车型以及其他各种原因。Infinity财产保险公司是在非标准承保行业中第三大保险公司,作为有如此影响力的保险公司,应加强其数据安全。10. 尼曼集团(Neiman Marcus Group)影响人数:435万发现时间:2021年9月事件概要:奢侈品百货连锁店尼曼在9月份披露,未经授权的有关方于2020年5月获取了与客户在线帐户有关的个人信息。该公司表示,它已将该事件通知执法部门,已与Mandiant密切合作开展调查。泄露信息可能包括:姓名及联系资料、支付卡号及有效期、尼曼虚拟代金券号码,以及与在线帐户有关的用户名、密码以及安全问题和答案。尼曼称,大约310万张支付卡和虚拟代金券受到了影响,其中超过85%为过期或无效。尼曼回应称,它要求自2020年5月以来未更改密码的受影响客户重置在线帐户密码。此外该公司表示,如果受影响客户为其他任何在线帐户使用的登录信息与用于其尼曼帐户的登录信息相同或相似,应更改登录信息。事件点评:尼曼集团( Neiman Marcus )是美国以经营奢侈品为主的连锁高端百货商店,是当今世界高档、独特时尚商品的零售商,已有100多年的发展历史,其总部在美国得克萨斯州达拉斯,能进入该百货的品牌都是各个行业中的翘楚。此次数据泄露事件,使其公众声望受损。文章来源:https://zhuanlan.51cto.com/art/202201/697844.htm ,作者:安全牛
-
https://competition.huaweicloud.com/information/1000037843/introduction?track=107该赛事由清华大学、中国人工智能学会和华为技术有限公司联合举办,华为云大数据平台提供支持,以企业真实场景和实际数据为基础,面向全球开放的高端算法竞赛。举办方:清华大学、中国人工智能学会、华为技术有限公司2016年,教育部高等学校计算机类专业教学指导委员会、教育部高等学校软件工程专业教学指导委员会、教育部高等学校大学计算机课程教学指导委员会、全国高等学校计算机教育研究会联合创办了“中国高校计算机大赛”(China Collegiate Computing Contest,简称C4),第五届(2020年)“中国高校计算机大赛”继续由全国高等学校计算机教育研究会主办。大数据挑战赛是其中的一项重要赛事,在2018年被选入全国普通高校学科竞赛排行榜,获得社会各界的高度关注和广泛好评。2020中国高校计算机大赛——华为云大数据挑战赛(以下简称“大赛”)是由清华大学、中国人工智能学会和华为技术有限公司联合举办,华为云和北京信息科学与技术国家研究中心提供支持,以企业真实场景和实际数据为基础,面向全球开放的高端算法竞赛。大赛旨在通过竞技的方式,提升人们对数据分析与处理的算法研究与技术应用能力,探索大数据的核心科学与技术问题,尝试创新大数据技术,推动大数据的产学研用。一、 参赛对象本次大赛开设在校学生和在职人员两个通道,其中在职人员不占用在校学生晋级和奖励名额,具体见后面小节说明。1. 在校学生队伍要求大赛面向中国及境外在校学生(包括高职高专、本科、研究生),具体要求如下:(1) 可以自由组队参赛,每个参赛队伍人数可为1–3人,参赛队员必须全部为在校生,允许跨年级、跨专业、跨校组队。(2) 每人只能参加一支队伍(即个人参赛后不可再与他人组队参赛,或个人参加一个队伍后不可再参加另一个队伍),每支队伍允许最多有一名指导老师,指导教师须为在职高校教师。(3) 参赛者报名时应具有在校学籍,已毕业的学生不具备参赛资格。(4) 参赛选手应保证报名信息准确有效,填写报名信息时应在大赛报名页“备注”栏提供学信网的教育部学籍在线验证报告编号。2. 在职人员队伍要求在职人员是指在单位工作的非在校生,具体要求如下:(1) 可以自由组队参赛,每个参赛队伍人数可为1–3人,队伍中只要有一名在职人员,则整个队伍将视为在职人员队伍。(2) 每人只能参加一支队伍,参赛选手应保证报名信息准确有效。3. 禁止参赛人员(1) 大赛主办和技术支持单位如有机会接触赛题和相关数据的人员不允许参赛。(2) 华为技术有限公司在职人员(不含实习生)不允许参赛。二、 赛制说明本次大赛分为报名&组队、热身赛(可选)、正式赛(包括初赛、复赛和决赛)等阶段,其中热身赛的目的是帮助选手进行前期训练学习以及熟悉华为云大数据平台,由选手自愿选择报名并在华为云平台进行比赛;初赛均由参赛队伍下载数据在本地进行算法设计和调试,并通过大赛报名官网提交结果文件;复赛要求参赛者在华为云大数据平台上进行数据分析和处理,可使用平台提供的计算资源和工具包;决赛要求参赛者进行现场演示和答辩。1. 报名&组队(4月17日 – 5月31日)参赛选手须在大赛官网报名并且组队参赛(即使单人参赛也要组建单人队伍),大赛不收取任何报名费用。(1) 大赛报名系统开放时间是2020年4月17日10:00,截止时间是2020年5月31日17:00。(2) 大赛官网:https://competition.huaweicloud.com/information/1000037843/bdc2020(3) 大赛官方交流QQ群:566353409 / 758344321报名截止之后,不再允许添加或更改指导教师和任何队伍成员。如有中途退出情况,只允许在参赛队伍内部更换队长或删除队员。参赛队伍须应在决赛开始前向大赛组委会提交成员更换申请,由参赛队伍全部成员亲笔签名,经由大赛组委会审核后变更生效。2. 热身赛(4月17日 – 6月1日,自愿选择参加)热身赛要求选手基于华为云一站式AI开发平台ModelArts开发模型及提交评测,并使用华为云对象存储服务OBS以存储训练数据、代码、模型等文件。热身赛的开始时间是4月17日10:00,结束时间是6月1日17:00,每个参赛队伍每天可以进行3次提交,系统立即进行评测并返回成绩。排行榜将选择参赛队伍在本阶段的历史最优成绩进行排名展示,每两个小时更新排行榜。特别说明:(1) 热身赛的赛题为“交通流量预测”。(2) 热身赛排名不区分在校学生队伍和在职人员队伍。(3) 热身赛由选手自愿选择报名参加,其成绩不会影响正式赛成绩;选手也可以直接报名参加正式赛,最终大赛成绩以正式赛为准。3. 初赛(6月2日 – 6月30日)参赛队伍可从大赛官方网站下载数据,在本地进行算法调试,并在线提交结果。正式赛的赛题为“船运到达时间预测”。初赛A阶段:6月2日10:00 – 6月26日22:00,每个参赛队伍每天可以进行3次提交,系统立即进行评测并返回成绩。排行榜将选择参赛队伍在本阶段的历史最优成绩进行排名展示,每两个小时更新一次排行榜。初赛B阶段:6月27日10:00 – 6月30日12:00,系统将在6月26日23:00更换测试数据,参赛队伍需再次下载数据文件。初赛排行榜将选取参赛队伍6月27日起产生的成绩进行重新排名。初赛截止时间是6月30日12:00,最多有110支队伍晋级复赛,晋级规则如下:(1) 100支在校学生队伍:单独进行排名之后,初赛成绩排名前100名队伍将进入复赛,同时前10名队伍还将获得初赛奖励;(2) 10支在职人员队伍:初赛成绩在所有队伍(包括在校学生队伍和在职人员队伍)的总排名中进入前100名,并且处于在职人员队伍的前10名;同时进入总排名的前10名队伍还将获得初赛奖励。4. 复赛(7月13日-8月10日)复赛参赛队伍需要在华为云大数据平台上完成数据处理、建模、算法调试、生成结果等,所有比赛数据不可下载,可使用平台提供的计算资源和工具包。复赛A阶段:7月13日10:00 – 8月9日21:00,每个参赛队伍每天可以进行3次提交,系统立即进行评测并返回成绩。排行榜将选择参赛队伍在本阶段的历史最优成绩进行排名展示,实时更新排行榜。复赛B阶段:8月10日00:00 – 8月10日12:00,系统将在8月6日23:00更换测试数据,参赛队伍应根据新的数据集提交模型(在线一键提交)。复赛排行榜将选取参赛队伍8月7日起产生的成绩进行重新排名。复赛截止时间是8月10日12:00,最多有12支队伍晋级决赛,晋级规则如下:(1) 10支在校学生队伍:单独进行排名之后,复赛成绩排名前10名队伍将进入复赛;(2) 2支在职人员队伍:复赛成绩在所有队伍的总排名中进入前10名,并且处于在职人员队伍的前2名;(3) 所有晋级决赛队伍的代码需要进行审核,审核不通过的队伍将取消决赛资格,其名额顺延到其后面的下一个队伍。5. 决赛(8月下旬)决赛将以现场答辩会的形式进行,晋级决赛团队需提前准备答辩材料,包括答辩PPT、参赛总结、算法核心代码。(1) 在答辩现场,每支队伍面对评委有15分钟的陈述时间和10分钟的问答时间。评委将根据选手的技术思路、理论深度和现场表现进行综合评分。(2) 决赛分数将根据参赛队伍的算法成绩和答辩成绩加权得出,评分权重为复赛B阶段70%,决赛答辩30%。决赛地点和时间安排另行通知,受邀参加决赛的选手在决赛期间的食宿由大赛组委会安排,往返交通费及其他费用自理。三、 奖项设置1. 热身赛奖项大赛将提供100元华为云资源代金券,成功报名的参赛者可点击页面上方“领取”获得代金券(每位参赛者仅可领取一次)。另外,热身赛将设置以下奖项和奖品:奖项名称数量对象奖励办法一等奖5热身赛前5名队伍荣耀魔法系列手表二等奖15热身赛6-20名队伍华为AI音箱三等奖30热身赛21-50名队伍荣耀手环5i标准版2. 初赛奖项初赛最终排行榜的前20名队伍颁发初赛名次证书,初赛名次奖不区分在校学生队伍和在职人员队伍。3. 复赛与决赛奖项大赛奖金池总额为30万元人民币,所有奖金均为税前金额。
-
作为人工智能社区群策群力的早期形式,「众包」成就了 ImageNet 等一批成功的数据集,也加快了整个社区的发展进程。但要构建人工智能技术开发生态,仅靠「众包」是不够的。2009 年,由知名科学家李飞飞发起,来自全球 167 个国家近 5 万名工作者以众包的方式,通过三年合作努力,完成了日后触发人工智能领域发展浪潮的伟大数据集 ImageNet。数据规模巨大,标注错误极低,ImageNet 发布十余年以来,已成为淬炼图像处理算法不断升级的试金石。2010-2017 连续开展八年的 ImageNet 全球挑战赛,推动了物体识别平均准确率等 AI 领域关键指标不断提升,更让深度学习算法自 2012 年在此舞台之上大放异彩,进一步引发了人工智能领域的革命。 众所周知,ImageNet 包含 1500 万张带标注的图像,工程十分浩大。帮助李飞飞完成这一壮举的,是当时刚刚兴起的社区概念——众包。可以说,众包一直在人工智能领域扮演着重要角色,一定程度上加快了这一领域的历史进程。但与此同时,社区并没有止步于众包,而是向前又走了一步。昇腾计算产业的成员企业华为,提出了一种新的模式——众智,汇聚企业、高校、科研院所等组织的力量,做硬核开发。2021 年 3 月 18 日,昇腾众智计划正式上线。众智类似于众包,但又不同于众包。众包是繁复的人力投入,而「昇腾众智」意在通过「硬件开放、软件开源、使能伙伴」的方式,激发开发者的智慧,在网络模型开发、算子开发以及行业参考设计开发等几类项目上进行创新。 此外,「昇腾众智」计划还关注后续的人才培养以及开放平台、社区的建设和发展,这就改变了传统众包「交付即终点」的模式,对开发者的个人成长甚至整个社区的发展都有着更加深远的意义。为何众智?如何众智?3 月 13 日,国家发布了「十四五」规划纲要。纲要指出,「十四五」期间,我国将通过一批具有前瞻性、战略性的国家重大科技项目,带动产业界逐步突破前沿基础理论和算法,其中就包括深度学习框架等开源算法平台的构建以及学习推理决策、图像图形、语音视频、自然语言识别处理等领域的创新与迭代应用。由此可见,加快国内人工智能的发展在国家战略层面正变得越来越重要。过去几年,昇腾计算产业已构建起完整的全栈 AI 软硬件平台,包括基于昇腾架构的系列硬件,异构计算架构 CANN、深度学习计算框架 MindSpore 等软件平台。通过上述平台构建的AI基础设施,涵盖纲要中提到的图像、语音、自然语言处理等多项技术,可以加快医疗、能源、交通、制造等多个行业的智能化升级。AI 模型和基础软件都是高度依赖生态建设的项目,无法依靠单一力量来完成,需要汇聚开发者,共同打造昇腾计算产业生态。在过去的 2020 年,昇腾社区从学、练、用、考、赛等维度为开发者提供了完善的软件资源、专业培训、技术支持、生态政策和产品方案,上线了 50 多个开发者系列课程、1008 本学习资料、100 + 工具与样例、100 + 模型,MindSpore 开源开发者已突破 10 万 + 人。虽然已经取得了一些成绩,但要想加快这一进程,昇腾需要整个社区的力量来共同托举,这也是「昇腾众智」计划诞生的初衷。 那么如何「众智」呢? 具体而言,「昇腾众智」主要涉及的是异构计算架构 CANN 算子开发、主流深度学习网络模型(基于 MindSpore、PyTorch 等)开发和行业参考设计开发等。 这些需求都以项目的形式发布在「昇腾众智」的官方页面上,每两周刷新一次。近期公布的 140 个项目需求包含 MindSpore 数据增强算子、MindSpore 模型等,涵盖文本、图像、视频、自然语言、目标检测等多个领域。打开「项目任务书」,我们可以看到项目的具体细节,包括任务描述、知识背景要求、任务要求、任务清单、开发指导等内容。对该项目感兴趣且符合要求的开发者可以填写与自身情况相对应的申请表。和「众包」、「外包」不同的是,在「昇腾众智」计划中,参与任务的开发者和昇腾之间并不是「冷冰冰的业务关系」,而是一种并肩作战的合作关系。如果你在开发中遇到问题,你可以随时向昇腾的专家寻求帮助。这种帮助包括但不限于硬件、软件、技术指导和答疑等。 群策群力,多方受益 前面说到,在「昇腾众智」计划中,开发者与昇腾之间是一种并肩作战的合作关系,合作的目的是创建一个强大的生态和社区。这就意味着,参与「昇腾众智」的开发者甚至整个社区都将从中受益。 开发者包含高校师生、科研机构研究者、企业开发团队等多个群体。对于这些群体来说,他们收获的不仅仅是项目交付后的奖金激励和项目开发期间的算力资源支持,还有昇腾颁发的荣誉证书(优秀开发团队和个人将受邀参加华为旗舰大会)以及华为招募引进人才的优先权等。 其他的潜在收益还包括项目经验积累、创新研究项目合作以及行业影响力的提升等。 以高校为例,高校是一个偏重学术的环境,「昇腾众智」将更多的真实项目带进校园,使得学生有更多的机会接触真实的业务场景,得到业内专家的指导,从而加深对于 AI 的理解,沉淀更多的实践经验。 科研院所和企业有所不同。科研院所汇聚了一大批优秀研究者,但在算力、场景扩展、科研创新等方面也需要一些外部支持,「昇腾众智」恰好可以在这些方面提供支持,满足科研机构在多个方面的科研需求。企业所在的行业往往需要配套的行业参考设计,在昇腾的技术支持下,企业可以更快地开发自己行业所需的参考设计,提升自身的行业影响力。 除了这些,「昇腾众智」对于整个人工智能社区也有很重要的意义。一方面,这些项目开发完成后将在昇腾社区开放,供所有开发者下载使用,免去开发者重新写代码、训练模型的麻烦,加速社区的发展进程。另一方面,昇腾社区、MindSpore 社区与其他开源开放社区可以借助这一项目建立紧密的联系,为高校、科研机构、企业和开源社区的成员搭建一个广阔的交流、合作平台,共同加速 AI 社区的发展。 以上几点在本月初启动的「OpenI 启智 & MindSpore 集结号」活动中已经有所体现。这一活动由 OpenI 启智社区和 MindSpore 社区共同举办,旨在集中高校开发者合作开发 MindSpore 高性能模型(模型众智)。中国工程院院士、鹏城实验室主任、北京大学博雅讲席教授高文在「集结号」活动中讲话。其实,早在「集结号」活动之前,「昇腾众智」就已经开始了一些小规模的探索,这些探索为计划的正式上线蓄积了力量。自去年启动昇腾众智计划以来,已有浙江大学、上海交通大学、西安交通大学、中国科学院等超过 40 所高校和科研机构参与其中(排名不分先后)。他们已经完成 484 个 PyTorch 算子分析、368 个算子开发、15 个 MindSpore 模型交付和 2 个 PyTorch 模型交付,行业参考设计的众智活动也已经完成试点。十几年前,ImageNet 让我们看到了群体力量的伟大;如今,昇腾不止要利用这股力量,更想要挖掘其中的「智慧」,创造一种新的 AI 开发模式。 目前,「昇腾众智」的初步目标是通过线上、线下两种方式** 200 + 团队、2000 + 开发者。
hellohelloya
发表于2022-01-06 10:33:49
2022-01-06 10:33:49
最后回复
hellohelloya
2022-01-06 10:33:49
1163 0 -
作为人工智能社区群策群力的早期形式,「众包」成就了 ImageNet 等一批成功的数据集,也加快了整个社区的发展进程。但要构建人工智能技术开发生态,仅靠「众包」是不够的。2009 年,由知名科学家李飞飞发起,来自全球 167 个国家近 5 万名工作者以众包的方式,通过三年合作努力,完成了日后触发人工智能领域发展浪潮的伟大数据集 ImageNet。数据规模巨大,标注错误极低,ImageNet 发布十余年以来,已成为淬炼图像处理算法不断升级的试金石。2010-2017 连续开展八年的 ImageNet 全球挑战赛,推动了物体识别平均准确率等 AI 领域关键指标不断提升,更让深度学习算法自 2012 年在此舞台之上大放异彩,进一步引发了人工智能领域的革命。 众所周知,ImageNet 包含 1500 万张带标注的图像,工程十分浩大。帮助李飞飞完成这一壮举的,是当时刚刚兴起的社区概念——众包。可以说,众包一直在人工智能领域扮演着重要角色,一定程度上加快了这一领域的历史进程。但与此同时,社区并没有止步于众包,而是向前又走了一步。昇腾计算产业的成员企业华为,提出了一种新的模式——众智,汇聚企业、高校、科研院所等组织的力量,做硬核开发。2021 年 3 月 18 日,昇腾众智计划正式上线。众智类似于众包,但又不同于众包。众包是繁复的人力投入,而「昇腾众智」意在通过「硬件开放、软件开源、使能伙伴」的方式,激发开发者的智慧,在网络模型开发、算子开发以及行业参考设计开发等几类项目上进行创新。 此外,「昇腾众智」计划还关注后续的人才培养以及开放平台、社区的建设和发展,这就改变了传统众包「交付即终点」的模式,对开发者的个人成长甚至整个社区的发展都有着更加深远的意义。为何众智?如何众智?3 月 13 日,国家发布了「十四五」规划纲要。纲要指出,「十四五」期间,我国将通过一批具有前瞻性、战略性的国家重大科技项目,带动产业界逐步突破前沿基础理论和算法,其中就包括深度学习框架等开源算法平台的构建以及学习推理决策、图像图形、语音视频、自然语言识别处理等领域的创新与迭代应用。由此可见,加快国内人工智能的发展在国家战略层面正变得越来越重要。过去几年,昇腾计算产业已构建起完整的全栈 AI 软硬件平台,包括基于昇腾架构的系列硬件,异构计算架构 CANN、深度学习计算框架 MindSpore 等软件平台。通过上述平台构建的AI基础设施,涵盖纲要中提到的图像、语音、自然语言处理等多项技术,可以加快医疗、能源、交通、制造等多个行业的智能化升级。AI 模型和基础软件都是高度依赖生态建设的项目,无法依靠单一力量来完成,需要汇聚开发者,共同打造昇腾计算产业生态。在过去的 2020 年,昇腾社区从学、练、用、考、赛等维度为开发者提供了完善的软件资源、专业培训、技术支持、生态政策和产品方案,上线了 50 多个开发者系列课程、1008 本学习资料、100 + 工具与样例、100 + 模型,MindSpore 开源开发者已突破 10 万 + 人。虽然已经取得了一些成绩,但要想加快这一进程,昇腾需要整个社区的力量来共同托举,这也是「昇腾众智」计划诞生的初衷。 那么如何「众智」呢? 具体而言,「昇腾众智」主要涉及的是异构计算架构 CANN 算子开发、主流深度学习网络模型(基于 MindSpore、PyTorch 等)开发和行业参考设计开发等。 这些需求都以项目的形式发布在「昇腾众智」的官方页面上,每两周刷新一次。近期公布的 140 个项目需求包含 MindSpore 数据增强算子、MindSpore 模型等,涵盖文本、图像、视频、自然语言、目标检测等多个领域。打开「项目任务书」,我们可以看到项目的具体细节,包括任务描述、知识背景要求、任务要求、任务清单、开发指导等内容。对该项目感兴趣且符合要求的开发者可以填写与自身情况相对应的申请表。和「众包」、「外包」不同的是,在「昇腾众智」计划中,参与任务的开发者和昇腾之间并不是「冷冰冰的业务关系」,而是一种并肩作战的合作关系。如果你在开发中遇到问题,你可以随时向昇腾的专家寻求帮助。这种帮助包括但不限于硬件、软件、技术指导和答疑等。 群策群力,多方受益 前面说到,在「昇腾众智」计划中,开发者与昇腾之间是一种并肩作战的合作关系,合作的目的是创建一个强大的生态和社区。这就意味着,参与「昇腾众智」的开发者甚至整个社区都将从中受益。 开发者包含高校师生、科研机构研究者、企业开发团队等多个群体。对于这些群体来说,他们收获的不仅仅是项目交付后的奖金激励和项目开发期间的算力资源支持,还有昇腾颁发的荣誉证书(优秀开发团队和个人将受邀参加华为旗舰大会)以及华为招募引进人才的优先权等。 其他的潜在收益还包括项目经验积累、创新研究项目合作以及行业影响力的提升等。 以高校为例,高校是一个偏重学术的环境,「昇腾众智」将更多的真实项目带进校园,使得学生有更多的机会接触真实的业务场景,得到业内专家的指导,从而加深对于 AI 的理解,沉淀更多的实践经验。 科研院所和企业有所不同。科研院所汇聚了一大批优秀研究者,但在算力、场景扩展、科研创新等方面也需要一些外部支持,「昇腾众智」恰好可以在这些方面提供支持,满足科研机构在多个方面的科研需求。企业所在的行业往往需要配套的行业参考设计,在昇腾的技术支持下,企业可以更快地开发自己行业所需的参考设计,提升自身的行业影响力。 除了这些,「昇腾众智」对于整个人工智能社区也有很重要的意义。一方面,这些项目开发完成后将在昇腾社区开放,供所有开发者下载使用,免去开发者重新写代码、训练模型的麻烦,加速社区的发展进程。另一方面,昇腾社区、MindSpore 社区与其他开源开放社区可以借助这一项目建立紧密的联系,为高校、科研机构、企业和开源社区的成员搭建一个广阔的交流、合作平台,共同加速 AI 社区的发展。 以上几点在本月初启动的「OpenI 启智 & MindSpore 集结号」活动中已经有所体现。这一活动由 OpenI 启智社区和 MindSpore 社区共同举办,旨在集中高校开发者合作开发 MindSpore 高性能模型(模型众智)。中国工程院院士、鹏城实验室主任、北京大学博雅讲席教授高文在「集结号」活动中讲话。其实,早在「集结号」活动之前,「昇腾众智」就已经开始了一些小规模的探索,这些探索为计划的正式上线蓄积了力量。自去年启动昇腾众智计划以来,已有浙江大学、上海交通大学、西安交通大学、中国科学院等超过 40 所高校和科研机构参与其中(排名不分先后)。他们已经完成 484 个 PyTorch 算子分析、368 个算子开发、15 个 MindSpore 模型交付和 2 个 PyTorch 模型交付,行业参考设计的众智活动也已经完成试点。十几年前,ImageNet 让我们看到了群体力量的伟大;如今,昇腾不止要利用这股力量,更想要挖掘其中的「智慧」,创造一种新的 AI 开发模式。 目前,「昇腾众智」的初步目标是通过线上、线下两种方式** 200 + 团队、2000 + 开发者。
hellohelloya
发表于2022-01-06 10:33:02
2022-01-06 10:33:02
最后回复
hellohelloya
2022-01-06 10:33:02
1280 0 -
https://competition.huaweicloud.com/information/1000041306/introduction?track=107“东风智能制造”开发者创意大赛是东风公司举办的第三届、公司级大数据创意赛事,本次赛事既是延续,也是承接(它将作为东风工业互联网2020行动举措之一,即工业APP孵化课题)。举办方:东风汽车集团有限公司、东风乘用车公司、华为技术有限公司一、赛事介绍“东风智能制造”开发者创意大赛是东风公司举办的第三届、公司级大数据创意赛事,本次赛事既是延续也是承接(它将作为东风工业互联网2020行动举措之一,即工业APP孵化课题)。本次赛事是由东风汽车集团有限公司、东风乘用车公司联合主办,华为公司承办的大数据分析、创意交流赛事。成绩优秀团队将直接入围公司众创项目,参与项目的深入分析和延展。该项赛事优秀获奖选手有机会获得入职东风公司的offer直通车。大赛通过与东风乘用车实际业务相结合,为开发者提供一个交流、学习和创新挑战的平台,以达到为业务赋能、培养汽车行业大数据人才的目的。本次大赛参赛者基于华为云人工智能开发平台ModelArts,根据组委会提供的东风乘用车焊接曲线(电流、电压、电阻、能量)历史数据,聚焦电阻、功率曲线的研究,开展相同板材结构、相同工位、同一焊点号的焊点数据分析,进行(1)焊接过程曲线建模、修磨周期建模 ;(2)异常归类统计。二、参赛对象大赛面向全社会开放,企业、高等院校、科研单位等均可组队报名参赛。三、赛程安排比赛采用预、决赛形式,具体安排如下:初赛:2020年8月19日-2020年9月8日,共计21天(1)8月19日开放平台访问环境及比赛数据,参赛队可开始比赛准备。(2)初赛截止后(9月15日18:00截止提交),参赛队需提交代码、模型、开发过程及解题思路介绍材料、仿真环境演示结果等进行审核。(3)组委会将在官网公布前6名参赛队名单,入围决赛。决赛:2020年9月下旬(具体时间另行通知)(1)在决赛开始之前,参赛队伍可继续优化模型精度,同时基于模型开发应用或演示demo(不限于小程序、APP、H5等)。(2)2020年9月下旬,入围决赛的队伍将开展决赛答辩,组委会将根据模型评测成绩、演示及答辩效果加权得出总分数,并依据决赛分数评选出大赛奖项。注:入围决赛的队伍答辩前需要提供可复现答辩成果的代码、模型、数据以及必要的文档。四、比赛资源组委会为每位参赛选手提供价值1000元的华为云EI资源券(仅支持ModelArts及OBS),以支撑比赛期间资源费用。注:本次比赛提供的云资源有限,请确认参赛的队伍关注及配合组委会云资源发放,云资源发完即止。五、奖项设置冠军:1支队伍,每支队伍奖金3万,颁发获奖证书(东风汽车公司级)亚军:2支队伍,每支队伍奖金2万,颁发获奖证书(东风汽车公司级)季军:3支队伍,每支队伍奖金1万,颁发获奖证书(东风汽车公司级)六、报名须知1、报名方式:登录比赛官网,点击页面右上方“立即报名”按钮进行报名。2、报名时间:2020年8月19日9:00-2020年8月29日18:00(共11天)。3、本次比赛云资源有限,发放完毕后将不再发放。4、参赛者可3~7人组队参赛,且每位选手只能加入一支队伍。对不符合组队要求的队伍,赛务组有对其取消晋级资格的权利。5、参赛者需确保报名信息准确有效,大赛组委会有权取消不符合条件队伍的参赛资格及奖励。6、大赛官方交流请至论坛交流版块,选手交流微信群扫描如下二维码。注:报名后请务必要加入微信交流群,群里会不定时发布赛事重要信息。备注:1. 请参赛报名选手务必加入群,以查收比赛相关公告和通知。数据集下载地址可在本页面中下载说明文档。2. 请参赛组队成功后,将组队信息以如下形式反馈到邮箱tangyi09@huawei.com。队伍名称选手名字华为云账号(需完成认证)电话注:对赛事有任何疑问请联系东风公司工作人员。
-
近日,全球领先的IT研究和咨询公司国际数据公司(IDC)发布《中国大数据平台市场研究报告,2021H1》,华为云FusionInsight智能数据湖位居中国大数据平台市场份额第一,连续三次蝉联榜首。华为云FusionInsight智能数据湖持续深耕政务、金融、运营商、互联网、泛企业行业,尤其在2021年上半年,金融行业国有大行、股份制银行、城商农信行、保险、证券客户首选华为云FusionInsight;同时,华为云在互联网市场也突飞猛进,大型互联网客户也转向华为云;华为云在公有云上也建立专属Region,为政务和企业用户上云提供便利,使得公有云大数据市场得以高速增长。在华为云连续三次取得市场份额第一评估的背后,离不开客户对华为云FusionInsight智能数据湖解决方案的认可,也离不开华为云在大数据技术的持续创新。华为云FusionInsight为客户提供完整的大数据云服务产品组合,有单集群最大支持6万节点的MRS云原生数据湖服务,单集群最大支持2048节点的云数据仓库DWS服务,MRS/DWS既可以灵活按需部署,也可以融合演进到湖仓一体的架构;同时面向不断增长的数据探索分析、新型的图分析、可信计算等诉求,提供了托管式的DLI数据湖探索服务、自主知识产权的GES图计算服务、创新的可信智能计算服务TICS,并提供源自华为自身数字化转型经验沉淀的DGC数据湖治理中心服务,以及面向计算多样性、数据多样性、环境多样性等构建的统一数据引擎华为HIS UniDB,有效支持了华为集团IT企业数据湖的运行。结合华为iData帮助客户构建一站式的大数据分析平台,让客户在复杂环境下,快速构建企业级数据分析解决方案,加速释放企业海量数据价值。MRS云原生数据湖:让企业在湖仓一体、存算分离、云原生的架构上实现离线、实时、逻辑三种数据湖:离线数据湖:让传统孤岛式建设走向统一数据平台,一个平台支持AI、BI、交互式查询等多种引擎,最大支持6万+大集群滚动升级,确保关键业务不中断;实时数据湖:通过CDL+Hudi+Flink+ClickHouse实现数据全链路实时分析,价值兑现从T+1到T+0;逻辑数据湖:HetuEngine提供跨湖、跨仓的协同分析,减少80%数据搬迁,协同分析提效50倍。DWS云数据仓库:一站式全场景数据仓库服务,在全并行分布式架构的基础上,创新性地无缝融合OLAP引擎、时序引擎、CEP引擎,同时支撑批量、交互式和实时分析等不同业务场景需求。打通异构平台间的壁垒,做到数据融合、分析协同,不仅极大地简化了全域数据的架构,也让数据分析变得简单化、自主化。DLI数据湖探索:提供全开源、全托管的一站式的流处理、批处理、交互式分析的大数据Serverless分析服务。GES图引擎:提供分布式云原生的图引擎服务,是针对以“关系”为基础的“图”结构数据,进行查询、分析的服务, 内置30+算法,支持千亿点万亿边6跳秒查,广泛应用于风控、推荐、反欺诈等具有丰富关系数据的场景。TICS可信智能计算:华为云率先提出联邦SQL分析与多方安全计算的技术融合,实现数据分析的“可用不可见”。深度协同优化联邦训练和全同态加密,涵盖多方安全计算、联邦学习和可信执行环境等技术,打破跨机构的数据孤岛,实现多方数据联合分析和联邦学习,加速数据要素市场化流通,并获得多项权威机构包括信通院、金标委的行业认证。DGC数据湖治理中心:提供全链路数据治理工具,包含标准规范、数据集成、数据开发、数据质量、数据安全、数据服务等功能,满足企业数据工程师、建模工程师、业务分析师协同作战诉求,用数更敏捷,加速数据资产沉淀和供数效率,成为企业数字化创新的助推器。近10年来,华为云FusionInsight智能数据湖持续压强投入,已服务于政务、金融、运营商、互联网、泛企业等行业客户,坚定开放路线,与世界同行,先后在开源社区开放CarbonData和openLooKeng等大数据组件,并在Hadoop社区贡献达到Top2、Spark社区贡献达到Top4。华为云FusionInsight携手800+ISV,持续践行“平台+生态”战略,服务于全球客户。更多精彩文章:https://bbs.huaweicloud.com/forum/thread-66105-1-1.html
-
当前智慧检务、智慧审判的一个重要发展趋势就是运用人工智能技术帮助办案人员进行案件事实重构、法律关系认定、准确条文适用,甚至是在实体处理结果作出等领域进行深度介入。 不过,智慧司法的科学性、有效性、合法性在很大程度上取决于其所依赖的司法大数据是否完整、准确,以及对这些大数据进行分析、提取、使用的相关算法是否科学、正当和透明。 随着智慧司法系统功能的不断延展和其对司法人员的影响程度持续加深,其背后所依赖的算法规则也已经越来越类似于正式的法律规范,对案件的处理结果发挥着实质性的决定作用。 与此同时,智慧司法通过类案推送、裁判比对、数据分析等辅助办案系统给予办案人员更多的提示、指引,并对偏离度过大的案件自动预警、及时评查,以最大程度地实现“类案类判”。 有学者指出,智慧司法的这些功能虽然有助于在形式上强化办案过程与结果的客观性、统一性,但也极大地限制了办案人员的主观能动性和自由裁量权的行使,甚至可能因过度使用机械性的逻辑推理而压缩、取代正常人类情感和朴素正义观念的适用空间,存在着以“数据决策”替代“办案人决策”的风险。 因此,未来的检察监督将不仅要监督司法人员的办案过程和案件的实体处理结果,还应当对智慧司法系统所依赖的大数据库的真实性、完整性,以及算法规则的透明性、合理性、局限性进行分析研判,避免因过度依赖算法而导致的“机械司法”,以保持智慧司法本身的正当性和有效性。
-
为了有效提升司法公开的范围和人民群众参加诉讼的便捷程度,智慧法院建设在近年来已经取得了一系列较为丰硕的成果。例如,搭建中国审判流程信息公开平台、中国庭审直播公开平台、中国裁判文书公开平台、中国执行信息公开平台、最高人民法院诉讼服务网、全国企业破产重整案件信息网、中国司法案例网、全国法院诉讼活动通知查询网、中国司法大数据服务网、人民法院调解平台、人民法院诉讼资产网等一系列智慧办案系统和司法公开平台。上述平台的搭建与运行,对司法办案的价值自不必多言。~要我说,上面这些平台,是无到有的改变~而且平台之间感觉非常的割裂。~ 感觉缺少顶层设计~但如果能够在科学、全面、充分论证的基础上,法院系统与检察系统进行深入、友好的沟通与合作,根据相关法律规定和公认的司法规律、司法理念来科学划分智慧审判与智慧检务各自的功能定位、侧重方向和业务范围,统一司法大数据的规格标准,实现司法大数据的共享和平台系统之间的互联互通,则既可以为民事诉讼监督提供新的方法和途径,有效解决制约民事监督对象不完整的难题,也可以为民事智慧检务的充分发展提供具备足够体量的相关案例大数据库,提升民事智慧检务系统的学习、模拟、辅助办案能力,推动民事智慧检务尽快由当前的弱人工智能阶段提升到强人工智能阶段,甚至是超强人工智能阶段,从而使民事智慧检务的发展实现质的飞跃。
上滑加载中
推荐直播
-
华为云码道Agent集成与鸿蒙实战2026/08/11 周二 19:00-21:00
王一男-华为云码道产品规划专家;李炎-华为云码道产品专家;彭江敏-华为云鸿蒙端云一体化开发专家
本次直播带你解读华为云码道7月份产品新特性、新功能。更有专家演示码道Agent Space × 钉钉机器集成实战,从0到1打通消息通道;码道鸿蒙端云一体化实战,快速搭建员工签到系统。
回顾中 -
华为云开发者AI素养直播课·第五期2026/09/04 周五 16:00-18:00
林华鼎-华为云AI开发者运营负责人;蒋春阳-华为云AI开发者案例开发专家
本期直播内容: AI工具体验营 · 第5-8课连讲。Agent-Team 多智能体协作完成毕业设计实践
回顾中 -
华为云开发者AI素养ClassRoom·第六期2026/09/08 周二 19:00-20:00
樊渊-2026华为软件挑战赛冠军
高手来了:看软挑高手解析二维排样问题—从工业难题到算法突破
回顾中
热门标签