• [公告] 刺激!福利再临,0元享受大数据集群云服务套餐名额再度更新
    MRS服务不定期送出免费使用大数据集群云服务套餐名额君不见黄河之水,天上来发福利了0元拿大数据集群云服务套餐名额先到先得大数据集群云服务套餐是啥购买资格:华为云用户(已激活)购买流程:https://www.huaweicloud.com/product/mrs.html1、点击个人用户免费体验2、填写集群名称、root用户的密码3、提交订单感受一下什么叫做企业级大数据集群云服务性能提升30%真不是吹一键式部署,轻松运行Hadoop、Spark、HBase、Hive、Hue、Loader等大数据组件
  • [热门活动] 【云端大事件】颠覆传统农业,需要多少底气?
    【导语:】2018年6月29日,深耕物联网精准农业十年时间的北京科百宏业科技有限公司入驻华为云市场,在华为云市场发布了农业物联网及大数据系统,他们能够通过对植物全维度生长环境的的精准感知和数据模型的精准预测,实现植物全生命周期的无线可视化交互调控,让植物开口说话,为传统农业带来颠覆性的革命。一、什么是农业物联网及农业大数据很多人可能都不知道,颠覆传统农业的步伐竟是得益于战争。上世纪90年代初,随着海湾战争的结束,GPS技术进入民用化,美国、加拿大一些农业科研部门提出了有别于以往农业的精准农业的设想;加之互联网将传统农业带入数字信息时代,精准农业逐渐成为当今世界农业发展的新潮流。精准农业是一个农业应用和实践体系,包括数据采集-数据解码-数据应用-田间实践的良性循环,其中数据是精准农业最核心部分,首先要采集作物相关数据,以及影响作物生长的环境数据,再通过一系列软件应用技术,进行信息的统计分析解读,并以网站或手机App的方式呈现给农业相关人员,包括种植者或农技服务人员等,来指导农业田间实践活动,达到精准种植、精准灌溉、精准喷施等目的,以获取最高产量和最大经济效益。基于对精准农业的理解,科百自主研发了数百种传感器,通过传感器精准采集影响植物生长的水、肥、气、热、光等要素环境信息,并结合植物生理生长信息的实时监测,建立植物生长高粒度、多维度的数据库。传感器采集的数据通过节点,以无线形式传输到监测站主机,监测站主机再通过GPRS方式将监测结果发送到数据中心,用户通过登录互联网可以远程监控。为研发物联网专用频段模块,科百科技做了5年的研发,才达到在农业生产各方面都比较适应、性价比、低功耗、穿越障碍的能力等各方面需求。依靠无线节点+低功耗+多传感器接入+云平台+无线控制节点,科百能够为用户提供高效、经济、方便的农业环境数据采集和控制技术,从而帮助农业企业在农作物精准化栽培方面显著减少人力和水肥药等传统农资的投入,大幅提高农业产业的经济效益,实现高度数字化的大规模精准农业栽培和管理,以农业物联网和农业大数据为基础颠覆传统的农业生产关系,重塑农业产业链、供应链和价值链。二、科百农业物联及大数据系统功能1、数据监测:通过农业物联网无线传感网络对农业现场的土壤、植物生理、气象小环境和霜冻等环境因素的可以进行全纬度在线连续监测;2、设备控制:通过物联网无线控制网络实施水肥药一体化精准灌溉控制;3、病虫害数字模型:通过大数据病虫害模型准确预测植物常见病害发生的时间和程度;4、自然灾害预测和防治:准确监测、预测和调控植物生长环境和,有效防治霜冻、热害等;5、精准化管理:显著减少植物栽培环节对人工和传统经验的依赖,基于物联网和平台化的管理,使农业生产和管理进行数字化、标准化和   系统化,并能方便地进行复制和推广;6、面源污染控制:大幅减少水肥药的使用量,降低农业生产对环境造成的面源污染,有效提高改善生态环境质量。三、产品应用于哪些行业科百农业物联网和大数据系统除了可以为设施农业、水肥一体化、园区规划提供精准化整体解决方案外,同时为农业面源污染控制、防灾减灾、智慧城市、基础设施工程等领域提供环境大数据监测、传输、处理、挖掘和应用服务。以灾害防治为例,除了地形地貌和地质构造,水文气象和暴雨激发成为山洪泥石流爆发的主要自然因素,科百物联网系统通过实时监测山洪易发区的土壤含水量、土壤电导率及山体径流量,在固有模型基础上为人们提供及时预警。科百物联网在山洪泥石流预警方面具有成本低,布设简单,维护方便等特点。在环境治理领域,科百物联网和大数据将生态治理成果进行量化,及时的、可视化的全维度生态环境监测,在土壤改良、沙漠治理和面源污染的防控过程中至关重要。科百物联网在环境治理方面可大幅度降低人工作业成本,将治理成果进行及时可视化的反映等。四、物联网能给农业种植带来什么?2018年4月,“浙江生态绿茶第一县”丽水市松阳县发生罕见倒春寒(霜冻),给当地茶农造成重大经济损失。当地的科百物联网茶园却因物联网精准预测及远程无线调控避免了这场残酷的气象灾害。通过精准物联网管理,精准监测+精准微喷灌使早茶霜冻危害得到有效控制,挽回霜冻损失5000元/亩,滴灌+微喷灌有效缓解高温旱情,旱季增加产值1800元/亩,节省农药肥料及人工成本2740元/亩。全年实际增收9540元/亩。有人说在不久的将来,农民将成为一份令人羡慕的职业。从传统农业的生产方式来看,是以农民和农艺师的种植经验为主。这些从业者对农作物、气候和土壤的了解越多,产出也就越好。传统的农艺师就像教育行业的教授或者老中医一样,培养学生需要很多年的“传、帮、带”,并且需要长期实践后,才能培养出一个合格的接班人。但对物联网、精准农业来说,通过运用大数据收集和云计算分析的方式,可以采集到植物生长所需的环境,采集后量化作物所需要的生长要素,农艺师或农民操作的结果是一种客观可量化的结果,这就使得农艺师和技术人员更够更快更好更准确地学习新的农业操作经验。通过现代先进的技术手段,将多年的经验数据化后瞬间复制给其他人。另外,农艺师可以通过物联网云平台来管理这些作物生长的设施,如灌溉系统、调温、调湿设备。农艺师不需要现场访问这些温室或土地,而是可以远距离进行控制和监测,通过模型和程序就可以完成对大范围的作物的栽培、不限数量和地域地进行远程操作。
  • [热门活动] 广州中工水务入驻华为云市场,您需要的智慧水务解决方案在这里
    电子水位尺CESC-SEL助力智慧水务监测体系建立详情可点击:http://www.cescit.com/ 【 产品简介】电子水位尺采用LiteOS物联网设备操作系统,结合国际物联网最新通讯技术--NB-IoT、eLTE-IoT或GRPS\3G\4G传输,一体化多段检索式,IP68防护等级,低水位、高水位、超高水位多级阈值报警,是主流的路面水位监测设备。电子水位尺同时运用检索式数字水位采集系统,实现信号采样、处理、变送的全数字化,在温度变化范围大、含有泥沙、污物和腐蚀性等复杂水质环境下也能精确测量。广泛应用于下穿隧道、城市低洼地、城市道路积水、河流湖泊等场合。【详细参数】(1)    操作系统:LiteOS物联网设备专用系统;(2)    国际物联网通讯技术:NB-IoT、eLTE-IoT;(3)    数据采集:导电测量电极传感器,一体化多段检索式智能电子水尺;(4)    时标同步:终端与管理平台时钟同步,每天零点会自动校准;(5)    自动续传:终端带有本地存储功能,可缓存518400组以上的数据;当信号中断无法通信时,数据存储在本地,一旦通信恢复后,会自动将中断期的数据续传;(6)    灵活设置:终端可以设置警戒水位的限值,数据保存和发送周期;(7)    逢警上报:终端能在水位达到警戒值时立刻上报,不受发送的周期限值的;(8)    终端管理:可通过蓝牙模块、串口,连接手机APP或者电脑进行设备配置管理及监测数据查询;(9)    远程参数管理:通过管理平台进行设备参数管理,完成参数查询、配置、重启等操作;(10)  功耗与供电:低功耗设计,根据监测周期启动休眠、工作模式;电池与太阳能双供电模式,且自动切换。(11)  远程召测:可通过管理平台下发召测指令,设备收到指令后立即采集数据并上报;(12)  通讯方式:内置NB-IoT通讯模块和贴片式SIM卡,通讯模式可选;(13)  防护等级:IP68;(14)  传感器检测:传感器工作异常报警。(15)  量程:1.2m(16)  分辨率:1cm(17)  采样频率:1秒-5分钟可调(18)  工作湿度:0~95%(19)  工作电压:DC 3.7V±15%(20)  工作温度:-20~60℃(21)材质:不锈钢【产品截图】【应用场景】应用于智慧城市领域,应用于下穿隧道、城市低洼地、城市道路积水、河流湖泊等场景水位监测。【产品亮点】采用LiteOS物联网设备操作系统,结合国际物联网最新通讯技术--NB-IoT、eLTE-IoT或GRPS\3G\4G传输,一体化多段检索式,IP68防护等级,低水位、高水位、超高水位多级阈值报警。在温度变化范围大、含有泥沙、污物和腐蚀性等复杂水质环境下也能精确测量。【能力调用】LiteOS操作系统 , NB-IOT/eLTE-IoT通讯,华为OceanConnect IoT平台。【应用指南】电子水位尺设备安装如下图所示:安装时应遵循以下规定:(1)  电子水位尺采用立杆固定安装方式,水位尺固定于专用安装立杆内部;(2)  电子水位尺安装在道路积水最低洼处,通过引水槽将积水引至水位尺安装位置;(3)  电子水位尺尽量垂直安装,以保证测量精度;(4)  引水口应加装滤网或带过滤功能的物件,以免杂物堵塞;(5)  电子水位尺安装立杆应贴有醒目的反光纸,以免遭受撞击。电子水位尺的使用步骤:1.安装固定好电子水位尺,打开cesc-mwl配置软件2.填写好串口参数,点击连接进入配置界面3.修改相应参数,如NB-IoT平台IP等4.重启设备,设备将会自动连接NB-IoT服务热线:020-62342287服务邮箱:cescit@cescit.com
  • [热门活动] 如何做好数据运维工程师?让大数据学会说话!
    如今,数据不再是冷冰冰、没生气的一串串数字。通过数据采集与分析,攻城狮可以听懂数据“说话”,提前未卜先知。在2014年巴西世界杯期间,百度、微软、谷歌通过大数据运算准确预测了16强及8强;其中,微软和百度更是猜对了全部4强。大数据与体育结合的魅力可以说是非常大了! 19589 其实,大数据技术除了用于预测体育赛事外,在各行各业都有很多应用。对分支机构众多的大型银行、金融企业或垂直层级较多的政府机构来说,平台构建、数据治理和业务支撑都离不开一个强大的大数据运维系统。没有大数据做支撑,良好的用户体验和数据时效性就无从谈起。 -四大价值维度 看清数据运维魅力所在-有效联动数据,及时查找问题在大数据时代下,如果能针对数据构建一套强大的运维管理系统,让日常运维做到可视化、自动化、智能化,就算面对再复杂的异构网络环境和系统,运维人员也能“四两拨千斤”,实现第一时间发现问题、端到端及时通知。 清晰感知系统,助力业务执行由于平台集成的数据体量庞大、种类繁多,运维人员对平台内数据、业务、组件、设备等方面的感知,往往只停留在一个点或部分点上。而大数据运维管理系统,可以让运维人员将孤立的点串成线,将不同的线交织成面,通过加深对大数据运维的认知,从而帮助保障业务顺利落地。 19590 自动优化参数,实现智能承载大数据时代下的运维,不再是单纯的辅助功能。运维平台可以基于日常运维产生的数据,利用分析挖掘功能,让系统自动优化和调整参数,做到运维监控的自动化、精准化。 产生逆向价值,反哺业务平台大数据时代下的运维,不再是单纯的业务监控保障系统,通过运维平台的数据采集与智能分析,可以形成各种不同的优化建议表。使运维平台可以逆向呈现业务价值,服务于业务且承载着业务。 -华为助力你的数据“会说话”- 既然大数据好处多多,那本身从事运维工作,或从其他岗位转做大数据运维工程师的朋友,应该掌握哪些和数据沟通的技能,才能让我们在实际工作中得心应手呢? 对于一名大数据初学者或企业大数据员工来说,如何清晰地明确大数据技能进阶路径,通过学习什么、转型做什么很重要。 19591 华为根据在业界丰富的技术积累经验、行业客户需求经验以及华为20多年服务于全球客户的产品及技能培训经验,根据知识学习的难度及学习的方向分别设计了大数据学习进阶路径。在入门阶段,您将从以下三个方面修炼大数据运维的内功: 一、了解大数据前沿动态大数据技术所涉及的领域非常广泛,从硬件设施到上层应用,其技术身影遍布各行各业的各个层面。学会洞悉行业趋势、挖掘数字价值,是每一位运维人员应具备的素养。 二、掌握Python & Hadoop技术要想盖好大数据这栋房子,离不开Python与Hadoop。能够把用其他语言制作的模块轻松联结在一起,从而实现快速部署与实施的Python语言就像是盖房子的水泥;而Hadoop则是构建大数据底层框架的根基与砖块。 三、将大数据技术运用到实战当中实践出真知。面对实际工作中的问题与挑战,只有聚焦运维痛点,进行训战结合,才能实现大数据平台的高效运维,更好地解决一线实际的支撑诉求。 -四门精品课程 系统进阶so easy-华为人才培养服务为客户提供“专业、实战、实效”的学习与发展解决方案。让学习促进能力发展,让能力发展推动组织进步。 19592 从整个大数据进阶体系来看,要想成为一个合格的运维工程师,首先需要具备大数据思维,知道什么是大数据,从本质上去学习理解;其次需要掌握大数据平台的部署,平台组件的工作原理,集群监控、组件调优等。 华为大数据初级培训课程: 《大数据前沿技术及应用》完成该课程后,您将能够:◎了解什么是大数据◎了解大数据趋势与应用◎了解华为大数据解决方案 《Python基础及大数据应用实践》完成该课程后,您将能够:◎掌握Python基础编程语言技术◎了解Python爬虫/运维/分析等应用◎使用Python进行数据分析与处理 《基于Hadoop的大数据平台架构及原理应用》完成该课程后,您将能够:◎理解Hadoop生态架构及特点◎了解HDFS架构及原理 ◎理解Hadoop主要组件的技术原理 《大数据运维与管理》完成该课程后,您将能够:◎熟悉大数据运维的基本知识◎熟悉Linux常用命令操作◎了解FusionInsight Manager平台的日常运维◎了解FusionInsight HD的组件基本运维◎了解大数据运维中常见的问题及解决办法 在当前,数据已成为一种商业资本、一项经济投入。国家大数据战略重点实验室认为,中国已进入大数据创新突破与应用落地的发展上升期,将有更多企业和组织将数字视为核心资源与组织财富,抢占数字化转型的制高点。只有学会和数据对话、掌握数据的语言,才能在未来的工作中运筹帷幄,为个人和企业带来成长。Come and join us,一起来了解大数据的奥秘吧! 19588
  • [热门活动] 我喜欢六月的风,七月的雨,不落的太阳和会大数据开发的你
    大数据行业是朝阳行业。没错是的!大数据相关职位很有“钱”景。恭喜你答对了! 可当你要开始学习大数据,就会发现:大数据这个大筐里装着数据运维、数据开发、人工智能、机器学习… 19584 学习领域那么多,该着重在哪一块发力呢? 今天,就让我们重点来谈谈,大数据开发工程师的那些事儿! 大数据开发工程师是怎样的存在?从培训及技术的难易程度来说,大数据学习进阶路径主要分为初、中、高三个阶段,对应的进阶维度大致可分为运维、开发与挖掘。 19585 大数据开发工程师要基于大数据平台,具备处理大数据业务中的数据采集、离线数据开发、实时流数据处理等能力。除了要熟悉平台组件原理之外,更要肩负起处理数据中心的数据开发工作职责。 说了那么多,怎么才能做好大数据开发工程师? 华为推荐以下三门课程: -Hadoop生态组件原理及应用实践-课程时长:5天课程内容:FusionInsight HD产品、FusionInsight HD常用组件介绍、华为大数据初级工程师认证-基于内存的大数据平台开发-课程时长:5天课程内容:scala语言快速入门实战、Spark概述、弹性分布式数据集RDD&实验、SparkSQL实战&实验 -大数据开发工程师认证培训-课程时长:5天课程内容:FusionInsight 开发总指导、大数据开发流程、FusionInsight常用组件开发、华为大数据中级开发工程师认证 “信息时代唯一有价值的资产就是数据。”还等什么呢?来浙江华为学起来! 19586 -商务咨询-许老师:180-6940-6851xuhusongzjhw@huawei.com 19587
  • [公告] 用华为云C3让你的MRS集群风驰电掣
    MapReduce服务是基于华为历经行业数万节点成功使用经验,在云上打造的企业级Hadoop大数据平台服务。一键部署、灵活弹性伸缩,包含了Hadoop、Spark、HBase、Kafka、Storm、Hive等丰富内核组件,帮助用户在云上轻松完成高可靠、高安全、低成本、一站式大数据平台的搭建。 使用MapReduce服务的一些大数据处理,比如说会对大量数据进行排序,属于高计算密集型业务,对于计算性能及稳定性要求较高,各个节点的计算能力要保持均衡;在计算节点之间依赖于网络进行集群数据同步,对于网络带宽存在较高诉求;计算节点在本地存在大量的数据读写,对于存储带宽有很高诉求;针对这些特点,MapReduce服务与华为云计算优势结合,推出了支持计算增强型(C3型)弹性云服务器规格的大数据集群。 通用计算增强型(C3型)弹性云服务器是公有云新推出的一系列性能更高、计算能力更稳定的弹性云服务器规格,搭载Intel Xeon SkyLake全新一代CPU,配套高性能网络,综合性能及稳定性全面提升,满足对业务稳定性及计算性能要求较高的企业级应用诉求。通用计算增强型(C3型)性能较上一代C2云服务器大幅提升。• 单核整形25%↑*• 单核Linpack70%↑*• 内存带宽62%↑*• 计算性能优于业界15%以上• 全面配套25G网络与通用计算型相比,通用计算增强型弹性云服务器提供了更大规格的CPU和内存组合,可选范围更广,同时搭载全新网络加速引擎,可为用户提供更高的网络性能。它可以支持最高带宽18G,支持PPS(Package Per Second)可高达500万。配套华为自研25GE智能高速网卡,提供超高网络带宽和PPS收发包能力。MRS搭配C3规格虚拟机,大幅提升了集群的计算能力。· C3相比C2在流式集群上性能有4倍的提升。· 华为云MRS与国内其他公有云大数据服务的同等规格虚拟机对比,针对典型的大数据处理测试用例(WordCount, Terasort, Kmeans等),MRS集群的数据处理速度总体提升 30%。具体测试结果如下:19243 MRS服务的收费模式对C3和其他云服务器规格没有区别。使用4U8G的C3创建一个Master节点和一个core节点的最小集群用来做Hadoop系统的学习或者测试,每小时只需要2.25元,包年购买还另有八三折的优惠。不要再犹豫了,来吧,用华为云C3让你的MRS集群风驰电掣! 点击下方链接即可了解MRS。https://www.huaweicloud.com/product/mrs.html
  • [上云精品] 漏损治理解决方案
    我们治水 我们也将水之品、水之善、水之柔、水之坚融入我们的企业之道 福水智联技术有限公司是一家专业从事物联网水务大数据增值服务、漏损治理合同节水管理服务和水系监测等解决方案服务提供商。以水系相关产业链为发展目标,自主研发、设计、生产及销售智能仪表、智能传感器等物联产品。福水智联与华为、三大运营商建立战略合作伙伴关系,以NB-IoT窄带物联网和大数据技术为载体,构建综合性的智慧水务大数据云平台,为水行业乃至整个城市提供包括用智慧计量、智慧用水管理、水资源监测、水质实时监测、管网监控、管网GIS系统在内的水务整体运营解决方案,致力成为领先的物联网高技术企业。基于NB-IoT窄带物联网城市供水漏损治理解决方案适用于:市政供水管网漏损治理 &;高耗水企事业单位漏损治理;院校漏损治理;园区漏损治理。城市供水漏损治理解决方案是基于福水智联自主研发生产的智能远传水表 、压力变送器等各类计量产品,运用NB-loT窄带物联网、大数据分析、虚拟树形结构 模型、GIS技术和区块链等技术,形成城市管网漏损立体感知、管理协同高效、产销 价值凸显的城市供水业务合作新模式。将水流量数据和管网压力数据落实歪IJvMA 树型结构,透过漏损管理平台的大数据分析和我司先进的探漏技术,队实现 喔确查撞到物理漏损点和商业漏损点.达到节水的目的。解决方案特点:●采用合同节水管理服务模式,或提供技术咨询服务。●可视化展现管网全局与局部的区块产销差,各漏损参数,指导漏损控制与漏损管理。 ●漏损监测的信息化管理:数据管理与大数据分析。●高效的漏损检测和压力测量。●虚拟树型分区设置报警算法、提高系统预警精度。●为供水企业的管网运行管理提供辅助决策支持。解决方案拓朴图18447福水智联城市供水漏损治理解决方案系统的主要功能包括:管网VMA树形结构分区管理、水量平 衡监测、压力流量综合分析、VMA树形结构分区最小流量分析、以及产销差分析等功能。解决方案:四网一中心漏损治理需要搭建漏损治理服务系统平台,设立漏损治理服务中心,组建一支优秀漏损治理团队( 人网),构建三张基础网络(计量网、压力网、GIS管网),通过基于NB-loT网络建设,达到城市级漏损治理能 力,漏损治理服务的可成长、可扩充,构建面向未来的智慧水务系统框架。 18458184591846018461
  • 清华大学基于华为云高性能计算解决方案完成癌症基因组学大数据分析项目
    本帖最后由 speedy2016 于 2018-6-28 20:11 编辑清华大学基于华为云高性能计算解决方案完成癌症基因组学大数据分析项目 近期,清华大学生命科学学院杨雪瑞课题组基于华为云HPC基因组学大数据分析解决方案,完成了二十余种癌症的转录调控网络构建。华为云针对项目的大规模计算需求进行了个性化配置,极大的减少计算时间,从海量癌症多组学数据中挖掘基因转录调控通路,向揭示癌症发生发展机制又迈进了一大步。 该项目主要是为了探索在癌症进程中,转录因子(TFs)、靶基因(target genes)、长链非编码RNA(lncRNAs)三者之间的调控关系,构建转录调控网络;并基于该网络揭示癌症的发生发展机制,同时比较不同癌症中转录调控网络的异同。近年来,随着基因测序数据的不断积累和壮大,长链非编码RNA(lncRNAs)不断被发现并且执行了重要的生物学功能。因此在传统的转录因子和靶基因的调控关系中加入长链非编码RNA的因素,构建新型的转录调控网络,为探索癌症的发生过程和调控机制提供了新的可能。 基于华为云成熟的HPC解决方案,为该项目提供了极具针对性的资源配置优化,实现了大规模计算资源的合理分配,不仅实现了高效率计算,还节省了30%以上的时间成本。 当前华为云HPC基因测序方案,可提供基于FPGA测序加速的基因测序主机、基于超高IO块存储构建的lustre集群,以及超高上传下载性能的OBS browser工具和120TB大容量传送立方数据快递服务。相比传统基因测序流程可缩短5倍的测序时间,综合成本可降低40%。 清华大学生命科学学院有着悠久的历史,在科学研究、学科建设和人才培养方面都有着强大的优势,已发展成为我国最具特色和最有影响力的生命科学科研和教学基地之一。以基因组学为重要研究内容之一的计算生物学是学院的重要发展方向,而相关研究的深入也对高性能计算资源提出了大量迫切的需求。 测序行业的持续繁荣和测序数据的快速增长对平台的计算能力以及数据安全都提出了更大的挑战。未来,随着测序技术的不断发展,华为云将联合科研伙伴一起不断推动基因行业的发展和进步。
  • [互动交流] 华为云DevCloud&MRS21天转型大数据实战营DAY2 图文流程
       前言:话说上期的devops让我熟悉了华为的dovcloud和git模式。 随后华为DevCloud&MRS联合推出的大数据实战营,这个训练我感觉机会十分难得,毕竟玩大数据就是玩钱。华为云这一期全程无费用,对于有志于转型大数据的从业者和学生都是一次很好的锻炼机会。 言归正传,这次训练营明显比devops更加的专业和深入,第一天顺利git了作业,然后第二天就难度对于小白的我来说极大。幸好,群里华为云老师和一起学习的同学们热心指导,让我顺利的完成第二天的打卡任务。 进入实战:根据操作文档创建MRS分析集群和HDFS客户端使用.docx从创建集群到绑定弹性ip之间的过程,文档中有详细的指导,直接按图索骥就行。 下面上传数据才是难点。 这里推荐使用xshell管理(putty可能会出现不可预知的错误)。 2.5.3 从数据包下载地址下载本次实验需要的数据包,解压后将目录通过工具上传到集群的/opt目录下。 从2.5.3到作业完毕一共分7步。 华为云社区已知bug,代码会被拦截。我把txt文档做成压缩包一行,一个步骤。大家一步步操作就。 18284 第一步: 18279 下载数据,解压缩后移动到opt目录下。 第二步: 第三步: 第四步: 18280 把数据上传到user/hdfs-examples目录下。 第五步: 18281 查看10组数据已经成功上传。 第六步:把id更换成你的华为云账户 第七步: 18282 在user目录下创建以你华为云账户命名的文件夹。 18283 把数据成功上传和用户名成功创建的截图上传到小打卡 至此,第二天打卡任务完成。 18285    
  • [热门活动] 大数据大家玩,国产虚谷数据库入驻云市场
    本帖最后由 苏sir 于 2018-6-20 14:24 编辑产品介绍: 虚谷分布式数据库是在大数据时代背景下应运而生处理关系型大数据的全新架构数据库产品,虚谷伟业公司对虚谷分布式数据库拥有完全自主知识产权,所有功能性代码均由企业自主研发编写,并经过工信部赛普中心源代码检测,非国际标准性代码企业自有超过98%。虚谷分布式数据库基于分布式架构上研发的一款通用关系型数据,既有分布式的高扩展性、高可靠性与海量数据处理的特点,又包含通用关系型数据库的所有对象管理和接口使用标准,可同时兼顾OLTP与OLAP处理。17801虚谷分布式数据库-功能框架虚谷分布式数据库功能: 1、完全保留传统关系型数据库的模式对象管理方式支持库、表、索引、视图、包、过程函数、触发器、自定义类型; 2、基本数据类型上提供数字类型(number,integer,bigint,float,double...)、时间(date,time,datetime,timestamp...)、字符类型(char,varchar...)、大对象类型(clob,blob)、rowid、guid、布尔等; 3、提供丰富的系统表、系统视图、系统包、系统函数; 4、UTF8、GBK、GB18030等多字符集支持; 5、SQL标准实现和PL/SQL支持,高度兼容ORACLE; 6、访问接口多语言支持(JDBC、ODBC、XGCI..); 7、完整ACID、MVCC、事务隔离级别等实现支持分布式事务; 虚谷数据库提供图形化管理工具、迁移工具、监控工具等如下:17804虚谷分布式数据库集群采用角色管理: 1、主控服务(MasterServer ):节点管理、资源管理、故障处理、存储均衡以及全局锁管理和全局仲裁服务,提供集群中心管理服务; 2、工作服务(WorkServer ):接受客户请求、规划任务、执行任务等,提供任务的并行处理并行计算服务; 3、存储服务(StorageServer):存储片段实际存储管理,响应工作节点发来的增、删、查、改等底层数据操作,提供数据在集群内的分布式存储、多副本容错服务;在虚谷分布式数据库系统中,客户端只会和WorkServer进行通讯交互和MasterServer无关,MasterServer不会成为集群系统瓶颈以保障整个集群的无限扩展性。17802虚谷分布式数据库-架构图产品特点:17803 应用场景: 虚谷分布式数据库为用户提供虚谷标准版数据库、虚谷企业版数据库、虚谷大型分布式关系型数据库、大数据整体解决方案应对用户不同并发用户量、不同复杂度及不同数据量的需求,虚谷数据库能满足小型OA系统到大型数据中心级的所有数据库需求。 1、依赖于虚谷分布式数据库架构特性,用户可根据当前实际需求进行规划投入,待数据库处理能力不足或容量不足时按需扩展,充分利用资源,降低用户成本且扩展过程自动透明,无需用户干预。用户只需关注业务实现,大数据的处理由数据库层提供。 2、依赖于虚谷分布式数据库的兼容性,可对用户现有各类数据库应用,特别是Oracle应用,无缝迁移到虚谷数据库利用虚谷数据库的大数据处理能力进行大数据处理,而无需进行应用重构。 结束语: 经过国家气象局、国家统计局、全国政协、国土资源部等多个部门的测试和应用证明,虚谷分布式数据库具有先进的技术架构、强大的数据处理能力,能全场景支撑用户各类需求。 1、高兼容:完美支持SQL标准、支持PL/SQL对Oracle的高可替代性,应用移植几乎零代码修改。 2、全场景:能同时兼容OLTP和OLAP的混合型大数据应用,单库式服务规避数据分流引入的额外开销。 3、高性能:经用户测试与应用的验证,性能可媲美Oracle。 4、高扩展:轻量级中心管理,节点动态伸缩、随需而变。 5、高可靠:主控双机、多网络通讯和多副本容错技术,自动容灾,提供7*24全时服务。 6、跨平台:支持国内外操作系统平台和芯片架构。
  • [云动向] 【高考进行时】送考生上C位 华为云严选为考生加油打call!
    本帖最后由 灿烂千阳 于 2018-6-7 17:47 编辑16562一年一度的高考正在拉开序幕  送考生上C位  华为云严选号召各路英雄为考生加油打call!  祝愿所有考生  个个考神附体 不会也能蒙对  人人超常发挥 走上人生巅峰​(来来来,扫我呀)☟☟☟☟☟16563   高考,不仅牵动万千家长及广大学子的心,面对新高考,如何为万千学校和学子提供好的服务,也是广大教育类企业努力践行的方向。华为云严选商城携手合作伙伴拓维,为学校和学子们提供"基于3+3模式下的新高考整体解决方案",直面高中改革 “六难”的核心问题。本解决方案依托先进的云计算和大数据技术,为教育局提供统一的一站式的新高考解决平台,从高中学生入学开始,覆盖入学前、课中、课后、高考完四个流程,帮助学校搭建适合的新高考实施蓝图,帮助学生规划科学的成长体系。 16564  针对新高考政策设计开发出不同模块,通过各模块之间的协同配合,数据互通实现整个教学过程的生涯规划、课程选科、排班选课、课程管理、英语口语考试、志愿填报、学生综合素质评价,帮助学生规划学习体系。   1、生涯规划指导  适应新高考改革“专业+学校”录取模式,围绕“选科-报考-就业”为核心路径,以学生能力倾向形成最优选科组合方案,帮助学生和家长科学选科,为学校更好实施选课走班提供最全面的信息化决策辅助工具。16565  2、新高考选科规划  适应新高考改革“专业+学校”录取模式,围绕“选科-报考-就业”为核心路径,以学生能力倾向形成最优选科组合方案,帮助学生和家长科学选科,为学校更好实施选课走班提供最全面的信息化决策辅助工具。  3、排班选课系统  产品充分考虑不同学校的师资、学情、场地设施等实际情况,结合学生的兴趣爱好、学业曲线等数据,提供微走班、中走班、大走班等多种选课方案,学校根据自身条件自由选择,满足其个性化教学需求。  4、互动课堂  依托区域智慧教育政务网与虚拟资源池架构,构建基于云存储、大数据、移动无线网络为支撑的互动学习平台,为课堂教学提供先进的、便利的互动教学环境。通过在线优质教育资源的推送、课堂上平板电脑的使用、课后在线自主学习、评测与分析,实现更高效的师生双向互动,促进学生主动式、协作式、研究型的学习,为探究开放、高效的一对一互动教学模式提供软件平台支持。  5、拓维学堂  构建基于云存储、大数据、移动无线网络为支撑的互动学习平台,为课堂教学提供先进的、便利的互动教学环境。通过在线优质教育资源的推送、课堂上平板电脑的使用、课后在线自主学习、评测与分析,实现更高效的师生双向互动,促进学生主动式、协作式、研究型的学习,为探究开放、高效的一对一互动教学模式提供软件平台支持。通过资源接入,向教师和学生推送个性化的资源,最大程度上为在线互动学习提供便利。16566  6、志愿填报系统  应对新高考改革志愿招生录取变化,依据20年全国高考评价服务的行业优势,结合成熟的高考大数据+智能算法技术,帮助考生和家长掌握院校及专业内涵,避开志愿录取风险,依据个人需求评估最优志愿方案,避免因填报失当导致滑档、落榜的风险。 16567每一次前行,都因心怀远方每一次起航,都因燃起希望祝广大学子,功成名就金榜题名也祝愿每一个人,都前行在梦想的道路上相关推荐:https://app.huaweicloud.com/?locale=zh-cn华为严选,为你严选更多软件和应用https://app.huaweicloud.com/selected/
  • [技术干货] MapReduce大数据量任务运行缓慢
    本帖最后由 建赟 于 2018-5-31 15:20 编辑现象描述运行MapReduce大数据量任务情况下出现reduce任务进展缓慢现象,通过检查原生界面日志发现持续输出以下信息:2015-05-20 23:32:17,527 INFO [fetcher#29] org.apache.hadoop.mapreduce.task.reduce.Fetcher: fetcher#29 - MergeManager returned status WAIT ...2015-05-20 23:32:17,545 INFO [fetcher#13] org.apache.hadoop.mapreduce.task.reduce.Fetcher: fetcher#13 - MergeManager returned status WAIT ...2015-05-20 23:32:17,549 INFO [fetcher#29] org.apache.hadoop.mapreduce.task.reduce.Fetcher: fetcher#29 - MergeManager returned status WAIT ...且每隔5到6个小时会读入部分数据输出以下信息:2015-05-21 05:34:16,257 INFO [fetcher#14] org.apache.hadoop.mapreduce.task.reduce.InMemoryMapOutput: Read 1720474 bytes from map-output for attempt_1431609106966_0153_m_002488_0以上两种日志信息持续交叉输出。 可能原因由于reduce数据处理过程中需要copy数据到本机执行reduce操作,在reducer中,copy数据任务与数据merge任务为并发执行,可能会出现copy数据任务所占用内存未达到阈值导致写磁盘操作未触发,剩余内存被merge操作占用的现象。 说明: 通过配置参数“mapreduce.reduce.shuffle.input.buffer.percent”为这部分数据设置buffer大小,默认分配的buffer为内存的70%。通过配置参数“mapreduce.reduce.shuffle.merge.percent”设置当copy数据占用内存达到阈值之后将数据写到磁盘上,默认值为66%。 定位思路 [*]检查运行任务的“mapreduce.reduce.shuffle.parallelcopies”参数值是否满足配置要求,请参考表1 [*]检查reduce配置的“mapreduce.reduce.memory.mb”参数值是否满足配置要求,请参考表1 处理步骤 [*]配置“mapreduce.reduce.shuffle.parallelcopies”参数值在建议范围之内。 [*]配置“mapreduce.reduce.memory.mb”参数值在建议范围之内。 16122
  • [热门活动] 【21天专题系列活动】终于等到你!21天转型大数据实战营课程汇总
    Hello DevClouder!各位云端开发者们,大家好。在数据爆炸的年代,大数据技术已然成为兵家必争之地,大数据人才越来越炙手可热!面对机遇,你选择观望等待?还是努力争取?21天转型大数据实战营来了!!!华为云DevCloud&MRS为您准备了最顶尖的华为云大数据导师、最前沿和实用的精编实践课程、最完备雄厚的平台资源支持……带你打破大数据技术壁垒,牢牢把握行业机遇!一起向 Big Data 的巅峰发起冲击吧!面向人群:(1)所有渴望学习大数据的朋友们(2)每日完成学习、实践、打卡任务,就有机会获得惊喜奖品课程预览21天转型大数据实战营课程表 DAY1DAY2DAY3DAY4DAY5DAY6DAY7WEEK1初识MRS服务如何使用HDFS如何开发HDFS程序MapReduce\Yarn介绍如何开发MapReduce程序如何使用Hbase如何开发HBase程序WEEK2如何使用Spark如何开发Spark程序如何使用Hive如何开发Hive程序玩转MRS之访问OBS如何使用Kafka何开发Kafka程序WEEK3如何使用FlumeStorm介绍和程序开发玩转MRS之扩容缩容玩转MRS之弹性伸缩玩转MRS之引导程序玩转MRS之访问原生页面玩转MRS之集群管理
  • [热门活动] 北京北斗星座科技发展有限责任公司入驻华为云市场,助力企业业务上云
    【导语】2018年5月30日,北京北斗星座科技发展有限责任公司入驻华为云市场,在华为云市场发布了“北斗云采平台”产品,能够提供互联网采购和供应的服务能力,帮助企业和用户快速便捷解决采购问题。这款产品有哪些功能,又如何使用呢?一起来了解一下。 一、 产品介绍北斗云采,强调采购过程精细化管理 16098 二、 产品功能(有哪些特点)云采购平台解决采购全业务、全生命周期数据管控、降低采购成本、提高采购效率、最新技术超高安全16099 1、通过供应商间的比价,降低了采购成本2、通过共享供应商大数据库,拓宽了采购渠道,间接降低了采购成本 3、通过采购全过程的监控,避免了采购人员暗箱操作,减少了财产的流失4、规范企业的采购流程,提升了管理水平5、询价,比价、竞价过程中的沟通、报价、附件等所有记录均归档于数据库中,实现了整个采购过程的监督和追踪6、大数据统计分析7、互联网+、云计算、大数据、加解密技术、人工智能、时间戳技术、IP锁定技术、数字证书技术、阿里云五星级安全保障 三、 产品应用于哪些行业中小企业定制采购与供应的服务平台 四、 产品能够解决什么问题解决中小型企业的采购问题,规范采购流程,避免了采购人员暗箱操作,减少了财产的流失,节约了采购人员的时间,提高了采购的效率,采购操作留痕处理。 五、 平台的核心价值: 16100 买方:买的更省! 卖方:卖的更多!免费发布招采信息; 免费获取招采商机; 免费获取优质供应商; 免费使用即时通讯工具;免费的智能采购过程管理工具; 免费入住服务平台; 享受平台一站式采购服务; 享受使用智能报价工具;享受BI智能采购数据分析; 享受发布产品广告; 结果:成本大降!利润大涨! 结果:渠道拓宽,销量大增! 六、 客户的心声:买方:云采平台---老板的采购宝贝!重新定义采购部:不再是花钱的部门,而是为老板赚钱的部门!简单、方便、快捷、智能、傻瓜式操作、一站式服务----让我们的采购更价值!卖方:我们赚大了! 获取商机:更及时、更方便、更容易、更准确; 产品推广:广告推广更精准、广告维护更简单、广告发布更及时; 参与报价:更及时、更方便、更准确; 效 果:货卖得更多,赚的更多;
  • 大数据告诉你,母亲节送妈妈什么礼物会让她更开心
    又到母亲节,据说,“母亲节给妈妈送什么礼物”是世界第2大难题,仅次于第1难的“今天吃什么?”那么这第2大难题应该如何解决呢?显然它不会有一个万能的标准答案,但我们可以给你提供一些线索,希望能帮助你开开脑洞,找到属于你自己的标准答案。01到底送什么:不同国家、不同角度的调查给出不同的结论1.最好的礼物,需要你的陪伴母亲节都是周日,所以“礼物”未必非得是一件有形的物品,它也可以是一项服务。所以,如果你能在母亲身边陪伴她一起过节,让家居生活变个样或是带她去泡个温泉享受一下,都会是绝佳选择。美国的数据也有相似的结论:母亲节是一个属于家庭的节日。2.“珠宝沉默不语,却比任何语言更能打动女人心”去年母亲节期间,美国珠宝首饰支出增幅最大。莎士比亚老爷子早在几百年前就看穿一切:“珠宝沉默不语,却比任何语言更能打动女人心。”所以,不管节日期间你能否陪伴在母亲身边,精致的珠宝首饰都能让她开心。3.妈妈们都喜欢买买买,尤其是衣服根据一点资讯在去年母亲节期间的问卷调查,妈妈们最大的乐趣就是买买买。参与这项调查的妈妈们年龄横跨了60后到90后,由此可见,不管新手妈妈还是资深妈妈,过节时让她们买买买才是硬道理。如果我们再会看英国的数据,会发现母亲节期间服装行业拥有最高的点击率。看来无论国内国外、线上线下,我们能得到的一致结论就是:一件时尚时尚最时尚的衣服,一定能让妈妈满意。4.送花没创意?但有诗情画意!从一点资讯“母亲节”的相关词云来看,康乃馨和忘忧草依然是关联性很强的关键词。智慧、经验平衡职场与家庭,80后盛产“虎妈”作为家庭的象征,妈妈们也用自己的智慧和能力诠释了自己对家庭的责任,越来越多的妈妈即使身在职场也可以当好“宝妈”。数据报告显示,38%的妈妈对自己的认知是工作家庭两不误。而随着年龄的增长和经验积累,妈妈们越来越懂得如何平衡工作与家庭。此外,14%的妈妈的自我评价是“严格虎妈”,其中80后占比更高。报告显示,每4个80后的妈妈中就有1位自称“虎妈”。这或与她们所接受的教育有关,也与职场上的激烈竞争现状相契合。无论出于什么原因“虎妈盛产”的背后,都饱含着对孩子最炙热的母爱。今日头条2015、2016两年的数据中,康乃馨强势代言母亲节。02如果想不出送什么,你就“一时冲动”吧也许是因为真的太难提前想出合适的礼物了,所以总会有人在母亲节期间冲动购物,尤其是男人。不过,相信你的“第一感觉”,也许也会是个不错的选择。03母亲节,真的只是母亲们过节?不管什么节日,商家们都是蛮拼的,所以母亲节也有演变为女性购物节的趋势。必应在美国的数据显示,母亲节礼物并没有全部送给母亲。04男人和女人,谁更重视母亲节?这个问题可能是最有争议的。在中国,搜狗大数据的结果显示,男性更关注母亲节。英国男人买礼物的平均花费明显高于女人,出手阔绰。但在搜索数据上,英国女人赢了男人。美国女性对母亲节内容更感兴趣,女性用户的广告点击率为4.2%,男性用户点击率则为3.8%。
总条数:1421 到第
上滑加载中