- 文章目录 集群配置目标配置说明配置集群核心配置文件HDFS配置YARN配置MapReduce 配置 分发配置文件配置workers启动集群初始化启动集群ResourceManager... 文章目录 集群配置目标配置说明配置集群核心配置文件HDFS配置YARN配置MapReduce 配置 分发配置文件配置workers启动集群初始化启动集群ResourceManager...
- 一、如何设计微博点赞功能数据库？ 明星的一条微博的点赞数可能有几十万，甚至百万以上。那么这个「点赞功能」（会记录谁点了赞），新浪微博的数据库是如何设计的呢？ 网上说用到了 Redis，那么难道是直接用 Redis 保存的（指的是持久化保存）？还是说逻辑处理在 Redis 中，之后会定时同步/持久化到 MySQL 等磁... 一、如何设计微博点赞功能数据库？ 明星的一条微博的点赞数可能有几十万，甚至百万以上。那么这个「点赞功能」（会记录谁点了赞），新浪微博的数据库是如何设计的呢？ 网上说用到了 Redis，那么难道是直接用 Redis 保存的（指的是持久化保存）？还是说逻辑处理在 Redis 中，之后会定时同步/持久化到 MySQL 等磁...
- 文章目录 2 HDFS分布式文件系统和ZooKeeper2.1 HDFS概述以及应用场景HDFS概述HDFS应用场景HDFS不适合的场景 2.2 HDFS相关概念计算机集群结构基本系统架构块... 文章目录 2 HDFS分布式文件系统和ZooKeeper2.1 HDFS概述以及应用场景HDFS概述HDFS应用场景HDFS不适合的场景 2.2 HDFS相关概念计算机集群结构基本系统架构块...
- 文章目录 1 大数据概述1.1 什么是大数据1.2 大数据技术背后的核心思想1.2.1 把数据分发到多个节点1.2.2 把计算逻辑移到数据附近1.2.3 计算节点进行本地数据处理1.2.4 优选顺... 文章目录 1 大数据概述1.1 什么是大数据1.2 大数据技术背后的核心思想1.2.1 把数据分发到多个节点1.2.2 把计算逻辑移到数据附近1.2.3 计算节点进行本地数据处理1.2.4 优选顺...
- Spark官网：(https://spark.apache.org/) Spark是一个大数据领域统一的数据分析/计算/处理引擎 目录 环境配置 一、解压更名 二、配置环境变量 三、配置Spark参数 四、环境测试 五、提交任务 六、结果查看 七、查看spark任务web-ui ... Spark官网：(https://spark.apache.org/) Spark是一个大数据领域统一的数据分析/计算/处理引擎 目录 环境配置 一、解压更名 二、配置环境变量 三、配置Spark参数 四、环境测试 五、提交任务 六、结果查看 七、查看spark任务web-ui ...
- 你的点赞与评论是我最大的创作动力！ YARN定位 云计算三层服务： IaaS、PaaS、SaaS YARN属于PaaS层。 YARN设计目标 通用的统一资源管理系统 同时运行长应用程序和... 你的点赞与评论是我最大的创作动力！ YARN定位 云计算三层服务： IaaS、PaaS、SaaS YARN属于PaaS层。 YARN设计目标 通用的统一资源管理系统 同时运行长应用程序和...
- 一、删除 删除hive数据时，首先明确你使用删除数据还是连同表结构也要删除，如果只是要删除数据可以选择truncate来清空表中的数据，如果要对表进行删除，首先要考虑该表是内部表还是外部表。如果是外部表... 一、删除 删除hive数据时，首先明确你使用删除数据还是连同表结构也要删除，如果只是要删除数据可以选择truncate来清空表中的数据，如果要对表进行删除，首先要考虑该表是内部表还是外部表。如果是外部表...
- hadoop完全分布式安装与配置 在Hadoop集群模式的安装与配置中，Hadoop集群架构如图所示。 准备：共三台虚拟机，分别为master、slave1、slave2，完成如下配置操作。 1、修改hosts文件、存储主机名和... hadoop完全分布式安装与配置 在Hadoop集群模式的安装与配置中，Hadoop集群架构如图所示。 准备：共三台虚拟机，分别为master、slave1、slave2，完成如下配置操作。 1、修改hosts文件、存储主机名和...
- 前景连接： Hadoop HA部署（MINI版）https://blog.csdn.net/m0_54925305/article/details/121566611?spm=1001.2014.3001.5501https://blog.csdn.net/m0_54925305/article/details/121566611?s... 前景连接： Hadoop HA部署（MINI版）https://blog.csdn.net/m0_54925305/article/details/121566611?spm=1001.2014.3001.5501https://blog.csdn.net/m0_54925305/article/details/121566611?s...
- HDFS-HA集群配置 环境准备： 1. 将各个机器修改为静态IP，见主页第十四篇文章：Linux设置静态IP及Ping通百度 2. 修改主机名及主机名和IP地址的映射，见主页第十一篇文章：修改主机名，IP映射 3. 关闭防火墙，见... HDFS-HA集群配置 环境准备： 1. 将各个机器修改为静态IP，见主页第十四篇文章：Linux设置静态IP及Ping通百度 2. 修改主机名及主机名和IP地址的映射，见主页第十一篇文章：修改主机名，IP映射 3. 关闭防火墙，见...
- 你的点赞与评论是我最大的创作动力！ 优点： 一、高可靠性：hadoop一般都在成千的计算机集群之上，且可以搭建hadoop的高可靠集群，及内部容错功能优秀。 二、高扩展性：hadoop是在可用的计... 你的点赞与评论是我最大的创作动力！ 优点： 一、高可靠性：hadoop一般都在成千的计算机集群之上，且可以搭建hadoop的高可靠集群，及内部容错功能优秀。 二、高扩展性：hadoop是在可用的计...
- MapReduce概述： 1 、MapReduce定义 Mapredude是一个分布式运算程序的编程框架，是用户开发" 基于Hadoop 的数据分析应用" 的核心框架。 &nbs... MapReduce概述： 1 、MapReduce定义 Mapredude是一个分布式运算程序的编程框架，是用户开发" 基于Hadoop 的数据分析应用" 的核心框架。 &nbs...
- 环境背景： Hadoop伪分布式已经搭建完成 Hadoop2.6.0 Hadoop伪分布搭建见： Hadoop伪分布式的搭建详情https://blog.csdn.net/m0_54925305/article/details/118650350?spm=1001.2014.3001.5502https://blog.csdn.... 环境背景： Hadoop伪分布式已经搭建完成 Hadoop2.6.0 Hadoop伪分布搭建见： Hadoop伪分布式的搭建详情https://blog.csdn.net/m0_54925305/article/details/118650350?spm=1001.2014.3001.5502https://blog.csdn....
- 你的点赞与评论是我最大的创作动力！ hadoop简介： hadoop平台是一个可靠的、可扩展的、可分布式计算的开源软件。 Apache Hadoop平台是一个框架，允许使用简单的编程模型。该平台被... 你的点赞与评论是我最大的创作动力！ hadoop简介： hadoop平台是一个可靠的、可扩展的、可分布式计算的开源软件。 Apache Hadoop平台是一个框架，允许使用简单的编程模型。该平台被...
- 环境准备： Hadoop2.6.0 IDEA maven3.5.4 案例分析： MapReduce是一种编程模型，用于大规模数据集（大于1TB）的并行运算。它极大地方便了编程人员在不会分布式并行编程的情况下，将自己的程序运行在分布式系统上。本项目用到的便是俗称H... 环境准备： Hadoop2.6.0 IDEA maven3.5.4 案例分析： MapReduce是一种编程模型，用于大规模数据集（大于1TB）的并行运算。它极大地方便了编程人员在不会分布式并行编程的情况下，将自己的程序运行在分布式系统上。本项目用到的便是俗称H...
上滑加载中
推荐直播
-
昇腾AI算法挑战赛-核心算子如何优化？专家带你深度解析2025/11/17 周一 16:00-17:00
王老师 华为算子专家
昇腾AI算法挑战赛进阶赛战鼓催征！本期直播间，我们特邀华为算子专家王老师，为你深度剖析Matmul、wholereducesum等核心算子的底层原理与优化技巧，直击赛题核心。想提升代码效率、冲击更高排名？锁定直播，带你破局！
回顾中 -
AI编码实干派，“码”力全开2026/02/26 周四 15:00-16:30
谈宗玮/于邦旭/丁俊卿/陈云亮/王一男
【中国，深圳，2026年2月26日】，以“AI编码实干派，码力全开”为主题的华为云码道（CodeArts）代码智能体新春发布会在线上成功召开。华为云码道公测版正式发布，为开发者和企业提供具备工程化能力的智能编码解决方案。
回顾中 -
华为云码道-玩转OpenClaw，开启在线养虾模式2026/03/11 周三 19:00-20:00
刘昱，华为云高级工程师/谈心，华为云技术专家/李海仑，上海圭卓智能科技有限公司CEO
OpenClaw 火爆开发者圈，华为云码道最新推出 Skill ——开发者只需输入一句口令，即可部署一个功能完整的「小龙虾」智能体。直播带你玩转华为云码道，玩转OpenClaw
回顾中
热门标签