Hadoop系统架构

Spark：SparkSQL与Hive on Spark（Shark）的比较

简要介绍了SparkSQL与HiveonSpark的区别与联系一、关于Spark简介在Hadoop的整个生态系统中，Spark和MapReduce在同一个层级，即主要解决分布式计算框架的问题。
花和尚也有春天·2024-01-21 06:17

基于kubernetes构建spark-thriftserver集群(Deployment模式)

1、构建镜像这里采用spark-2.4.4-bin-hadoop2.7.tar.gz包部署，先解压文件到/opt/spark目录。（1）将需要第三方扩展包导入/opt/spark/
Moutai码哥·2024-01-21 06:46

Spark面试题

1.sparkcore1.简述hadoop和spark的不同点（为什么spark更快）♥♥♥  shuffle都是需要落盘的，因为在宽依赖中需要将上一个阶段的所有分区数据都准备好，才能进入下一个阶段，那么如果一直将数据放在内存中
韩顺平的小迷弟·2024-01-21 06:53

Ubuntu安装Hbase数据库

Hbase，并修改其名称sudotar-zxfhbase-1.1.2-bin.tar.gz-C/usr/localcd/usr/localsudomvhbase-2.2.2/hbasesudochown-Rhadoophbase
殊迟·2024-01-21 06:51

Ubuntu安装MySQL数据库

MySQLsudoapt-getinstallmysql-server输入Y后回车继续安装设置root用户密码，此处会设置两次三、启动、关闭、测试数据库servicemysqlstart#此处输入2回车选择hadoop
殊迟·2024-01-21 06:51

安装Kafka

Kafkasudotar-zxfkafka_2.11-0.10.2.0.tgz-C/usr/localcd/usr/localsudomvkafka_2.11-0.10.2.0/kafkasudochown-Rhadoopkafka
殊迟·2024-01-21 06:51

Hadoop3完全分布式搭建

一、第一台的操作搭建修改主机名使用hostnamectlset-hostname修改当前主机名关闭防火墙和SELlinux1，使用systemctlstopfirewalldsystemctldisablefirewalld关闭防火墙2，使用vim/etc/selinux/config修改为SELINUX=disabled使用NAT模式配置静态IP1，修改网络配置vim/etc/sysconfig
三木一立·2024-01-21 05:54

Linux 部署Hadoop伪分布式集群教程

首先：我们需要下载一些关于Hadoop伪分布式集群需要的工具与tar包链接：https://pan.baidu.com/s/1oUw1jDCxfghWsnaWauSHKg提取码：6s5a接下来打开虚拟机终端
qq_61247494·2024-01-21 05:15

linux 部署Hadoop完全分布式集群教程

一、准备工作1、本次任务需要三台虚拟机，主机名分别为Master、Slave01、Slave02先在Master上安装好jdk和Hadoop（安装教程可以参考这两篇文章）然后为了简便我们直接克隆两台Master
qq_61247494·2024-01-21 05:15

Linux修改hadoop配置文件及启动hadoop集群详细步骤

目录一、配置Hadoop环境1.查看Hadoop解压位置2.配置环境变量3.编辑环境变量4.重启环境变量5.查看Hadoop版本，查看成功就表示Hadoop安装成功了二、修改配置文件1.检查三台虚拟机：
CatalinaCatherine·2024-01-21 05:45

linux下hadoop集群并且配置安装百分百成功

可以去jdk官网下载8或者11版本，别用18因为hadoop会不兼容，先卸载本机的自带的jdk，下面我给大家带一个我在用的hadoop链接hadoop下载链接假设在你的linux上面有三个虚拟机hadoop102hadoop103hadoop104
新城已无旧少年_·2024-01-21 05:45

Linux-Hadoop集群配置

文章目录一、配置Hadoop集群1、在master虚拟机上配置hadoop（1）编辑Hadoop环境配置文件-hadoop-env.sh（2）编辑Hadoop核心配置文件-core-site.xml（3
人生苦短@我用python·2024-01-21 05:44

hadoop分布式集群配置（linux）

linux配置hadoop分布式集群一、前期准备二、Jdk的安装三、配置hadoop集群安装hadoop分布式集群hadoop-3.3.0及jdk1.8下载链接一、前期准备1.安装hadoop分布式之前先准备好
小-枝-丫·2024-01-21 05:44

linux上面hadoop配置集群

要在Linux上配置Hadoop集群，需要按照以下步骤进行操作：安装JavaDevelopmentKit(JDK)：首先，确保您的Linux系统上已经安装了JDK。
酷爱码·2024-01-21 05:14

WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-

1.问题来源hadoop启动时控制台一直提示WARNutil.NativeCodeLoader:Unabletoloadnative-hadooplibraryforyourplatform…usingbuiltin-javaclasseswhereapplicableStartingnamenodeson
寂夜了无痕·2024-01-21 04:57

mac-hadoop3.3.6 源码构建以及踩坑记录

1.为什么需要构建源码因为hadoop的可执行文件是在专门的机器上编译的其中native库不一定能适用于每个机器导致在启动hadoop过程中出现烦人的警告WARNutil.NativeCodeLoader
寂夜了无痕·2024-01-21 04:55

『互联网架构』软件架构-电商系统架构（中）（70）

原文链接地址：『互联网架构』软件架构-电商系统架构（中）（70）docker的方式安装了nexus，gogs和正常的方式安装jenkins，下面一起说说tomcat的持续集成，和3者之前项目的贯通。
IT人故事会·2024-01-21 04:31

HDFS中的Erasure Coding纠删码是个什么样的存在？

在Hadoop3.x之后就引入了纠删码技术（ErasureCoding）纠删码技术（Erasurecoding）简称EC，是一种编码容错技术。最早用于通信行业，数据传输中的数据恢复。它通过对数
小KKKKKKKK·2024-01-21 03:29

ElasticSearch 亿级数据检索深度优化！

一、前言数据平台已迭代三个版本，从头开始遇到很多常见的难题，终于有片段时间整理一些已完善的文档，在此分享以供所需朋友的实现参考，少走些弯路，在此篇幅中偏重于ES的优化，关于HBase，Hadoop的设计优化估计有很多文章可以参考
夜空_2cd3·2024-01-21 03:53

Redis学习笔记--尚硅谷

、Tomcat、HTML、Linux、JDBC、SVNe解决扩展性的问题:Struts、Spring、SpringMVC、Hibernate、Mybatise解决性能的问题:NoSQL、Java线程、Hadoop
Geho·2024-01-21 02:52

大数据技术原理及应用课实验1 熟悉常用的Linux操作和Hadoop操作

实验1熟悉常用的Linux操作和Hadoop操作一、实验目的Hadoop运行在Linux系统上，因此，需要学习实践一些常用的Linux命令。
Blossom i·2024-01-21 02:21

大数据技术原理及应用课实验2 ：熟悉常用的HDFS操作

实验2熟悉常用的HDFS操作目录实验2熟悉常用的HDFS操作一、实验目的二、实验平台三、实验步骤（每个步骤下均需有运行截图）（一）编程实现以下功能，并利用Hadoop提供的Shell命令完成相同任务：（
Blossom i·2024-01-21 02:21

通过WordCount解析Spark RDD内部源码机制

HelloSparkHelloScalaHelloHadoopHelloFlinkSparkisAwesome然后在Eclipse中编写wo
联旺·2024-01-21 01:54

【2024系统架构设计】案例分析- 1软件架构设计

目录一基础知识二历年真题一基础知识1质量属性效用树、质量属性判断①性能：系统的响应能力。举例：同时支持500并发；响应时间小于2S；显示分辨率4K。设计策略：优先级队列、资源调度、增加计算资源、减少计算开销、
Jackilina_Stone·2024-01-21 01:58

客户案例｜知名证券机构核心大数据平台升级之路

Hadoop作为海量数据处理的关键技术框架，自诞生以来就改变了企业对数据的存储、处理和分析的过程，因具备开源低成本、高可靠等特性，在证券行业得到了广泛的应用。
云掣YUNCHE·2024-01-21 01:17

[架构之路-120]-《软考-系统架构设计师》-计算机体系结构 -2- 一文了解ARM SOC体系结构原理（CPU工作原理、指令、内存、中断、堆栈、IO、初始化）

知识准备：(890条消息)[架构之路-17]：目标系统-硬件平台-ARMCPU架构与系列选型_arm硬件架构_文火冰糖的硅基工坊的博客-CSDN博客第9章计算机体系结构第1节ARMSOC芯片体系结构1.1ARM家族1.2SOC芯片总体架构ARMCore内核系统（取指令、解释指令、执行指令）内存控制子系统（内存）外设控制器子系统（IO）中断控制子系统（中断）系统控制子系统：电源、时钟、复位、启动该架
文火冰糖的硅基工坊·2024-01-20 22:04

Spark(一): 基本架构及原理

前言:目标：架构及生态：Spark与hadoop:运行流程及特点：常用术语:Spark运行模式：RDD运行流程：前言:ApacheSpark是一个围绕速度、易用性和复杂分析构建的大数据处理框架，最初在2009
贝賏赑钡·2024-01-20 22:46

大数据导论（3）---大数据技术

文章目录1.大数据技术概述2.数据采集与预处理2.1数据采集2.2预处理3.数据存储和管理3.1分布式基础架构Hadoop3.2分布式文件系统HDFS3.3分布式数据库HBase3.4非关系型数据库NoSQL4
冒冒菜菜·2024-01-20 21:28

系统架构13 - 软件工程（1）

软件工程软件开发生命周期软件定义时期软件开发时期软件运行和维护文档软件工程过程软件系统工具软件设计四个活动：能力成熟度模型CMMCMMCMMI两种表示方法软件开发生命周期软件定义时期包括可行性研究和详细需求分析过程，任务是确定软件开发工程必须完成的总目标。具体可分成问题定义、可行性研究、需求分析等。软件开发时期就是软件的设计与实现，可分成概要设计、详细设计、编码、测试等。软件运行和维护就是把软件产
银龙丶裁决·2024-01-20 21:20

Sqoop与HBase结合使用：实现强大的数据存储

Sqoop用于将数据从关系型数据库导入到Hadoop生态系统中，而HBase则用于实时、非关系型数据存储和查询。
晓之以理的喵~~·2024-01-20 19:57

使用Sqoop从Oracle数据库导入数据

在大数据领域，将数据从关系型数据库（如Oracle）导入到Hadoop生态系统是一项常见的任务。Sqoop是一个强大的工具，可以帮助轻松完成这项任务。
晓之以理的喵~~·2024-01-20 19:27

Sqoop数据传输中的常见挑战及其解决方法

Sqoop是一个用于将数据传输到Hadoop生态系统的强大工具，但在实际使用中，可能会面临一些挑战。
晓之以理的喵~~·2024-01-20 19:26

创建虚拟机

弹出如下对话框，点击“下一步”3.继续点击“下一步”4.选择“稍后安装操作系统”，然后点击“下一步”5.在版本下拉框中选择“CentOS764位”，然后点击“下一步”6.给虚拟机起一个名字，本机叫做“Hadoop100
吃草料的羊·2024-01-20 19:56

使用Python基于metricbeat和heartbeat采集数据进行告警

一、系统架构IP主机名角色备注11.0.1.11kafka1kafka和MySQL11.0.1.12kafka2kafka11.0.1.13kafka3kafka11.0.1.14demo1metricbeat
你说咋整就咋整·2024-01-20 19:25

大数据Hadoop入门——HDFS分布式文件系统基础

HDFS命令基础语法：【hadoopfs具体命令、hdfsdfs具体命令】两个是完全相同的。显示文件列表#hdfsdfs-lsURL创建目录#hdfsdfs-mkdir[-p]URL使用-p参数可以
nucty·2024-01-20 16:00

Zookeeper简介

一、Zookeeper简介ZooKeeper是一个分布式的、开放源码的分布式应用程序协调服务，它是Google的Chubby一个开源的实现，是Hadoop和Hbase的重要组件。
破茧......·2024-01-20 16:35

大数据技术之Hadoop伪分布式安装步骤及结果（Ubuntu）

、下载安装虚拟机软件；下载Ubuntu镜像文件，安装Ubuntu虚拟机；2、在Ubuntu系统中创建用户、更新APT、安装SSH并配置SSH无密码登录、安装Java环境、配置PATH环境变量；3、下载Hadoop
小嘤嘤怪学·2024-01-20 16:52

面试百问：Redis常见的故障以及发生场景

作为一个测试同学，被测系统架构中有使用到redis吗？对redis常见的故障有了解吗？又是如何进行测试的呢？针对常见的redis面试问题，怎样才算一个高质量的回答呢，回答思路一般包括问题的类型是什么？
跟我一起学测试呀·2024-01-20 15:19

【大数据】了解 YARN 架构的基础知识

3.1.2ApplicationManager应用程序管理器3.2NodeManager节点管理器3.3ApplicationMaster应用程序主控3.4Container容器4.在YARN中提交应用程序5.HadoopYARN
G皮T·2024-01-20 14:23

系统架构设计师

软考系统架构设计师笔记专用的成电路（ApplicationSpecificIntegratedCircuit，ASIC)PTR记录：PointerRecord，常被用于反向地址解析，即通过IP地址查询服务器域名
一个与程序bug抗争的程序员·2024-01-20 14:35

Hive性能优化

sum,count,max,min等UDAF，不怕数据倾斜问题,hadoop在map端的汇总合并优化，使数据倾斜不成问题。count(distinct),在数据量大的情况下，效率较
La victoria·2024-01-20 13:23

【JSON2WEB】01 WEB管理信息系统架构设计

WEB管理信息系统分三层设计，分别为DataBase数据库、REST2SQL后端、JSON2WEB前端，三层都可以单独部署。1DataBase数据库数据库根据需要选型即可，不需要自己设计开发，一般管理信息系统都选关系数据库，比如Oracle、Mysql、达梦等。数据库一般单独部署。2REST2SQL后端后端接收前端的REST请求，连接数据库，执行SQL，响应REST请求，返回JSON\SCHEMA
白龙马5217·2024-01-20 13:19

hive Error while compiling statement: FAILED: ClassCastException org.apache.hadoop.hive.serde2.objec

Errorwhilecompilingstatement:FAILED:ClassCastExceptionorg.apache.hadoop.hive.serde2.objectinspector.primitive.WritableConstantStringObjectInspectorcannotbecasttoorg.apache.hadoop.hive.serde2
圆周率的后六位·2024-01-20 12:35

hadoop运行任务出错，Hive Runtime Error while processing row

Error:java.lang.RuntimeException:org.apache.hadoop.hive.ql.metadata.HiveException:HiveRuntimeErrorwhileprocessingrow
圆周率的后六位·2024-01-20 12:05

Hadoop配置文件加载

1.hadoop使用org.apache.hadoop.conf.Configuration类来加载配置文件2.一般我们在写客户端程序等需要连接hadoop集群时，需要自己准备好core-site.xml
sf_www·2024-01-20 11:52

Day16 linuxC高级（存储类型 linux命令 shell命令）

//自动型2.static：修饰变量和函数//静态型3.extern：外部引用4.register：寄存器类型LinuxC高级简介：嵌入式系统(将软件嵌入到硬件里面)Linux起源查看操作系统版本内核系统架构系统关机或重启命令
.CLEAR.·2024-01-20 11:39

【Flink-1.17-教程】-【三】Flink 运行架构、Flink 核心概念【并行度、算子链、任务槽】、Flink 作业提交流程

【Flink-1.17-教程】-【三】Flink运行架构、Flink核心概念【并行度、算子链、任务槽】、Flink作业提交流程1）系统架构1.1.系统成员组成1.2.作业提交流程2）核心概念2.1.并行度
bmyyyyyy·2024-01-20 10:26

Hadoop基础知识

Hadoop基础知识1、Hadoop简介广义上来说，Hadoop通常是指一个更广泛的概念——Hadoop生态圈。
坐在风口上de猪·2024-01-20 10:10

大数据开发之Hadoop（完整版+练习）

第1章：Hadoop概述1.1Hadoop是什么1、Hadoop是一个由Apache基金会所开发的分布式系统基础架构。2、主要解决，海量数据的存储和海量数据的分析计算问题。
Key-Key·2024-01-20 10:36

Kylin安装学习教程

Kylin安装学习教程Kylin是一个开源的分布式分析引擎，提供Hadoop/Spark之上的SQL接口及多维分析（OLAP）能力以支持大数据分析，最初由eBayInc.开发并贡献到开源社区。
Luo_Yang111·2024-01-20 09:28
上一页 23 24 25 26 27 28 29 30 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他