hadoop编译安装

Hadoop -- HDFS

1.什么是Hadoophadoop中有3个核心组件：分布式文件系统：HDFS——实现将文件分布式存储在很多的服务器上分布式运算编程框架：MAPREDUCE——实现在很多机器上分布式并行运算分布式资源调度平台
Cool_Pepsi·2024-01-23 02:42

Hadoop -- ZooKeeper

ZooKeeper就是动物园管理员，他是用来管hadoop（大象）、Hive(蜜蜂)等的管理员。
Cool_Pepsi·2024-01-23 02:42

hadoop搭建服务器

一、服务器配置说明1.四台服务器2.每台服务器内存4G3./boot空间3072M4.【可选择配置】/swap交互虚拟内存，40965./根目录空间57G二、服务器网络选择配置1.选择NAT链接网络/桥接2.编辑~/.bashrc文件vim~/.bashrcexportall_proxy=socks5://192.168.197.2:21881exporthttp_proxy=http://192
成_7b38·2024-01-22 20:47

Hadoop RPC解析

网络通信模块是分布式系统中最底层的模块。它直接支撑了上层分布式环境下复杂的进程间通信（Inter-ProcessCommunication,IPC）逻辑，是所有分布式系统的基础。远程过程调用（RemoteProcedureCall,RPC）是一种常用的分布式网络通信协议。它允许运行于一台计算机的程序调用另一台计算机的子程序，同时将网络的通信细节隐藏起来，使得用户无须额外地为这个交互作用编程。由于R
tracy_668·2024-01-22 19:51

hadoop之mapreduce教程+案例学习（一）

第1章MapReduce概述目录第1章MapReduce概述1.1MapReduce定义MapReduce是一个分布式运算程序的编程框架，是用户开发“基于Hadoop的数据分析应用”的核心框架。
菜瓜技术联盟·2024-01-22 19:04

ragel-6.10编译安装

本次安装基于系统CentOSLinuxrelease6.0(Final)1.软件介绍Ragel是个有限状态机编译器，它将基于正则表达式的状态机编译成传统语言（C，C++，D，Java，Ruby等）的解析器。用Ragel可以很方便且很容易的写出各种FSM，也经常用作语法检测器。2.下载源码官网地址:http://www.colm.net/open-source/ragel/3.解压源码$tarzxv
一路向后·2024-01-22 18:25

Impala：基于内存的MPP查询引擎

Impala的特点1.3、Impala与Hive1、Impala概述1.1、Impala简介Impala是Cloudera公司主导研发的高性能、低延迟的交互式SQL查询引擎，它提供SQL语义，能查询存储在Hadoop
对许·2024-01-22 17:26

Hadooop和Hbase是什么关系

HBase是一个基于Hadoop的NoSQL分布式列存储数据库，用于存储海量结构化和半结构化数据，并提供高可用、高性能和面向列的操作功能。
wwwyx12138·2024-01-22 17:50

大数据平台的硬件规划、网络调优、架构设计、节点规划

1.大数据平台硬件选型要对Hadoop大数据平台进行硬件选型，首先需要了解Hadoop的运行架构以及每个角色的功能。
小枫@码·2024-01-22 17:18

hadoop-hdfs-API

处理hadoop配置文件及系统环境1.将hadoop所有jar包（除了..以外）添进hadoop/lib文件夹备用。2.将linux的hadoop/bin导出覆盖windows的hadoop/bin。
有七段变化·2024-01-22 15:43

CentOS7下Hadoop2.9.2、Hive 2.3.6安装与实践

参考的安装文章地址：https://blog.csdn.net/pengjunlee/article/details/81607890实际安装的版本为：hadoop2.9.2，hive2.3.6；操作系统
流火星空·2024-01-22 14:58

java大数据hadoop2.9.2 Linux安装mariadb和hive

一、安装mariadb版本centos71、检查Linux服务器是否已安装mariadbyumlistinstalledmariadb*2、如果安装了，想要卸载yumremovemariadbrm-rf/etc/my.cnfrm-rf/var/lib/mysql才能完全删除3、安装mariadb在线网络安装yuminstall-ymariadb-server开启服务systemctlstartma
crud-boy·2024-01-22 14:26

关于Hive架构原理，尚硅谷

最近学习hive时候，在做一个实操案例，具体大概是这样子的：我在dataGip里建了一个表，然后在hadoop集群创建一个文本文件里面存储了数据库表的数据信息，然后把他上传到hdfs后，dataGrip
大数据ＳＱＬｂｏｙ·2024-01-22 11:41

运维之道—生产环境安装Redis

目录1.前言2.环境准备2.1安装gcc依赖3.部署安装3.1下载redis安装包3.2解压并编译安装redis3.3配置redis编辑3.4启动redis并测试4.总结1.前言大家好，运维之道的系列文章继续进行
北京-景枫·2024-01-22 11:23

Nginx网站服务

目录简介1、Nginx服务基础1.1、安装及运行控制（1）编译安装Nginx（2）Nginx的运行控制（3）添加Nginx系统服务1.2、配置文件nginx.conf（1）全局配置（2）I/O事件配置（
王鹏程@123·2024-01-22 11:40

Ranger概述及安装配置

二、Ranger2.1、什么是rangerApacheRanger是一个用来在Hadoop平台上进行监控，启动服务，以及全方位数据安全访问管理的安全框架。Ranger愿景是在Apa
小枫@码·2024-01-22 09:39

【大数据处理技术实践】期末考查题目：集群搭建、合并文件与数据统计可视化

合并文件与数据统计可视化实验目的任务一：任务二：实验平台实验内容及步骤任务一：搭建具有3个DataNode节点的HDFS集群集群环境配置克隆的方式创建Slave节点修改主机名编辑hosts文件生成密钥免认证登录修改hadoop
汐ya~·2024-01-22 09:35

redis-5.0.8集群环境搭建

单机环境安装redis-3.2.8主从复制架构搭建及哨兵配置如果你对redis的安装很陌生，请看完我以上两期教程，对完成此期教程很有帮助2.下载解压redis-5.0.8.tar.gz[xiaokang@hadoop01
小刘新鲜事儿·2024-01-22 08:15

大数据技术原理及应用课实验3 ：熟悉常用的HBase操作

目录实验3熟悉常用的HBase操作一、实验目的二、实验平台三、实验步骤（每个步骤下均需有运行截图）（一）编程实现以下指定功能，并用Hadoop提供的HBaseShell命令完成相同任务：1.列出HBase
Blossom i·2024-01-22 08:08

Flink on YARN（下）：常见问题与排查思路

杨弢（搏远），阿里巴巴计算平台事业部技术专家，ApacheHadoopCommitter，目前专注于YARN、Flink、YuniKorn等开源项目的资源调度方向。
Apache Flink·2024-01-22 08:33

一张图轻松掌握 Flink on YARN 基础架构与启动流程

杨弢（搏远），阿里巴巴计算平台事业部技术专家，ApacheHadoopCommitter，目前专注于YARN、Flink、YuniKorn等开源项目的资源调度方向。
zhisheng_blog·2024-01-22 08:02

10 Hadoop的安全模式及权限介绍

1、HDFS工作流程启动NameNode，NameNode加载fsimage到内存，对内存数据执行editslog日志中的事务操作。文件系统元数据内存镜像加载完毕，进行fsimage和editslog日志的合并，并创建新的fsimage文件和一个空的editslog日志文件。NameNode等待DataNode上传block列表信息，直到副本数满足最小副本条件,这个过程NameNode处于安全模式
水无痕simon·2024-01-22 08:02

[flink]一Flink部署|配置文件|提交作业|部署模式|独立模式部署|yarn模式部署

一、集群部署集群规划节点服务器hadoop1hadoop2hadoop3hadoop4角色JobManagerTaskManagerTaskManagerTaskManagerTaskManager1、
胖胖学编程·2024-01-22 08:30

Hadoop基本概论

目录一、大数据概论1.大数据的概念2.大数据的特点3.大数据应用场景二、Hadoop概述1.Hadoop定义2.Hadoop发展历史3.Hadoop发行版本4.Hadoop优势5.Hadoop1.x/2
LzYuY·2024-01-22 08:25

史上最全深度解析Flink内存管理--大数据技术

目前，大数据计算引擎主要使用Java或基于JVM的编程语言实现的，例如ApacheHadoop，ApacheSpark，ApacheDrill，ApacheFlink等。
大数据学习僧·2024-01-22 08:50

Flink（十四）【Flink SQL（中）查询】

FlinkSQL查询环境准备：#1.先启动hadoopmyhadoopstart#2.不需要启动flink只启动yarn-session即可/opt/module/flink-1.17.0/bin/yarn-session.sh-d
让线程再跑一会·2024-01-22 08:14

Flink是如何管理内存的

在讲Flink管理内存之前要了解下Flink为什么要自己实现内存管理一、Flink为什么要自己实现内存管理在大数据领域，大多数数据相关的开源框架（Hadoop、Spark、Storm）都是基于JVM运行的
Relian哈哈·2024-01-22 08:13

hive sql转换成MR任务过程

)、WEBUI（浏览器访问hive）2）元数据：Metastore元数据包括：表名、表所属的数据库（默认是default）、表的拥有者、列/分区字段、表的类型（是否是外部表）、表的数据所在目录等；3）Hadoop
上官沐雪·2024-01-22 08:08

大数据开发之电商数仓（hadoop、flume、hive、hdfs、zookeeper、kafka）

第1章：数据仓库1.1数据仓库概述1.1.1数据仓库概念1、数据仓库概念：为企业制定决策，提供数据支持的集合。通过对数据仓库中数据的分析，可以帮助企业，改进业务流程、控制成本，提高产品质量。数据仓库并不是数据的最终目的地，而是为数据最终的目的地做好准备，这些准备包括对数据的：清洗、转义、分类、重组、合并、拆分、统计等。2、数据仓库的数据通常包括：业务数据、用户行为数据和爬虫数据等3、业务系统数据库
Key-Key·2024-01-22 07:29

centos7下zabbix 4.0.39编译安装

centos7下zabbix4.0.39编译安装历经一周余时间整理，内容丰富。
fenglei2020·2024-01-22 07:20

二、VS2019编译的VTK9.0.0 + Qt 5.14.2 环境测试

1.使用CMakeVS2019编译vtk9.0.0时，需要启用支持Qt开关、如下图如果不会编译的可以参见我的这篇文章：一、VTK9.0.0编译安装步骤VS2019CMake3.26.0-CSDN博客打开
程序员黄老师·2024-01-22 05:18

centos 7.X 升级 python3 修复yum

1.编译安装可以通过官方网站https://www.python.org/下载最新版本,如果是yum安装可以通过yumsearchpython|grep"python3",找到对应的版本安装2.编译安装比较简单
风寒夜末·2024-01-22 04:40

docker服务部署、迁移与备份、dockerfile、私有仓库

Python量化交易实战入门级手把手带你打造一个易扩展、更安全、效率更高的量化交易系统今日内容概要服务部署迁移与备份dockerfile私有仓库内容详细1、服务部署#装mysqlredis---》源码编译安装
李自提·2024-01-22 03:14

看看关系型数据库是怎么吊打Hadoop的

所以在不少架构中，会看到使用ETL的方式将数据库送到Hadoop中，使用其分布式存储和分布式计算的特点来进行分析。
薛晓刚·2024-01-22 02:58

25.集群异常故障分析——HOSTS

25.1问题情况Hadoop集群HDFS、YARN、Hive等服务出现异常告警重启集群异常告警任然存在大量告警Cluster1HDFS可用空间抑制...NameNode运行状况抑制...HDFS金丝雀抑制
大勇任卷舒·2024-01-22 02:51

Hive SQL的编译过程（转）

Hive是基于Hadoop的一个数据仓库系统，在各大公司都有广泛的应用。美团数据仓库也是基于Hive搭建，每天执行近万次的HiveETL计算流程，负责每天数百GB的数据存储和分析。
愤怒的谜团·2024-01-21 20:40

Hbase笔记

HBase-1.hbase介绍ApacheHBase™是Hadoop数据库，是一个分布式，可扩展的大数据存储。当您需要对大数据进行随机，实时读/写访问时，请使用ApacheHBase™。
MFRain·2024-01-21 20:24

源码编译安装、rsync命令、远程同步实现、inotify+rsync实时同步

1不积跬步，无以至千里；不积小流，无以成江海2环境准备所有虚拟机设置SELinux运行模式[root@server~]#getenforceEnforcing[root@server~]#setenforce0#当前设置[root@server~]#getenforcePermissive[root@server~]#vim/etc/selinux/configSELINUX=permissive
Mick方·2024-01-21 17:50

spark on yarn安装部署

所使用的安装包名称按自己的修改，安装包可去各大官网上下载一，解压tar-zxvf/opt/software/spark-3.1.1-bin-hadoop3.2.tgz-C/opt/module/修改名称
佛系爱学习·2024-01-21 17:11

黑猴子的家：API 操作 HDFS 文件下载

1、Code->GitHubhttps://github.com/liufengji/hadoop_hdfs.git2、Code@TestpublicvoidgetFileFromHDFS()throwsException
黑猴子的家·2024-01-21 16:19

django基于Hadoop平台的电影推荐系统(程序+开题报告)

本系统（程序+源码+数据库+调试部署+开发环境）带文档lw万字以上，文末可获取系统程序文件列表开题报告内容研究背景：随着互联网的普及和大数据技术的发展，人们对于个性化推荐的需求越来越高。电影作为一种重要的娱乐方式，其推荐系统的研究也受到了广泛关注。然而，传统的电影推荐系统往往基于用户的历史行为进行推荐，忽略了其他重要的信息，如电影的类型、导演、演员等。此外，由于电影数据的海量性和复杂性，传统的推荐
liu10662·2024-01-21 15:51

ubuntu22.04编译安装opencv2遇到的错误

cap_ffmpeg_impl.hpp文件中相关宏的更新：opencv2与opencv4的（手动源码）安装路径结构差异：编译器版本：gcc(Ubuntu11.4.0-1ubuntu1~22.04)11.4.0手动编译安装
海雾楼艾迪尔·2024-01-21 15:07

ubuntu22.04安装atlas2.0.0

在ubuntu裸机上安装，裸机未安装java，hadoop等环境。jdk和maven都使用apt方式安装。sudoaptinstallopenjdk-8-jdksudoa
playmakerlby·2024-01-21 15:37

Mysql 编译安装部署

Mysql编译安装部署环境：172.20.26.198（Centos7.6）源码安装Mysql-5.7大概步骤如下：1、上传mysql-5.7.28.tar.gz、boost_1_59_0.tar到/usr
lqcbj_IT老混混·2024-01-21 12:33

【Linux】python版本控制

的版本2.添加软件源并更新3.选择你想要下载的版本4.警示：没必要设置默认版本误区千万千万不要覆盖`python3`软链接解决办法5.安装pip换源6.环境管理网上有很多教程都是教导小白去官方下载之后编译安装
UnderTurrets·2024-01-21 12:15

hadoop yarn 配置

转自：http://blog.csdn.net/guotong1988/article/details/47130701
晴天哥_王志·2024-01-21 09:03

02-黑马程序员大数据开发：分布式计算和分布式资源调度

分布式计算模式：分散->汇总模式（MapReduce）和中心调度->步骤执行模式（ApacheSpark,Flink;比较复杂，中间会有数据交换的过程）；2.MapReduce概述MapReduce是Hadoop
S1406793·2024-01-21 08:52

大数据开发之Kafka（broker、消费者、eagle监控、kraft模式）

KafkaBroker4.1KafkaBroker工作流程4.1.1Zookeeper存储的Kafka的信息1、查看zookeeper中的kafka节点所存储的信息启动Zookeeper客户端[atguigu@hadoop104zookeeper
Key-Key·2024-01-21 07:18

升级python2.7.5到2.7.18，并替换虚拟环境python版本

升级python2.7.5到2.7.18，并替换虚拟环境python版本获取安装包安装相关依赖环境编译安装python2.7.18创建新python版本软连接备份原虚拟环境创建新的虚拟环境备份文件，补充相应的安装包补充服务文件对于可能会出现的
伏逸·2024-01-21 07:17

windows上编译安装openssl库

目标编译：curl+openssl+ngtcp2+nghttp31.环境准备按照顺序进行：1.1下载openssl包https://www.openssl.org/或者：在github上查找ssl库源码下载https://github.com/openssl/openssl1.2下载并安装StrawberryPerlStrawberryPerl：StrawberryPerlforWindows1.
pert666·2024-01-21 07:45
上一页 16 17 18 19 20 21 22 23 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他