hadoop编译安装

Hadoop精选18道面试题(附回答思路)

1.简述Hadoop1和Hadoop2的架构异同HDFSHA(HighAvailablity)一旦Active节点出现故障，就可以立即切换到Standby节点，避免了单点故障问题。
Byyyi耀·2024-01-08 06:00

Centos 7源码安装Python3

Centos7源码安装Python3因为发先grpc的多进程在anaconda环境下会出现内存溢出的bug,找了一圈没发现咋解决，后来源码安装Python问题不再出现，这里记录一下编译安装的过程。
Macanv·2024-01-08 05:57

Linux 编译安装colmap

这里记录一下编译安装colmap的过程，首先需要安装好CUDA，CUDA具体安装过程这里就不赘述了。
Sakuya__·2024-01-08 05:07

Unrecognized option: -v Error: Could not create the Java Virtual Mac

yarn报错Unrecognizedoption:-vError:CouldnotcreatetheJavaVirtualMac这是因为jdk和hadoop或者是其他的在环境变量path中，因为yarn.cmd
꧁“杂货店”꧂·2024-01-08 04:39

在Ubuntu18.04上编译安装GMP

记录一下在服务器上安装成功的过程：）直接安装libgmp二进制文件sudoapt-getinstalllibgmp-dev如果选择直接安装编译好的二进制文件，可以跳到看「检查是否安装成功」部分进行测试；如果想要编译安装
「已注销」·2024-01-08 04:40

F. linux：帮助命令help、man、info

[root@hadoop01udisk]#ls--help[root@hadoop01udisk]#manls[root@hadoop01udisk]#infols
小猪Harry·2024-01-08 00:40

25、Spark核心编程之RDD持久化详解

不使用RDD持久化的问题首先看一段代码JavaRDDlinesRDD=javaSparkContext.textFile("hdfs://hadoop-100:9000/testdate/1.txt")
ZFH__ZJ·2024-01-07 23:21

Hive元数据迁移及升级方案

Hive的架构和工作原理简介Hive是基于Hadoop之上的数仓，便于用户可以基于SQL（HiveQL）进行数据分析，其架构图如下:从上图可知，Hive主要用来将建立结构化数据库和后端分布式结构化文件的映射
云原生大数据·2024-01-07 22:49

【Nginx】#安装配置及应用场景使用说明

文章目录常见公网DNS服务1.Nginx的安装版本区别解压文件1.1编译安装1.2启动安装1.3安装成系统服务2.运行原理3.Nginx配置及应用场景3.1最小配置worker_processesworker_connectionsincludemime.types
暴躁的菜鸡·2024-01-07 20:39

hadoop调优

hadoop调优1HDFS核心参数1.1NameNode内存生产配置1.1.1NameNode内存计算每个文件块大概占用150byte，如果一台服务器128G，能存储的文件块如下128(G)*1024(
健鑫.·2024-01-07 18:25

hadoop调优(二)

hadoop调优(二)1HDFS故障排除1.1NameNode故障处理NameNode进程挂了并且存储数据丢失了，如何恢复NameNode？
健鑫.·2024-01-07 18:25

熟悉HDFS常用操作

1.利用Hadoop提供的Shell命令完成下列任务（1）向HDFS中上传任意文本文件，如果指定的文件在HDFS中已经存在，由用户指定是追加到原有文件末尾还是覆盖原有的文件。#检查文件是否存在.
cwn_·2024-01-07 17:11

熟悉HBase常用操作

1.用Hadoop提供的HBaseShell命令完成以下任务（1）列出HBase所有表的相关信息，如表名、创建时间等。
cwn_·2024-01-07 17:11

惊心动魄的Hadoop-6小时350T数据恢复

Hadoop在调整前，将Hadoop进行关闭.stop-all.sh进行关闭我们在第一步进行关闭的时候这里就出现问题。
胖琪的升级之路·2024-01-07 17:17

Hive入门

一、Hive概述1.1Hive简介Hive是基于Hadoop的一个数据仓库工具，它可以将结构化或半结构化的数据文件转化为一张数据库表，并提供简单的sql查询功能。
爱过java·2024-01-07 17:04

linux下spark的python编辑_如何在Linux下构建Spark Python编程环境

火花编程环境Spark可以独立安装或与Hadoop一起使用.在安装Spark之前linux的python编程环境，首先请确保您的计算机上已安装Java8或更高版本.火花安装访问Spark下载页面，然后选择最新版本的
weixin_39543478·2024-01-07 13:10

linux下spark的python编辑_Linux下搭建Spark 的 Python 编程环境的方法

Spark编程环境Spark可以独立安装使用，也可以和Hadoop一起安装使用。在安装Spark之前，首先确保你的电脑上已经安装了Java8或者更高的版本。
weixin_39752800·2024-01-07 13:10

virtualbox的下载，打开.vdi文件并启动Hadoop系统

目录一、virtualbox的下载二、新建Ubuntu系统1、确定好镜像系统的位置2、新建虚拟系统三、Hadoop系统的启动1、启动Hadoop2、启动hbase3、启动spark4、启动hive5、hadoop
汤汤upup·2024-01-07 13:08

Linux系统下Spark的下载与安装（pyspark运行示例）

最近需要完成数据课程的作业，因此实践了一下如何安装并配置好spark1、版本要求由于我想要将hadoop和spark一起使用，因此必须确定好spark的版本Spark和Hadoop版本对应关系如下：Spark
汤汤upup·2024-01-07 13:06

【Java处理百万级数据的高效方法了解】

1.2分布式存储考虑使用分布式数据库（如HBase、Cassandra）或存储系统（如HadoopDistri
無飞·2024-01-07 12:21

Hadoop分布式文件系统(二)

目录一、Hadoop1、文件系统1.1、文件系统定义1.2、传统常见的文件系统1.3、文件系统中的重要概念1.4、海量数据存储遇到的问题1.5、分布式存储系统的核心属性及功能含义2、HDFS2.1、HDFS
杀神lwz·2024-01-07 11:19

编译安装Linux内核

编译安装Linux内核Linux内核组成部分：kernel：内核核心，一般为bzImage，通常在/boot目录vmlinuz-VERSION-RELEASEkernelobject：内核对象，一般放置于
一直在努力学习的菜鸟·2024-01-07 10:43

【大数据进阶第三阶段之Hive学习笔记】Hive基础入门

Hive的优缺点2.1、优点2.2、缺点2.2.1、Hive的HQL表达能力有限2.2.2、Hive的效率比较低3、Hive架构原理3.1、用户接口：Client3.2、元数据：Metastore3.3、Hadoop3.4
伊达·2024-01-07 08:20

Hadoop集群三节点搭建（二）

一、克隆三台主机（hadoop102hadoop103hadoop104）以master为样板机克隆三台出来，克隆前先把master关机按照上面的步骤克隆其他两个就可以了，记得修改ip和hostname
DIY……·2024-01-07 07:35

个人笔记：分布式大数据技术原理（二）构建在 Hadoop 框架之上的 Hive 与 Impala

有了MapReduce，Tez和Spark之后，程序员发现，MapReduce的程序写起来真麻烦。他们希望简化这个过程。这就好比你有了汇编语言，虽然你几乎什么都能干了，但是你还是觉得繁琐。你希望有个更高层更抽象的语言层来描述算法和数据处理流程。于是就有了Pig和Hive。Pig是接近脚本方式去描述MapReduce，Hive则用的是SQL。它们把脚本和SQL语言翻译成MapReduce程序，丢给计
garagong·2024-01-07 07:16

【DataX】windows下本地DataX同步hive到mysql，hive带Kerberos认证

直接同步会报错：java.lang.RuntimeException:java.io.FileNotFoundException:java.io.FileNotFoundException:HADOOP_HOMEandhadoop.home.dirareunset
airyv·2024-01-07 06:44

基于Hadoop的豆瓣电影数据分析

Hadoop是一个开源的分布式计算框架，它提供了处理大规模数据集的能力。在本文中，我们将利用Hadoop框架对豆瓣电影数据进行分析。
数据科学探险导航·2024-01-07 05:07

大数据编程期末大作业

大数据编程期末大作业文章目录大数据编程期末大作业一、Hadoop基础操作二、RDD编程三、SparkSQL编程四、SparkStreaming编程一、Hadoop基础操作在HDFS中创建目录/user/
-北天-·2024-01-07 05:20

Linux 上 Nginx 配置访问 web 服务器及配置 https 访问配置过程记录

如果还有不会安装的，可以参考之前写的这篇文章：Linux编译安装Nginx如果还有
Wjhsmart·2024-01-07 04:28

Linux 编译安装 Nginx

目录一、前言二、四种安装方式介绍三、本文安装方式：源码安装3.1、安装依赖库3.2、开始安装Nginx3.3、Nginx相关操作3.4、把Nginx注册成系统服务四、结尾一、前言Nginx是一款轻量级的Web服务器、[反向代理]服务器，由于它的内存占用少，启动极快，高并发能力强，在互联网项目中广泛应用。本文介绍三种基于linux环境下的安装nginx的方法，安装版本为现阶段官网推出的最新稳定版本。
Wjhsmart·2024-01-07 04:28

Rocky下安装mysql

Rocky下安装mysql安装版本检查是否已安装下载安装包解压到安装目录，创建binlog、存储目录创建mysql用户组、用户，赋权给mysql目录编译安装初始化创建my.cnf配置文件启动服务，并添加自启动登录并重置密码
LANGE_GAN·2024-01-07 04:12

Hive的基本的概述即使用参考

1.Hive的概述√意义：在于大幅度降低工程师学习MapReduce的学习成本，让好用（计算速度快）的MapReduce更方便的使用（使用简单）√基本概念：Hive是基于Hadoop的一个数据仓库工具，
C8H11O2N_4cd4·2024-01-07 02:29

《PySpark大数据分析实战》-23.Pandas介绍DataFrame介绍

对大数据技术栈Hadoop、Hive、Spark、Kafka等有深入研究，对Data
wux_labs·2024-01-07 00:26

《PySpark大数据分析实战》-22.Pandas介绍Series介绍

对大数据技术栈Hadoop、Hive、Spark、Kafka等有深入研究，对Data
wux_labs·2024-01-07 00:25

《PySpark大数据分析实战》-25.数据可视化图表Matplotlib介绍

对大数据技术栈Hadoop、Hive、Spark、Kafka等有深入研究，对Data
wux_labs·2024-01-07 00:24

2024.1.5 Hadoop各组件工作原理,面试题

目录1.简述下分布式和集群的区别2.Hadoop的三大组件是什么?3.请简述hive元数据服务配置的三种模式?4.数据库与数据仓库的区别?5.简述下数据仓库经典三层架构?
白白的wj·2024-01-06 23:34

STM32MP157D-DK1 Qt程序交叉编译与运行测试

1编译安装SDK在上篇编译系统镜像的基础上，继续编译和安装SDK。1.1编译SDK执行如下执指令编译带有Qt功能的SDK:bitbakest-example-ima
码农爱学习·2024-01-06 23:30

Flink常见核心概念

分布式缓存有时一些数据是通用的,就需要进行共享,可以放在文件、缓存、db中,可以放在文件中,先缓存到hadoop集群中,然后使用cachepublicclassCacheStream{publicstaticvoidmain
一生逍遥一生·2024-01-06 21:56

Hive 源码解析一：Driver

这是hive的架构图从架构图来看，黄颜色属于Hive范畴，蓝颜色属于Hadoop范畴，其中MetaStore可以说是独立Hive核心
小王是个弟弟·2024-01-06 17:25

《Hive系列》Hive详细入门教程

目录1Hive基本概念1.1什么是HiveHive简介Hive：由FaceBook开源用于解决海量结构化日志的数据统计工具Hive：基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张表
DATA数据猿·2024-01-06 17:55

Hive（一）概述

文件格式5.Hive压缩6.Hive配置7.关于小文件问题二.安装Hive三.Hive基本使用一.简介1.概述什么是HiveHive：由Facebook开源用于解决海量结构化日志的数据统计工具Hive是基于Hadoop
Jumanji_·2024-01-06 17:54

YARN（一）-- 产生原因及概述

本文内容如下：介绍为什么会产生YARN（同时介绍原MapReduce框架的不足）YARN的基本原理首先说一下YARN是什么吧：ApacheHadoopYARN(YetAnotherResourceNegotiator
小北觅·2024-01-06 17:54

Flume基础知识（九）：Flume 企业开发案例之复制和多路复用

2）需求分析：3）实现步骤：（1）准备工作在/opt/module/flume/job目录下创建group1文件夹[root@hadoop102job]$cdgroup1
依晴无旧·2024-01-06 17:58

教你如何将本地虚拟机变成服务器，供其它电脑访问

在虚拟机上安装hadoop和hive，然后同学机子上安装kettle进行连接。最后发现是可以的。本文介绍如何将本地虚拟机变成服务器，供其它电脑访问。
吾浴西风·2024-01-06 16:01

高可用分布式部署Spark、完整详细部署教程

Spark基于mapreduce算法实现的分布式计算，拥有HadoopMapReduce所具有的优点；但不同于MapReduce的是Job中间输出和结果可以保存在内存中，从而不再需要读写HDFS，因此Spark
一座野山·2024-01-06 16:15

SuperMap分布式数据库实操

.配置开机自启动5.集群部署5.1主从复制集群5.2副本集集群安装部署配置开机自启动5.3分片集群二、DSF（HDFS）1.HDFS2.安装部署三、DSF(本地文件)四、HBASE1.数据模型2.安装Hadoop
会灭火的程序员·2024-01-06 15:42

nginx + memcached + tomcat负载均衡实现session共享

server1,2编译安装jdk,这样使得tomcat可以支持jsp页面看结果表示jdk安装成功所添加的环境变量[root@server2local]#cat/etc/profile|tail-n5e
ivan_cq·2024-01-06 15:47

《数据采集与预处理环境》实验环境安装

文章目录1.安装Python及第三方库2.jupyternotebook安装3.jdk安装4.MySQL安装1.在根目录下创建文件my.ini2.初始化3.安装服务4.启动服务5.登录6.配置环境变量5.hadoop
活下去.·2024-01-06 14:10

熟悉常用的Linux操作和Hadoop操作

1.安装虚拟机(1)VMwareworkstationpro安装包下载登录VMware官网：VMware中国-交付面向企业的数字化基础|CN，点击登录->云服务控制台，进入欢迎使用VMware页面，点击创建您的VMWARE账户，进入注册界面填写信息并注册。注册完成后，返回登录页面进行登录，进入VMwareworkstationpro下载地址（https://customerconnect.vmwa
cwn_·2024-01-06 11:47

HDFS的高可用性

Hadoop在2.x的版本引入了联邦HDFS（HDFSFederation），通过在集群中添加namenode实现。
zh_harry·2024-01-06 10:25
上一页 27 28 29 30 31 32 33 34 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他