Hadoop学习总结

【实验1】分布式模式的CentOS 6上安装Hadoop（1个master节点，2个slave节点）

实验环境：二、实验内容与步骤（过程及数据记录）：1.安装VMWareWorkstation162.VMWare10安装CentOS62.1CentOS系统安装2.2CentOS系统安装中的关键问题2.3克隆HadoopSlave3
-借我杀死庸碌的情怀-·2024-02-07 05:31

在多台阿里云服务器上部署Hadoop分布式系统及WordCount实验

一、实现master与slave之间无密码连接分别在master及slave上生成rsa密钥：mkdir~/.sshcd~/.sshssh-keygen-t-rsa一路回车（选择默认设置），此时，ssh文件夹中生成了id_rsa.pub和id_rsa两个，然后使用scp命令将公钥（id_rsa.pub）分别拷到对方机器中scpid_rsa.pubh1@对方机器IP：~/.ssh/authorize
Clearlove灬Star·2024-02-07 05:01

合肥工业大学2022大数据技术实验二

实验序号及名称：实验二在Hadoop平台上部署WordCount程序实验时间∶2022年5月14日预习内容一、实验目的和要求∶在Hadoop平台上部署WordCount程序。
一头骇人鲸·2024-02-07 05:00

hadoopwordcount代码分析

输入输出文件异常类importjava.util.Iterator;Iterator是迭代器类importjava.util.StringTokenizer;用来对字符串进行切importorg.apache.hadoop.fs.Path
姹紫_嫣红·2024-02-07 05:57

【实验2】在Hadoop平台上部署WordCount程序

HDFS6.分布式文件系统HDFS上的编程实践6.1安装Eclipse6.2创建Eclipse工程6.3编写一个Java应用程序检测HDFS中是否存在一个文件7.Eclipse上的HDFS操作7.1安装Hadoop-Eclipse
-借我杀死庸碌的情怀-·2024-02-07 05:27

如何将日志文件和二进制文件快速导入HDFS？

日志数据在应用程序中一直很常见，Hadoop能够处理生产系统生成的大量日志数据，比如网络设备、操作系统、Web服务器和应用程序的日志数据。
weixin_34159110·2024-02-07 05:36

数据仓库-Hive基础（二）Hive 的基本概念

什么是HiveHive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供类SQL查询功能。
做个合格的大厂程序员·2024-02-07 03:42

form builder学习总结整理

目录目录fromsbuilder学习笔记总结：一formBuilder基础知识点（和必备知识）1.1formBuilder的基本对象和功能1.2form对象之间的层次关系1.3常用触发器1.3.1表单层次的触发器1.3.2数据块层次的触发器1.3.3项层次的触发器1.4plsql设置主键自增方式1.4.1创建序列（sequence）1.4.2创建触发器1.4.3添加信息数据自增二新建form实现增
loveforever__·2024-02-07 01:16

2.6学习总结

2.61.蓝桥公园2.路径3.打印路径4.【模板】FloydFloyd算法：是一种多源的最短路径算法，经过一次计算可以得到任意两个点之间的最短路径。这种算法是基于动态规划的思想：m[i][j]表示从i到j这条边的距离，dp[k][i][j]表示从i到j且经过{0,1,...,k-1}中若干点的最短路径。那么转移方程就就是dp[k][i][j]=min(dp[k−1][i][j],dp[k−1][i
啊这泪目了·2024-02-07 01:14

2.5学习总结

2.51.传纸条2.装箱问题3.开心的金明4.传球游戏5.修改数组6.对局匹配7.刷题统计传纸条https://www.luogu.com.cn/problem/P1006题目描述小渊和小轩是好朋友也是同班同学，他们在一起总有谈不完的话题。一次素质拓展活动中，班上同学安排坐成一个�m行�n列的矩阵，而小渊和小轩被安排在矩阵对角线的两端，因此，他们就无法直接交谈了。幸运的是，他们可以通过传纸条来进行
啊这泪目了·2024-02-07 01:42

Spark Chapter 8 Spark SQL

DB2，SQLServer在大数据平台上实现大数据计算：Hive/SparkSQL/SparkCore直接使用SQL语句进行大数据分析hive的问题：底层MR，2.x之后可以用spark应用场景SQLonHadoop
深海suke·2024-02-07 01:34

Hadoop集群（第10期副刊）_常用MySQL数据库命令

1、系统管理1.1连接MySQL格式：mysql-h主机地址-u用户名－p用户密码举例：例1：连接到本机上的MySQL。首先在打开DOS窗口，然后进入目录mysqlbin，再键入命令"mysql–uroot–p"，回车后提示你输密码，如果刚安装好MySQL，超级用户"root"是没有密码的，故直接回车即可进入到MySQL中了，MySQL的提示符是：mysql>。例2：连接到远程主机上的MYSQL。
阿布2·2024-02-07 00:08

2024-02-06（Sqoop）

1.SqoopApacheSqoop是Hadoop生态体系和RDBMS（关系型数据库）体系之间传递数据的一种工具。Sqoop工作机制是将导入或者导出命令翻译成MapReduce程序来实现。
陈xr·2024-02-06 23:29

学习总结（2024/2/6）

P2386放苹果题目描述把m个同样的苹果放在n个同样的盘子里，允许有的盘子空着不放，问共有多少种不同的分法。（5,1,15,1,1和1,1,51,1,5是同一种方法）输入格式第一行是测试数据的数目t，以下每行均包括二个整数m和n，以空格分开。输出格式对输入的每组数据m和n，用一行输出相应的结果。输入输出样例输入173输出8输入3324327输出242说明/提示对于所有数据，保证：1≤m,n≤10，
chilling heart·2024-02-06 23:10

2024/1/31学习总结

今日刷题自然数的拆分自然数的拆分问题题目描述任何一个大于$1$的自然数$n$，总可以拆分成若干个小于$n$的自然数之和。现在给你一个自然数$n$，要求你求出$n$的拆分成一些数字的和。每个拆分后的序列中的数字从小到大排序。然后你需要输出这些序列，其中字典序小的序列需要优先输出。输入格式输入：待拆分的自然数$n$。输出格式输出：若干数的加法式子。样例样例输入7样例输出1+1+1+1+1+1+11+1
chilling heart·2024-02-06 23:09

2022年5月4日学习总结

春蕾第三幼儿园李朋一、感悟随着孩子的成长，感觉总有一种判逆的心理，我越是不让他做的事，他总有去尝试的心理。并且事后的结果我总给予他两个字：活该。现在反过来想，当他听到我的话是什么样的心情呢？忽然心疼了起来。二、新知1.给孩子树立榜样，孩子是看着父母的行为在成长。做父母的必须做到2点：榜样到位，环境到位。2.不用武力解决问题，问题解决的速度越快那他发生的频率就会越高，我们要认真用心的对待孩子成长中的
春来_6001·2024-02-06 22:44

爬虫之xpath/BeautifulSoup/re 基础学习总结（一）

背景：小白，没有计算机基础，只学过python基础语法。大二，目前因为感兴趣所以先学着。开始学习爬虫，记录学习情况，这是我的第一篇文章，存在诸多不足，如果偶尔看见这篇文章，欢迎各位批评指正，也可以对我的学习给予一些建议。现在就是看成套的视频教程学习，过一段时间准备买崔庆才老师的《python3:网络爬虫开发实战》学习正文：1.首先是导入模块，三种都需要导入requests库：importreque
流动的白沙·2024-02-06 20:10

Bootstrap学习总结笔记（16）-- 基本插件之模态对话框

Bootstrap自带了很多JQuery插件，给用户做前端开发提供了很大的方便。对于每一个插件，有2种引用方式：一是单独引用，即使用Bootstrap的单独*.js文件，这种方式需要注意的是一些插件和CSS组件可能依赖其他插件，所以单独引用的时候，需要弄清楚这种包含关系一并引用；二是直接引用完整的bootstrap.js或者压缩版的bootstrap.min.js，需要注意的是不能同时引用这2个文
kikay·2024-02-06 19:01

java推荐算法_基于内容的推荐算法实现

javapackagecom.oracle.moviecf;importjava.io.IOException;importjava.util.ArrayList;importjava.util.List;importorg.apache.hadoop.conf.Configuration
RED韵·2024-02-06 19:54

Spark简介

Spark作为第二代大数据处理工具，跟hadoop对比，它是基于内存的，所以在迭代计算方便速度有了很大提升。我用到的主要是SparkCore,SparkSQL,SparkStreaming。
麦克阿瑟99·2024-02-06 18:07

区块链第4次学习总结----为什么区块链会分叉

前言:csdn论坛对博文内容审核严格，敏感词太多，导致博文往往被误判是违规而无法发布，所以已经很长时间没有更新博客了。但是学习和研究是一个长期的过程，坚持学习才能看到希望。这段时间疫情反复，大部分时间只能居家，想起战火纷飞的战争年代，前辈学者在那么艰苦的环境下都没有中断学术研究，依然坚持做学问搞科学，我辈岂能不效仿？疫情期间减少外出，正好可以利用这段时间写一些博客。另外，我计划录一些区块链视频放到
zsheep·2024-02-06 16:12

致IT领域那些忽悠过的概念

这里我要说的是：1：Hadoop是大数据解决方案之一，是个代名词，但是不是全部。2：除了少数公司，绝大多数（99.99%）的公
薛晓刚·2024-02-06 15:08

Hbase 数据迁移

Hbase数据迁移可选方案对比l已验证方案操作说明：nExport&importu导出命令及示例hbaseorg.apache.hadoop.hbase.mapreduce.Export“表名”文件路径导出至本地文件系统
运维那些事儿·2024-02-06 14:44

flink学习记录

flink-conf.yaml配置文件：jobmanager.rpc.address:hadoop1jobmanager.rpc.port:6123jobmanager.heap.size:512mtaskmanager.heap.size
戏 剧·2024-02-06 14:34

Hadoop 命令手册

翻译：http://hadoop.apache.org/docs/stable/hadoop-project-dist/hadoop-common/CommandsManual.html版本：2.9.0
金刚_30bf·2024-02-06 13:29

React+Antd+Axios学习总结

一.一些基本概念关于Node。Node.js是一个JavaScript的运行环境，可以让JavaScript运行在服务端。Node让JS也可以写网站后台程序，可以搭建WEB服务器。（上面是我胡说的我其实并不知道它是怎么回事。）关于ES6。ECMAScript6（以下简称ES6）是JavaScript语言的下一代标准。React默认把ES6做为首选标准，其写法可能同以往不太一样。let,const,
Java全栈研发大联盟·2024-02-06 11:40

热数据存储在HDFS，冷备数据存储于对象存储中

改方案均采用同一套Hadoop架构，使用hive均可以读取到，在降低成本的同时提高数据的利用率。2.准备条件c
tuoluzhe8521·2024-02-06 10:11

决胜大数据时代：Hadoop&Yarn&Spark企业级最佳实践（8天完整版脱产式培训版本）...

Hadoop、Yarn、Spark是企业构建生产环境下大数据中心的关键技术，也是大数据处理的核心技术，是每个云计算大数据工程师必修课。
weixin_30273931·2024-02-06 09:08

本周学习总结

一.把token设置到请求头中加一个httprequest拦截器通过window.localStorage.getItem("accessToken")来获取token的value通过config.headers.accessToken=token;将token放到请求头发送给服务器，放在请求头中//httprequest拦截器添加一个请求拦截器axios.interceptors.request
源刃·2024-02-06 08:07

linux安装hadoop详细步骤（伪分布式）

今天重装了下hadoop，特在此记录下！
红烧柯基·2024-02-06 08:28

Hadoop-Yarn-启动篇

一、源码下载下面是hadoop官方源码下载地址，我下载的是hadoop-3.2.4，那就一起来看下吧Indexof/dist/hadoop/core二、脚本部分1、start-yarn.sh如果我们想单独启动
隔着天花板看星星·2024-02-06 07:16

day2学习总结0613

01-运算符分为：算术运算符、比较运算符、赋值运算符、逻辑运算符1.1比较运算符：>、=、y:如果x大于y结果就是True，否则结果是False;print(10>5)x'avc')#字符串不是比较传递长度，是比较字符对于的Unicode值，从左到右开始.x>=y:如果x小于或者等于y结果就是True，否则结果是False;print(10=10)x==y:比较x和y是否相等，如果相等就是True
星星曦馨·2024-02-06 07:56

Mysql学习总结十四：触发器

Mysql学习总结十四：触发器1、触发器概述2、触发器的创建2.1创建触发器语法2.2代码举例3、查看、删除触发器3.1查看触发器3.2删除触发器1、触发器概述  在实际开发中,我们经常会遇到这样的情况
koping_wu·2024-02-06 07:36

2.5学习总结9

并查集知识点并查集是一种数据结构，用于处理一些不相交集合的合并及查询问题。它支持两种操作：Find(x)：查找元素x所属的集合。Union(x,y)：将元素x所属的集合和元素y所属的集合合并。初始化：将每个元素单独作为一个集合。intfather[10010];voidinit(intn){for(inti=1;iintfather[10010];voidinit(intn){for(inti=1
᭄Yoloꦿ᭄·2024-02-06 07:00

1.25学习总结1

图的遍历图的遍历图的基本概念由一些小圆点（顶点）和连接这些小圆点的线（边）组成的。通常表示为：G(V,E)，其中，G表示一个图，V是图G中顶点的集合，E是图G中边的集合。通常，我们把点与点之间不带箭头的线叫做边，带箭头的线叫做弧。如图，点（1，2，3，4，5)和边（1-2，1-3，1-5，2-4，3-5）组成图无向图如果一个图是由点和边所构成的，称为无向图，记作G=(V,E)，其中V表示无向图G的
᭄Yoloꦿ᭄·2024-02-06 07:29

1.28学习总结3

排序交换排序冒泡排序基本思想通过不断比较相邻的元素，如果「左边的元素」大于「右边的元素」，则进行「交换」，直到所有相邻元素都保持升序，则算法结束。（升序）原理如果对n个数进行排序，则要进行n-1趟比较。在第1趟比较中要进行n-1次两两比较，在第j趟比较中要进行n-1次两两比较。（每一趟只能确定一个数归位）以1，4，6，2，8，7，3，5为例以5，8，7，6，3，2为例代码#includeintma
᭄Yoloꦿ᭄·2024-02-06 07:29

1.29学习总结4

P1190接水问题题目描述学校里有一个水房，水房里一共装有m个龙头可供同学们打开水，每个龙头每秒钟的供水量相等，均为1。现在有n名同学准备接水，他们的初始接水顺序已经确定。将这些同学按接水顺序从1到n编号，i号同学的接水量为wi。接水开始时，1到m号同学各占一个水龙头，并同时打开水龙头接水。当其中某名同学j完成其接水量要求wj后，下一名排队等候接水的同学k马上接替j同学的位置开始接水。这个换人的过
᭄Yoloꦿ᭄·2024-02-06 07:29

2.2学习总结8

0-1背包问题0-1背包问题是一个经典的组合优化问题，其问题描述为：有一组物品，每个物品有重量和价值两个属性。现在有一个背包，它能承受的最大重量为W。要求在不超过背包承重的情况下，选择一些物品装入背包，使得装入的物品总价值最大。该问题的特点是每个物品只有选或不选两种情况，即0-1选择，不能选择部分物品装入。解决该问题的常用方法是使用动态规划。二维数组定义一个二维数组dp[][]，其中dp[i][j
᭄Yoloꦿ᭄·2024-02-06 07:29

2.1学习总结7

队列1、队列的基本概念队列是一种在计算机科学中常见的抽象数据类型，是只允许在一端进行插入操作，而在另一端进行删除操作的线性表。队列是一种先进先出（FirstInFirstOut）的线性表，简称FIFO。允许插入的一端称为队尾（Rear），允许删除的一端称为队头（Front）。1.1、队列的特点元素按照加入队列的顺序排列，最先加入的元素最先被访问和移除。只能在队列的一端（称为队尾）添加新元素，而只能
᭄Yoloꦿ᭄·2024-02-06 07:27

ElasticSearch学习总结（二）：ES介绍与架构说明

本文主要从概念以及架构层面对Elasticsearch做一个简单的介绍，在介绍ES之前，会先对ES的“发动机”Lucene做一个简单的介绍1.Lucene介绍为了更深入地理解ElasticSearch的工作原理，特别是索引和查询这两个过程，理解Lucene的工作原理至关重要。本质上，ElasticSearch是用Lucene来实现索引的查询功能的。1.1定义Lucene是一个成熟的、高性能的、可扩
额 无语·2024-02-06 07:23

想学大数据？先看完这几本书再说

除了这些技术领域，还有一些特定的技术和语言需要你继续研究：Hadoop，Spark，Python，和R等等，还有无数实现自动化的工具等等，这些工具几乎每天都会用到，这就需要你不断的学习。
yoku酱·2024-02-06 06:55

CentOS 8 安装配置 Hadoop3.3.6 伪分布式安装方式（适用于开发和调试）

1.配置服务器ssh免密登录，否则后面启动会报错：尝试通过SSH连接到主机出现认证错误的提示配置服务器ssh免密登录：1.生成SSH密钥对（如果尚未生成）：执行下面的命令生成密钥对，一直回车即可ssh-keygen-trsa出现下面的提示说明生成成功了：2.第二步，将公钥添加到~/.ssh/authorized_keys文件：cat~/.ssh/id_rsa.pub>>~/.ssh/authori
鱼大虾·2024-02-06 05:39

HDFS入门基础

HDFS命令基础语法：【hadoopfs具体命令、hdfsdfs具体命令】两个是完全相同的。显示文件列表#hdfsdfs-lsURL创建目录#hdfsdfs-mkdir[-p]URL使用-p参数可以
nucty·2024-02-06 05:33

电商推荐系统

一、获取用户对商品的偏好值代码实现packagezb.grms;importorg.apache.hadoop.conf.Configuration;importorg.apache.hadoop.conf.Configured
nucty·2024-02-06 05:31

Apache Hadoop

ApacheHadoop_狭义上说，Hadoop指Apache一款java语言开发的开源框架，它的核心组件有：HDFS（分布式文件系统）：解决海量数据存储YARN（作业调度和集群资源管理的框架）：解决资源任务调度
VincentLeon·2024-02-06 05:28

2022-11-05

想着还要让学生交一周学习总结，又开始在网上督促
扬扬时光·2024-02-06 03:20

Centos7.5+Ambari2.7.3+HDP3.1.0.0离线安装

Centos7.5+Ambari2.7.3+HDP3.1.0.0离线安装1简介Ambari跟Hadoop等开源软件一样，也是ApacheSoftwareFoundation中的一个项目，并且是顶级项目。
WaiSaa·2024-02-06 02:53

关于Spark/Hadoop中Master/Slave IP不正确的问题

在配置SparkStandAloneMode的时候，我遇到了Slave无法向正确的MasterIP发送数据的问题。通常这类问题都来源于没有正确配置./conf/spark_env.sh文件，只要在这个文件里定义好了SPARK_LOCAL_IP和SPARK_MASTER_HOST，就可以解决这个问题。而我设置了configure文件之后问题依然存在。原因在于MasterNode上有多个网卡，每个网卡
ecce·2024-02-06 02:37

hbase基本命令

1、进入hbase的shellhbase提供了一个shell的终端给用户交互[root@hadoop3conf]#hbaseshell退出使用quit或者ctrl+c需要关闭hadoop的安全模式不然进行一些操作
小月半会飞·2024-02-06 01:52

shell中正则表达式

[atguigu@hadoop101shells]$cat/etc/passwd|grepatguigu1.常用特殊字符^$.*[]\^：匹配一行的开头$：匹配一行的结束.
看山不是山a·2024-02-05 23:07
上一页 7 8 9 10 11 12 13 14 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他