Hadoop学习记录

Zookeeper原理架构

首先，Zookeeper是Apache的一个java项目，属于Hadoop系统，扮演管理员的角色。然后看到官网那些专有名词，实在理解不了。
白纸糊·2024-02-09 17:53

分布式springboot 3项目集成mybatis官方生成器开发记录

文章目录说明实现思路实现步骤第一步：创建generator子模块第二步：引入相关maven插件和依赖第三步：编写生成器配置文件第四步：运行·查看结果说明该文章为作者开发学习记录，方便以后复习和交流主要内容为
缘友一世·2024-02-09 14:57

大数据Hadoop生态圈技术之浅析PageRank计算原理

二、计算环境——Hadoop-2.5.2——四台主机——两台NN的HA——两台RM的HA——离线计算框架MapReduce三、计算原理（1）思考
A尚学堂Nancy老师·2024-02-09 10:23

2021.12.27｜学习记录094｜婉拒小招：先肯定，后否定。

WelcometoFirry'slearninglog.Thisisthe_94thdayofmyrecord.——————————欢迎来每日外语朗读小组打卡哦！指路→灯塔打卡→公开小组→外语每日朗读隐私友好，形式多样，21天点亮一座灯塔，记录点滴进步，监督持续练习————————————————➽今日小记➽✍婉拒小招来自马未都。天太冷了吧，其实我很喜欢阴天的，只是我没有时间出去玩！昨天吃得很多，
SciPsyLearning·2024-02-09 08:04

macos安装local模式spark

文章目录配置说明安装hadoop安装Spark测试安装成功配置说明Scala-3.18+Spark-3.5.0Hadoop-3.3.6安装hadoop从这里下载相应版本的hadoop下载后解压，配置系统环境变量
SparklingTheo·2024-02-09 08:52

OD课程学习记录-华为人才管理之道

华为对待人才：1、从战略高度上对待人才将人才管理视为企业的核心竞争力，在人才管理和干部管理方面不断精进，管理理念深入人心，组织执行力强;2、用逻辑严密的流程体系来管理人才用人标准、人才招募、人才使用、人才激励等环环相扣、互相约束，整体架构清晰，系统性强;3、人才策略和管理实践持续迭代基于业务的发展来运作人才管理体系，做法非常灵活且实用。招聘？校招质量每年都降低，那么久增加要求，专科变本科，变211
王佳_72ac·2024-02-09 07:57

SQL条件判断语句嵌套window子句的应用【易错点】--HiveSql面试题25

目录0需求分析1数据准备3数据分析4小结0需求分析需求：表如下user_idgood_namegoods_typerk1hadoop1011hive1221sqoop2631hbase1041spark1351flink2661kafka1471oozie108
莫叫石榴姐·2024-02-09 06:00

HiveSQL——条件判断语句嵌套windows子句的应用

0需求分析需求：表如下user_idgood_namegoods_typerk1hadoop1011hive1221sqoop2631hbase1041spark1351flink2661kafka1471oozie108
爱吃辣条byte·2024-02-09 06:58

项目学习记录

项目开发创建项目环境配置关联git新增模块项目启动打印地址日志使用httpclient进行idea内部控制台测试使用AOP拦截器打印日志创建项目创建一个空项目，并勾选下面选项然后进入pom.xml中修改项目配置根据这个链接选则，修改项目的支持版本链接：https://github.com/alibaba/spring-cloud-alibaba/wiki/%E7%89%88%E6%9C%AC%E8
自学cs的小菜鸡·2024-02-09 06:48

大数据 - Spark系列《五》- Spark常用算子

Spark系列文章：大数据-Spark系列《一》-从Hadoop到Spark：大数据计算引擎的演进-CSDN博客大数据-Spark系列《二》-关于Spark在Idea中的一些常用配置-CSDN博客大数据
王哪跑nn·2024-02-09 05:25

漏洞扫描学习记录

学习《计算机网络安全》这本书的一些记录（二）漏洞扫描1.网络漏洞扫描的三个阶段（1）寻找目标主机或网络。（2）进一步搜集目标信息，包括OS类型、运行的服务以及服务软件的版本等。（3）判断或进一步检测系统是否存在安全漏洞。2.漏洞扫描的两种策略（1）被动式策略。被动式策略就是基于主机，对系统中不合适的设置、脆弱的口令以及其他与安全规则抵触的对象进行检查，又称为系统安全扫描。（2）主动式策略。主动式策
Chenun_·2024-02-09 04:24

spark原理总体介绍

部署图image.png从部署图中可以看到整个集群分为Master节点和Worker节点，相当于Hadoop的Master和Slave节点。
tracy_668·2024-02-09 03:48

FreeRTOS笔记——链表数据结构

FreeRTOS链表实现0概述1关键结构体1.1链表基础知识1.2链表数据结构1.3链表操作0概述部分内容参考野火的FreeRTOS相关开发资料，在此做一个学习记录总结。
蔡大侠·2024-02-09 00:07

Zookeeper集群搭建（3台）

准备工作1、提前安装好hadoop102、hadoop103、hadoop104三台机器，参照：CentOS7集群环境搭建（3台）-CSDN博客2、提前下载好Zookeeper安装包并上传到/opt/software
在下区区俗物·2024-02-08 21:35

Hadoop集群所有进程查看脚本

/bin/bashforiinhadoop102hadoop103hadoop104doecho---------$i----------ssh$i"$*"done2、赋予文件运行权限chmod+xxcall.sh3
在下区区俗物·2024-02-08 21:04

6／28／2019蓓蓓的小草 学习记录

清晨睁眼时，阳光透过窗帘的缝隙挤进来，它告诉我今天是个好天气。午间，照常放着CNR中国之声的广播。只是最近伊朗和美国的矛盾被频频报出。双方互不相让，美方还要继续对其制裁。再者，美国总统一直对中国施加压力，提高关税。然而这却适得其反，美国很多企业已经与中国建立了良好的外贸关系。他们称，在全球再找一个替代中国的稳定供应商很难。可以说做不到。中国自古以来秉承着“以和为贵”的理念。国家大事，系在心头。也许
是北河二1995·2024-02-08 21:50

Unity类银河恶魔城学习记录4-8 P61 Player‘s Counter Attack源代码

Alex教程每一P的教程原代码加上我自己的理解初步理解写的注释，可供学习Alex教程的人参考此代码仅为较上一P有所改变的代码【Unity教程】从0编程制作类银河恶魔城游戏_哔哩哔哩_bilibiliPlayer.csusingSystem.Collections;usingSystem.Collections.Generic;usingUnity.VisualScripting;usingUnit
SuKacZev·2024-02-08 21:20

Unity类银河恶魔城学习记录5-1.5-2 P62-63 Creating Player Manager and Skill Manager源代码

Alex教程每一P的教程原代码加上我自己的理解初步理解写的注释，可供学习Alex教程的人参考此代码仅为较上一P有所改变的代码【Unity教程】从0编程制作类银河恶魔城游戏_哔哩哔哩_bilibiliPlayerManager.csusingSystem.Collections;usingSystem.Collections.Generic;usingUnity.VisualScripting;us
SuKacZev·2024-02-08 21:20

Unity类银河恶魔城学习记录4-7 P60 Counter‘s attack window 源代码

Alex教程每一P的教程原代码加上我自己的理解初步理解写的注释，可供学习Alex教程的人参考此代码仅为较上一P有所改变的代码【Unity教程】从0编程制作类银河恶魔城游戏_哔哩哔哩_bilibiliEnemy.csusingSystem.Collections;usingSystem.Collections.Generic;usingUnity.VisualScripting;usingUnity
SuKacZev·2024-02-08 21:50

中科大计网学习记录笔记（七）：Web and HTTP

前言：学习视频：中科大郑烇、杨坚全套《计算机网络（自顶向下方法第7版，JamesF.Kurose，KeithW.Ross）》课程该视频是B站非常著名的计网学习视频，但相信很多朋友和我一样在听完前面的部分发现信息量过大，有太多无法理解的地方，在我第一次点开的时候也有相同的感受，但经过了一段时间项目的学习，对计网有了更多的了解，所以我准备在这次学习的时候做一些记录并且加入一些我的理解，希望能够帮助到大
*Soo_Young*·2024-02-08 20:13

Flask学习记录：表单

1.使用Flask-WTF处理表单1.1定义WTForms表单类一个表单由若干个输入字段组成，这些字段分别用类表单的类属性来表示（字段即Field，可以简单理解为表单内的输入框、按钮等部件）。fromwtformsimportForm,StringField,PasswordField,BooleanField,SubmitFieldfromwtforms.validatorsimportData
Barcelooooooooona·2024-02-08 20:03

2019.2.7——学习记录《一万小时天才理论（1）》

精深练习的意思是朝着既定目标，犯错并改正，不断练习。精深练习有个特别的地方，那就是很重视犯错。因为我们的目的是要构建一个正确的神经回路，在这个过程中，最好的方法就是去实践，犯错，调整，再犯错，再调整，最终让回路达到最佳状态。
三京伴夜·2024-02-08 20:56

并发编程中一种经典的分而治之的思想！！

有点像Hadoop中的MapReduce。ForkJoin是由JDK1.7之后提供的多线程并发处理框架。ForkJoin框架的基本思想是分而治之。什么是分而治之？
冰河团队·2024-02-08 19:06

k8s学习之路 | Day14 有关 k8s 弃用 Docker

文章目录DockerEngine架构容器运行时containerdk8s中的kubelet架构为何放弃使用DockerEngine一直想搞清楚关于“k8s弃用docker这件事情”，所以才有了这篇学习记录官方有关这类话题的文章链接
小鲸鱼大梦想·2024-02-08 19:00

docker load -i 导入后 看不到镜像

dockerload-i导入后看不到镜像[root@centos8~]#dockerimagesREPOSITORYTAGIMAGEIDCREATEDSIZEcsctbb.com/hadoop3.3.0084faab5baec7hoursago1.68GBcentos8.1.1911470671670cac14monthsago237MBkubeguide
吕楚王·2024-02-08 19:29

大数据从何学起？大数据脑图+学习路线清晰的告诉你！

【大数据开发学习资料领取方式】：加入大数据技术学习交流扣扣群458345782，点击加入群聊，私信管理员即可免费领取第一阶段linux+搜索+hadoop体系Linux基础→sh
yoku酱·2024-02-08 18:16

Hadoop深度运维：Apache集群原地升级Ambari-HDP

作者介绍冯武，目前在瓜子从事大数据集群运维管理，主要负责Hadoop、Ansible、Ambari、ClouderaManager等技术栈的维护调优工作。
Summer_1981·2024-02-08 18:42

7.0 MapReduce编程实例教程

注意：MapReduce依赖Hadoop的库，但由于本教程使用的Hadoop运行环境
二当家的素材网·2024-02-08 18:11

2024/2/6学习记录

ts因为已经学习过了js，下面的都是挑了一些ts与js不同的地方来记录。安装npminstall-gtypescript安装好之后，可以看看自己的版本ts基础语法模块函数变量语法和表达式注释编译ts文件需要用tscxxx.ts，js文件是用node去编译ts是一个面向对象的编程语言ts的数据类型number双精度64位浮点数，可以用来表示整数和分数string字符串boolean布尔类型数组类型元
lxh0113·2024-02-08 17:59

Zookeeper的详细介绍及使用场景

Zookeeper是什么Zookeeper分布式服务框架是ApacheHadoop的一个子项目，它主要是用来解决分布式应用中经常遇到的一些数据管理问题，如：统一命名服务、状态同步服务、集群管理、分布式应用配置项的管理等
Zal哥哥·2024-02-08 15:11

深入理解Spark的前世今生

Spark，是一种通用的大数据计算框架，正如传统大数据技术Hadoop的MapReduce、Hive引擎，以及Storm流式实时计算引擎等。
闲云野鹤~~~·2024-02-08 14:01

配置集群时间同步

配置集群时间同步:1.时间服务器配置(必须root用户)检查ntp是否安装[root@hadoop102桌面]#rpm-qa|grepntpntp-4.2.6p5-10.el6.centos.x86_64fontpackages-filesystem
sixleaves·2024-02-08 14:49

arcgis地理空间数据库学习记录02-地理数据库迁移

二、地理数据库迁移2.1数据量不是很多的情况下直接通过ArcMap导出到本地，之后再导入到新库2.2数据量较多的情况下对于Oracle数据库，可以使用oracle的数据泵工具进行地理数据库的迁移。以oracle11g迁移至12c为例1.sde用户登录，执行语句①sqlplussde/[email protected]/orcl②createorreplacedirectorysde_dumpas‘
炒菜不加盐·2024-02-08 13:40

arcgis地理空间数据库学习记录01-复制地理数据库

最近梳理了一下arcgis的地理数据库，个人一直觉得arcgis的地理空间数据库是一个非常厉害的技术，但是除非大一些的企事业单位，用的人不多，一方面是数据量可能不是很多，另一方面是熟悉的人很少，需要相应的技术人员进行维护。准备花几篇博客记录一下。一、复制地理数据库目前一共提供了四种复制地理数据库的方式，分别是使用“复制”工具、使用地理数据库XML工作空间复制、使用“提取数据向导”和“导出”工具1.
炒菜不加盐·2024-02-08 13:09

MySQL学习记录——오 数据类型

文章目录1、了解2、tinyint3、bit4、float5、decimal6、char7、varchar8、日期、时间9、enum、set1、了解数据类型由mysql内部定义。如果直接写tinyint，bigint这样的，默认是有符号的，取值范围同C定义的那样。2、tinyint创建一个数据库和简单的表。插入几个值这里就能够看出，tinyint范围是-128-127。再看一个无符号的只要超出范围
咬光空气·2024-02-08 13:03

SQL在云计算中的新角色：重新定义数据分析

文章目录1.云计算与数据分析的融合2.SQL在云计算中的新角色3.分布式SQL查询引擎4.SQL-on-Hadoop解决方案5.SQL与其他数据分析工具的集成6.实时数据分析与SQL7.SQL在云数据仓库中的角色
程序边界·2024-02-08 13:01

MySQL学习记录——유 表的约束

文章目录1、了解2、空属性3、默认值default4、列描述comment就是注释，desc看不到，show能看到。5、zerofill6、主键7、自增长auto_increment8、唯一键9、外键1、了解只有数据类型的约束肯定不够，mysql还有表的约束来进而保证数据合法性。约束是通过技术手段倒逼程序员插入正确数据，凡是能插进mysql的数据，都是符合数据约束的。约束能够保证数据的完整性和可预
咬光空气·2024-02-08 13:31

No.2大数据入门 | 环境搭建：jdk1.8安装及环境配置

上一篇文章我们安装了虚拟机以及linux操作系统，接下来就要安装在操作系统上运作的大数据核心hadoop分布式系统基础架构！
滚滚红尘_8133·2024-02-08 11:43

Hadoop多次格式化后如何解决

产生原因我们在配置hadoop中的hdfs时，会设置元数据的存储位置，如图所示要想解决此问题，先停止所有启动的服务stop-all.sh然后删除上图画出来的配置文件，这里三台机器都要删，最后进入hadoop
(((φ(◎ロ◎;)φ)))牵丝戏安·2024-02-08 11:50

CentOS 7搭建Hadoop伪分布模式

配置文件：链接：https://pan.baidu.com/s/1rYvnxbyqXOG1DjI63dxbAw提取码：6e1l复制这段内容后打开百度网盘手机App，操作更方便哦1.1修改IP地址在虚拟机的命令行中输入下面的命令，修改网卡的配置文件vi/etc/sysconfig/network-scripts/ifcfg-ens33配置以下信息TYPE=Ethernet#类型为以太网BOOTPRO
clevercondy·2024-02-08 09:52

2018-07-14

复制/etc/skel目录为/home/tuser1改权限2、编辑/etc/group文件，添加组hadoop。
啊鑫007·2024-02-08 08:56

Hadoop生态漏洞修复记录

Hadoop常用端口介绍HDFSNameNode50070dfs.namenode.http-addresshttp服务的端口50470dfs.namenode.https-addresshttps服务的端口
不会吐丝的蜘蛛侠。·2024-02-08 08:30

Hadoop2.7配置

core-site.xmlfs.defaultFShdfs://bigdata/ha.zookeeper.quorum192.168.56.70:2181,192.168.56.71:2181,192.168.56.72:2181-->hadoop.tmp.dir
不会吐丝的蜘蛛侠。·2024-02-08 08:59

hive2.3.2配置(带kerberos)

hive-env.shexportHADOOP_HEAPSIZE=2048exportHADOOP_CLIENT_OPTS="-Xmx2g-Xms2g-Djava.net.preferIPv4Stack
不会吐丝的蜘蛛侠。·2024-02-08 08:59

高性能hbase配置

hbase-env.shexportHADOOP_HOME=/export/hadoopexportHADOOP_CONF_DIR=/export/common/hadoop/confexportJAVA_HOME
不会吐丝的蜘蛛侠。·2024-02-08 08:59

HDFS执行balance报错：hdfs balance java.io.IOException: Another Balancer is running.. Exiting

现象：1、大数据Hadoop集群，HDFS扩容后，为了使各节点数据均衡，执行balance操作。2、启动hdfsbalance时，一直出现其他的balance在执行中，其实并没有执行。
不会吐丝的蜘蛛侠。·2024-02-08 08:29

大数据问题：Hadoop的web页面无法访问logs

HTTPERROR403Problemaccessing/logs/.Reason:Useryarnisunauthorizedtoaccessthispage.PoweredbyJetty://分析：1、有的说是权限问题，但是并没有用yarn用户启动Hadoop
不会吐丝的蜘蛛侠。·2024-02-08 08:28

hadoop调优-hdfs配置优化

dfs.permissions.enabledtruedfs.namenode.handler.count90dfs.ha.automatic-failover.enabledtrue其它优化：dfs.hosts/export/hadoop
不会吐丝的蜘蛛侠。·2024-02-08 08:28

spark运行失败The directory item limit of /spark_dir/spark_eventLogs is exceeded: limit=1048576 items=104

报错：org.apache.hadoop.ipc.RemoteException(org.apache.hadoop.hdfs.protocol.FSLimitException$MaxDirectoryItemsExceededException
不会吐丝的蜘蛛侠。·2024-02-08 08:58

grafana+prometheus+hiveserver2(jmx_exporter+metrics)

文件开启metricshive.server2.metrics.enabledtruehive.service.metrics.codahale.reporter.classesorg.apache.hadoop.hive.common.metrics.metrics2
不会吐丝的蜘蛛侠。·2024-02-08 08:24
上一页 6 7 8 9 10 11 12 13 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他