大数据——hadoop

大数据Zookeeper--集群操作

文章目录集群操作集群安装选举机制（面试重点）Zookeeper选举机制——第一次启动Zookeeper选举机制——非第一次启动ZK集群启动停止脚本客户端命令行操作命令行语法znode节点数据信息节点类型（持久/短暂/有序号/无序号）监听器原理节点删除和查看客户端API操作IDEA环境搭建创建Zookeeper客户端创建子节点获取子节点并监听节点变化判断Znode是否存在客户端向服务端写数据流程写流
泛黄的咖啡店·2024-02-04 11:15

大数据Hive--安装和配置

文章目录一、Hive的安装地址1.1Hive安装部署1.1.1安装Hive1.1.2启动Hive二、MySQL的安装地址2.1安装MySQL2.2配置MySQL2.3卸载MySQL三、配置Hive元数据存储到MySQL3.1配置Hive元数据存储到MySQL3.2验证元数据是否配置成功3.3查看MySQL中的元数据四、Hive服务部署4.1hiveserver2服务4.2metastore服务五、
泛黄的咖啡店·2024-02-04 11:44

大数据Hive--函数

文章目录一、函数1.1函数简介1.2单行函数1.2.1算术运算函数1.2.2数值函数1.2.3字符串函数1.2.4日期函数1.2.5流程控制函数1.2.6集合函数1.2.7案列演示1.2.7.1数据准备1.2.7.2需求1.3高级聚合函数1.3.1案例演示1.4炸裂函数1.4.1概述1.4.2案例演示1.4.2.1数据准备1.4.2.2需求1.5窗口函数（开窗函数）1.5.1概述1.5.2常用窗口
泛黄的咖啡店·2024-02-04 11:44

大数据Hive--DDL(数据定义)和DML(数据操作)

文章目录一、DDL1、数据库1.1创建数据库1.2查询数据库1.3修改数据库1.4删除数据库1.5切换当前数据库2、表2.1创建表1）普通建表2）CreateTableAsSelect（CTAS）建表3）CreateTableLike语法2.2案例1）内部表与外部表2）SERDE和复杂数据类型2.3查看表2.4修改表2.5删除表2.6清空表二、DML1.1Load1.2Insert1.2.1将查询
泛黄的咖啡店·2024-02-04 11:43

大数据Zookeeper--入门

文章目录Zookeeper入门概述Zookeeper工作机制特点数据结构应用场景Zookeeper下载地址Zookeeper本地安装本地模式安装安装前准备配置修改配置参数解读Zookeeper入门概述Zookeeper是一个开源的分布式的，为分布式框架提供协调服务的Apache项目。Zookeeper=文件系统+通知机制Zookeeper工作机制Zookeeper从设计模式角度来理解：是一个基于观
泛黄的咖啡店·2024-02-04 11:11

大数据入门-大数据技术概述(二)

目录大数据入门系列文章1.大数据入门-大数据是什么2.大数据入门-大数据技术概述(一)一、简介二、技术详解1.分布式协调服务：Zookeeper2.分布式资源管理器：Yarn3.计算引擎：Spark4.
水坚石青·2024-02-04 11:11

大数据入门--zookeeper（一）--集群搭建与常用指令

Zookeeper单机搭建下载官方安装包#解压tar-zxvfzookeeper-3.4.5.tar.gz-C/opt/module/#配置zoo.conf，只需要将conf/zoo_sample.conf重命名为zoo.conf即可mvconf/zoo_sample.cfgconf/zoo.cfg#启动bin/zkServer.shstart#查询状态bin/zkServer.shstatus#
许中宝·2024-02-04 11:40

Hbase2.1 集群搭建

>Hbase在大数据的体系中扮演着DB角色，不得不说是重要的一员，在上一篇，大猪已经给大家演示了[Hadoop3.2集群搭建](https://www.jianshu.com/p/3182aaff918d
kikiki4·2024-02-04 11:08

Ranger-Yarn插件安装

登陆hdfs安装的用户，garrison/zdh1234(用户组hadoop),获取安装包解压安装scp/home/backup/ranger/ranger-0.6.0-yarn-plugin.tar.gz.tar–zxvfr
木木与呆呆·2024-02-04 10:22

吴恩达：改善深层神经网络：超参数调试、正则化以及优化(Improving Deep Neural Networks:Hyperparameter tuning, Regularizatio)

@[toc]1.1训练、开发、测试集trainset训练集Devset验证集testset测试集小规模数据：训练集：其他=7:3大数据时代（超百万数据）：训练集占80%或者90%以上验证集和测试集来自同一分布如果只有训练集和验证集
Cache_wood·2024-02-04 10:48

智慧水务（水厂）大数据平台，打造水务运营管理驾驶舱

以物联感知技术、大数据、智能控制、云计算、人工智能、数字孪生、AI算法、虚拟现实技术为核心，以监测仪表、通讯网络、数据库系统、数据中台、模型软件、前台展示、智慧运维等产
郭靖守襄阳【软芯民用】·2024-02-04 09:52

Hadoop详解

架构设计NameNodeNameNode：文件系统的命名空间(面试题)1.文件名称2.文件目录结构3.文件的属性(权限创建时间副本数)4.文件对应哪些数据块-->数据块对应哪些分布在哪些DN节点上列表不会持久化存储这个映射关系，是通过集群的启动和运行时，DataNode定期发送blockReport给NameNode，以此NameNode在【内存】中动态维护这种映射关系。作用：管理文件系统的命名空
ly稻草·2024-02-04 09:34

大数据领域的数据仓库

在大数据领域，数据仓库（DataWarehouse）是一个用于存储、管理和分析大量数据的集中式系统。
薛定谔的zhu·2024-02-04 09:43

题记(39)--约数个数(大数据情况)

目录一、题目内容二、输入描述三、输出描述四、输入输出示例五、完整C语言代码一、题目内容输入n个整数,依次输出每个数的约数的个数二、输入描述输入的第一行为N，即数组的个数(N#includeintmain(){intN;while(scanf("%d",&N)!=EOF){int*a=(int*)malloc(N*sizeof(int));for(inti=0;i
INT小蔡·2024-02-04 09:08

Hadoop3.x基础（3）- Yarn

来源：B站尚硅谷目录Yarn资源调度器Yarn基础架构Yarn工作机制作业提交全过程Yarn调度器和调度算法先进先出调度器（FIFO）容量调度器（CapacityScheduler）公平调度器（FairScheduler）Yarn常用命令yarnapplication查看任务yarnlogs查看日志yarnapplicationattempt查看尝试运行的任务yarncontainer查看容器ya
魅美·2024-02-04 09:36

转载-58同城离线计算平台设计与实践

58同城离线计算平台设计与实践编者荐语：58离线计算平台基于Hadoop生态体系打造，单集群4000+台服务器，数百PB存储，日40万计算任务，面临挑战极大。
无色的叶·2024-02-04 09:14

消息队列服务Kafka揭秘：痛点、优势以及适用场景

摘要：消息队列Kafka是一个分布式的、高吞吐量、高可扩展性消息队列服务，广泛用于日志收集、监控数据聚合、流式数据处理、在线和离线分析等，是大数据生态中不可或缺的产品之一，阿里云提供全托管服务，用户无需部署运维
云栖社区v·2024-02-04 08:01

IT行业有哪些证书含金量高？

IT行业涵盖了广泛的领域，包括软件开发、网络管理、数据库管理、信息安全、云计算、人工智能、大数据分析等多个方面。
番茄不是西红柿1·2024-02-04 08:56

完结，从零开始学python（十八）想成为一名APP逆向工程师，需要掌握那些技术点？

我们来简单的回顾一下内容1.编程语法语法编程并发编程网络编程多线程/多进程/协程数据库编程MySQLRedisMongoDB2.机器学习3.全栈开发4.数据分析Numpy+pandas+MatplotlibHadoopSpark5
爬完虫变成龙·2024-02-04 07:52

文心一言APP上线数字分身功能；王仲远加入智源研究院任院长；商汤科技发布新版日日新·商量大语言模型丨每日大事件...

‍大数据产业创新服务媒体——聚焦数据·改变商业企业动态Meta将于今年在数据中心部署新版本的内部定制AI芯片2月2日消息，Meta将于2024年部署新款自研的定制款芯片到旗下数据中心，以支持人工智能。
数据猿·2024-02-04 07:13

隐私计算行业要步入寒冬？还可以再抢救一下！

大数据产业创新服务媒体——聚焦数据·改变商业在前两年，隐私计算这个细分领域可谓数据安全行业的明星选手，得到很多的关注，并被赋予很大的期待。
数据猿·2024-02-04 07:43

Hive 主要内容一览

Hadoop使用HDFS进行存储，使
大数据左右手·2024-02-04 07:13

【大数据面试题】001 Flink 的 Checkpoint 原理

一步一个脚印，一天一道大数据面试题。Flink是大数据实时处理计算框架。实时框架对检查点，错误恢复的功能要比离线的更复杂，所以一起来了解Flink的Checkpoint机制吧。
Jiweilai1·2024-02-04 07:13

中国大学生计算机设计大赛与大数据应用主题赛

中国大学生计算机设计大赛与大数据应用主题赛中国大学生计算机设计大赛（简称“大赛”或4C）始筹于2007年，首届于2008年，已经举办了16届80场赛事。
泰迪智能科技·2024-02-04 06:41

镜舟科技客户成功团队负责人孟庆欢：湖仓一体将成为数据架构的新范式

大数据产业创新服务媒体——聚焦数据·改变商业随着数字化的概念逐步深入不同领域企业的运营中，业务形态和数字化路径也越来越丰富。这也为企业数据处理、储存的方式提出了更多要求。
数据猿·2024-02-04 06:40

深度学习和大数据技术的进步在自然语言处理领域的应用

文章目录每日一句正能量前言一、深度学习在NLP中的应用二、大数据技术在NLP中的应用三、深度学习和大数据技术的影响四、应用场景后记每日一句正能量努力学习，勤奋工作，让青春更加光彩。
想你依然心痛·2024-02-04 06:41

子雨大数据之Spark入门教程---Spark入门：RDD的设计与运行原理1.3

Spark的核心是建立在统一的抽象RDD之上，使得Spark的各个组件可以无缝进行集成，在同一个应用程序中完成大数据计算任务。
千寻～·2024-02-04 06:38

大数据本地环境搭建03-Spark搭建

需要提前部署好Zookeeper/Hadoop/Hive环境1Local模式1.1上传压缩包下载链接链接：https://pan.baidu.com/s/1rLq39ddxh7np7JKiuRAhDA?
OnePandas·2024-02-04 06:31

redis(基础)

目录一、十大数据类型(一)、redis键(keys)(二)、String1、setkeyvalue2、getrange/setrange(获取指定区间内的值)3、数值增减4、获取字符串长度、字符串追加5
一+一加1·2024-02-04 06:25

大学网课怎么搜题答案？ #其他#职场发展

大学生必备，这条笔记大数据一定定要推给刚上大学的学弟学妹！！
复古蛋卷·2024-02-04 06:53

MySQL调优

优化类型大概分类三个类型结构/架构优化：读写分离、集群热备、分布式架构、引入缓存/消息/搜索中间件、分库分表、中台架构（大数据中台、基础设施中台）等配置/参数优化：调整应用系统中各层面的配置文件、启动参数达到优化性能的目标代码
whiteBrocade·2024-02-04 06:48

Hadoop大数据实战系列文章之Hive

hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供完整的sql查询功能，Hive定义了简单的类SQL查询语言，称为HQL，它允许熟悉SQL的用户查询数据可以将
测试帮日记·2024-02-04 05:45

spark运维问题记录

环境：spark-2.1.0-bin-hadoop2.71.Spark启动警告：neitherspark.yarn.jarsnotspark.yarn.archiveisset，fallingbacktouploadinglibrariesunderSPARK_HOME
lishengping_max·2024-02-04 05:11

解决“Spark context stopped while waiting for backend“ issue

在配置为4C16G的虚拟机上安装hadoop生态全家桶，在安装Spark2，使用了社区版2.3的版本。
江畔独步·2024-02-04 05:10

基于Python的徐州市天气信息可视化分析系统的设计与实现+04600(免费领源码、附论文）可做计算机毕业设计JAVA、PHP、爬虫、APP、小程序、C#、C++、python、数据可视化、大数据、文

基于flask徐州市天气信息可视化分析系统摘要信息化社会内需要与之针对性的信息获取途径，但是途径的扩展基本上为人们所努力的方向，由于站在的角度存在偏差，人们经常能够获得不同类型信息，这也是技术最为难以攻克的课题。针对天气信息等问题，对天气信息进行研究分析，然后开发设计出天气信息可视化分析系统以解决问题。天气信息可视化分析系统主要功能模块包括系统首页、轮播图、公告消息、资源管理（天气资讯、资讯分类）
bysjwa813·2024-02-04 05:08

大数据学习之Redis，十大数据类型的具体应用（五）

目录3.9Redis地理空间（GEO）简介原理Redis在3.2版本以后增加了地理位置的处理哦命令命令实操如何获得某个地址的经纬度3.9Redis地理空间（GEO）简介移动互联网时代LBS应用越来越多，交友软件中附近的小姐姐、外卖软件中附近的美食店铺、高德地图附近的核酸检査点等等，那这种附近各种形形色色的XXX地址位置选择是如何实现的?地球上的地理位置是使用二维的经纬度表示，经度范围(-180,1
十二点的泡面·2024-02-04 05:37

大数据组件部署下载链接

Hadoop2.7下载连接:https://archive.apache.org/dist/hadoop/core/hadoop-2.7.6/Hive2.3.2下载连接：http://archive.apache.org
运维道上奔跑者·2024-02-04 05:13

【大数据开发运维解决方案】Hadoop+Hive+HBase+Kylin 伪分布式安装指南

Hadoop2.7.6+Mysql5.7+Hive2.3.2+Hbase1.4.9+Kylin2.4单机伪分布式安装文档注意：######################################
运维道上奔跑者·2024-02-04 05:43

Hadoop2.7.6+Mysql5.7+Hive2.3.2+zookeeper3.4.6+kafka2.11+Hbase1.4.9+Sqoop1.4.7+Kylin2.4单机伪分布式安装及官方案例测

#################################################################最新消息：关于spark和Hudi的安装部署文档，本人已经写完，连接：Hadoop2.7.6
运维道上奔跑者·2024-02-04 05:43

基于Java校园网书店详细设计和实现

Java技术领域和学生毕业项目实战,高校老师/讲师/同行前辈交流✌主要内容：SpringBoot、Vue、SSM、HLMT、Jsp、PHP、Nodejs、Python、爬虫、数据可视化、小程序、安卓app、大数据
java李杨勇·2024-02-04 04:58

2023年全球软件开发大会（QCon上海站2023）：核心内容与学习收获（附大会核心PPT下载）

大会以“未来软件开发的创新与演进”为主题，涵盖了从前端到后端、从云计算到人工智能、从大数据到物联网等多个领域。一、峰会核心内容1、人工智能与
百家峰会·2024-02-04 02:15

2021-07-02

Hadoop集群构建配主机名vi/etc/sysconfig/networkNETWORKING=yesHOSTNAME=hadoop012.配置IP映射vi/etc/hosts127.0.0.1localhostlocalhost.localdomainlocalhost4localhost4
谢尔比比·2024-02-04 02:40

榜一大哥可告人的秘密：初识Python

而伴随着大数据和人工智能时代的到来，Python这
Hunter乔乔·2024-02-04 01:55

python大数据语言基础期末复习笔记

前言：复习笔记，主要是对老师ppt和网上的一些资料进行汇总。一、语言基础：（非重点）命名规范：变量名、模块名、包名通常采用小写，可使用下划线，通常前缀有一个下划线的变量名为全局变量。例如：rulemodule.py#模块名，即文件名_rule=’ruleinformation’python使用缩进来组织代码，而不是其他语言比如R、C++、java和Perl那样用大括号。python语句都不是以分号
_烟雨画桥_·2024-02-04 01:39

PLSQL性能优化-merge into替代update

Mergeinto和update是SQL的两个更新语句，在大数据处理中，mergeinto比update更高效。
阿达斯加·2024-02-04 00:54

我们使用拨号vps可以用来做哪些？

一、适合用于采集、营销、大数据分析、软件挂机、抢票秒杀专业商家的拨号vps产品不仅能提供大容量的动态IP，还可以减少
青果de服务生·2024-02-04 00:11

《统计数据会撒谎》

所谓大数据时代，也是
米妈天下·2024-02-04 00:31

vue大数据大屏幕适配完美解决方案

首先创建一个a.js//屏幕适配mixin函数//*默认缩放值constscale={width:'1',height:'1',}//*设计稿尺寸（px）constbaseWidth=1920constbaseHeight=1080//*需保持的比例（默认1.77778）constbaseProportion=parseFloat((baseWidth/baseHeight).toFixed(5)
探索未知zxx·2024-02-04 00:34

计算机毕业设计Python新冠疫情数据分析可视化平台

VUE、ElementUI、ECharts、Maptalks、D3js后端web开发：Flask、Mysql爬虫开发：request数据分析：pandas、numpy创新点数据可视化、爬虫、数据清洗、大数据
计算机毕业设计大神·2024-02-04 00:20

从MySQL到TiDB：兼容性全解析

MySQL在高并发和大数据量场景下，单个实例的扩展性有限。
超越不平凡·2024-02-04 00:25
上一页 31 32 33 34 35 36 37 38 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他