Hadoop学习之路

Hive服务启动 之 metastore配置 和 hiveserver2

首先贴直连配置代码：javax.jdo.option.ConnectionURLjdbc:mysql://hadoop102:3306/metastore?useSSL=fal
龍浮影·2025-02-15 08:33

5. clickhouse 单节点多实例部署

环境说明：主机名：cmc01为例操作系统：centos7安装部署软件版本部署方式centos7zookeeperzookeeper-3.4.10伪分布式hadoophadoop-3.1.3伪分布式hivehive
Toroidals·2025-02-15 05:35

蓝易云 - HBase基础知识

HBase是一个分布式、可伸缩、列式存储的NoSQL数据库，它建立在Hadoop的HDFS之上，提供高可靠性、高性能的数据存储和访问。
蓝易云·2025-02-15 02:38

Pytorch学习之路（3）

一.机器学习任务的整体流程1.数据预处理：数据格式统一、异常数据消除、必要数据转换，划分训练集、验证集、测试集2.选择模型3.设定损失函数、优化方法、对应的超参数4.用模型拟合训练集数据，在验证集/测试集上计算模型表现二.数据读入pytorch数据读入通过Dataset+DataLoader的方式完成，Dataset定义好数据的格式和数据变换形式，DataLoader用iterative的方式不断
AAAx1anyu·2025-02-14 21:28

腾讯云大数据套件TBDS与阿里云大数据能力产品对比

我们最开始使用的都是开源的产品，比如hadoop，HDSF，MAPRedu
奋力向前123·2025-02-14 03:29

手把手教你给 windows装个vmware虚拟机

附Java/C/C++/机器学习/算法与数据结构/前端/安卓/Python/程序员必读书籍书单大全：书单导航页（点击右侧极客侠栈即可打开个人博客）：极客侠栈①【Java】学习之路吐血整理技术书从入门到进阶最全
python算法小白·2025-02-13 23:30

DBA | Oracle 数据库体系结构简述!

从今天开始作者选择一门自己工作中常常使用的到的以及全球最流行的关系型数据库Oracle来进行学习，并记录学习过程，以供后续的自己复习回顾和帮助各位看友快速上手，从入门到高新，请各位看友一定要关注、订阅【#Oracle学习之路
全栈工程师修炼指南·2025-02-13 10:33

Android 访问网络框架之——OkHttp框架的解析

越来越发现一些第三方的框架比Android原生大的API好用多了，而且android废弃掉了HttpClient,有必要学习一些访问网络的框架，于是踏上了一条框架学习之路，先前学习了Volley框架。
mr丶yang·2025-02-13 07:37

【图像重建】基于matlab BP神经网络双基地SAR成像图像重建【含Matlab源码 1950期】

欢迎来到海神之光博客之家✅博主简介：热爱科研的Matlab仿真开发者，修心和技术同步精进；个人主页：海神之光代码获取方式：海神之光Matlab王者学习之路—代码获取方式（1）完整代码，已上传资源；需要的
海神之光·2025-02-13 07:03

C 语言学习之路：练习题实战记录(上)

C语言学习之路：练习题实战记录在C语言的学习过程中，练习是巩固知识、提升编程能力的关键。
Aphelios380·2025-02-12 20:39

DS缩写乱争：当小海豚撞上AI顶流，技术圈也逃不过“撞名”修罗场

这个2019年诞生的分布式任务调度系统，凭借可视化DAG界面、多租户支持和对Hadoop/Spark生态的深度集成，一度是大数据工程师的“梦中情工”。
·2025-02-12 18:58

AI前端开发的自主学习之路：效率与深度并存

在飞速发展的AI时代，前端开发面临着巨大的挑战。技术更新迭代日新月异，知识体系庞大而复杂，如何高效地学习并掌握这些新技术，成为了每一位前端开发者必须面对的问题。而自主学习能力，则成为了决定开发者竞争力的关键因素。本文将探讨如何在AI工具的辅助下，构建高效的自主学习路径，实现效率与深度并存，最终成为一名优秀的AI时代前端开发者。我们将会重点介绍如何利用AI代码生成器等工具来提升学习效率。AI工具赋能
·2025-02-12 14:47

AI前端开发的自主学习之路：效率与深度并存

在飞速发展的AI时代，前端开发面临着巨大的挑战。技术更新迭代日新月异，知识体系庞大而复杂，如何高效地学习并掌握这些新技术，成为了每一位前端开发者必须面对的问题。而自主学习能力，则成为了决定开发者竞争力的关键因素。本文将探讨如何在AI工具的辅助下，构建高效的自主学习路径，实现效率与深度并存，最终成为一名优秀的AI时代前端开发者。我们将会重点介绍如何利用AI代码生成器等工具来提升学习效率。AI工具赋能
·2025-02-12 13:43

1. hadoop 1.0.0 source code

https://archive.apache.org/dist/hadoop/core/hadoop-1.0.0/
小阿小火苗·2025-02-12 07:18

hadoop 1.0 基本概念了解

hadoop基本概念了解common：hadoop组件公共常用工具类Avro：Avro是用于数据序列化的系统。不同机器之间数据交流的保障。
fenggfa·2025-02-12 07:48

深入理解Hadoop 1.0.0源码架构及组件实现

本文还有配套的精品资源，点击获取简介：Hadoop1.0.0作为大数据处理的开源框架，在业界有广泛应用。该版本包含核心分布式文件系统HDFS、MapReduce计算模型、Common工具库等关键组件。
隔壁王医生·2025-02-12 07:14

如何在Java中实现高效的分布式计算框架：从Hadoop到Spark

如何在Java中实现高效的分布式计算框架：从Hadoop到Spark大家好，我是微赚淘客系统3.0的小编，是个冬天不穿秋裤，天冷也要风度的程序猿！
省赚客app开发者·2025-02-12 07:12

分布式架构设计全解：以银行系统为例

本文还有配套的精品资源，点击获取简介：分布式架构设计对于银行处理实时交易和数据分析至关重要，本文深入分析了Hadoop、F5、Dubbo和SpringCloud等技术在银行项目中的实际应用。
聚合收藏·2025-02-12 04:54

Pytorch学习之路（2）

（PS：请先阅读Pytorch学习之路（1）开篇注释）【因为我也是小菜鸟】Pytorch基础知识1.张量（1）简介0维张量——标量（数字）1维张量——向量2维张量——矩阵3维张量——时间序列数据股价文本数据单张彩色图片
AAAx1anyu·2025-02-11 14:40

HiveQL命令（三）- Hive函数

ApacheHive作为一种流行的数据仓库工具，提供了丰富的内置函数，帮助用户高效地处理和分析存储在Hadoop分布式文件系统（HDFS）中的数据。这些内置函数涵盖了数值计算、字符
BigDataMagician·2025-02-11 12:00

【hudi】基于hive2.1.1的编译hudi-1.0.0源码

hudi版本1.0.0需要使用较低版本的hive，编译hudi只需要修改下类即可：org.apache.hudi.hadoop.hive.HoodieCombineHiveInputFormat一、复制
lisacumt·2025-02-10 22:10

掌握大数据--Hive全面指南

1.Hive简介2.Hive部署方式3.Hive的架构图4.Hive初体验5.HiveSQL语法--DDL操作数据库1.Hive简介ApacheHive是建立在Hadoop之上的一个数据仓库工具，它提供了一种类似于
纪祥_ee1·2025-02-10 22:40

ZooKeeper 技术全解：概念、功能、文件系统与主从同步

ZooKeeper作为一个由Apache维护的开源分布式协调服务框架，广泛用于Hadoop生态系统和其他需要协调的分布式环境中。
专业WP网站开发-Joyous·2025-02-10 15:14

hadoop之MapReduce：片和块

假如我现在500M这样的数据，如何存储？500M=128M+128M+128M+116M分为四个块进行存储。计算的时候，是按照片儿计算的，而不是块儿。块是物理概念，一个块就是128M,妥妥的，毋庸置疑。片是逻辑概念，一个片大约等于一个块。假如我现在需要计算一个300M的文件，这个时候启动多少个MapTask任务？答案是有多少个片儿，就启动多少个任务。一个片儿约等于一个块，但是最大可以128M*1.
哒啵Q297·2025-02-10 12:14

Hadoop智能房屋推荐系统 爬虫1w+ 协同过滤余弦函数推荐 代码+视频教程+文档

Hadoop智能房屋推荐系统爬虫1w+协同过滤余弦函数推荐带视频教程毕设设计课题设计【Hadoop项目】1.data.csv上传到hadoop集群环境2.data.csv数据清洗3.MapReducer
小盼江·2025-02-10 04:05

【电力负荷预测】时间卷积双向门控循环单元融合注意力机制TCN-BiGRU-Attention负荷多变量时间序列预测【含Matlab源码 4752期】

个人主页：海神之光代码获取方式：海神之光Matlab王者学习之路—代码获取方式⛳️座右铭：行百里者，半于九十。
Matlab领域·2025-02-10 00:03

计算机毕业设计hadoop+spark+hive新能源汽车数据分析可视化大屏 汽车推荐系统 新能源汽车推荐系统 汽车爬虫 汽车大数据 机器学习 大数据毕业设计 深度学习 知识图谱 人工智能

（1）设计目的本次设计一个基于Hive的新能源汽车数据仓管理系统。企业管理员登录系统后可以在汽车保养时，根据这些汽车内置传感器传回的数据分析其故障原因，以便维修人员更加及时准确处理相关的故障问题。或者对这些数据分析之后向车主进行预警提示车主注意保养汽车，以提高汽车行驶的安全系数。（2）设计要求利用Flume进行分布式的日志数据采集，Kafka实现高吞吐量的数据传输，DateX进行数据清洗、转换和整
qq+593186283·2025-02-09 21:35

Hadoop解决数据倾斜方法？思维导图 代码示例（java 架构)

为了解决这个问题，Hadoop提供了多种策略和技术手段来优化数据分布和任务分配。以下是关于Hadoop解决数据倾斜的方法总结、思维导图描述以及Java代码示例。Hadoop解决数据倾斜方法概述
用心去追梦·2025-02-09 16:04

Ranger Hive Service连接测试失败问题解决

个人博客地址：RangerHiveService连接测试失败问题解决|一张假钞的真实世界异常信息如下：org.apache.ranger.plugin.client.HadoopException:UnabletoconnecttoHiveThriftServerinstance
一张假钞·2025-02-09 11:00

python操作hbase创建表（一）

thrift来操作hbase在开发环境安装python库pipinstallthriftpipinstallhbase-thrifthbase中需要开启hbase-daemon.shstartthrifthadoop
金融小白数据分析之路·2025-02-09 08:10

spark安装与环境配置

1.安装spark官网http://spark.apache.org/downloads.html考虑到spark之后要结合hadoop一起使用，所以下载和已经安装hadoop版本均兼容的spark(首先安装好
Handoking·2025-02-09 08:03

ClickHouse vs StarRocks 选型对比

一、面向列存的DBMS新的选择Hadoop从诞生已经十三年了，Hadoop的供应商争先恐后的为Hadoop贡献各种开源插件，发明各种的解决方案技术栈，一方面确实帮助很多用户解决了问题，但另一方面因为繁杂的技术栈与高昂的维护成本
金州饿霸·2025-02-09 00:07

StarRocks和ClickHouse对比

经过研究，StarRocks与ClickHouse作为OLAP数据库在某些场景下都展现出极端的性能表现，且都不依赖于ApacheHadoop生态系统。
靴子学长·2025-02-08 20:41

spark on yarn-cluster在生产环境 部署 spark 任务， 同时支持读取外部可配置化文件

Spark中，有Yarn-Client和Yarn-Cluster两种模式可以运行在Yarn上，通常Yarn-cluster适用于生产环境，而Yarn-Cluster更适用于交互，调试模式提示：前提条件有hadoop
千里风雪·2025-02-08 20:40

【MapReduce】分布式计算框架MapReduce

它的设计初衷是解决搜索引擎中大规模网页数据的并行处理问题，之后成为ApacheHadoop的核心子项目。它是一个面向批处理的分布式计算框架；在分布式环境中，MapRedu
桥路丶·2025-02-08 15:00

hive 连接Datagrip失败

在hive目录下使用beeline命令：bin/beeline-ujdbc:hive2://hadoop102:10000-nsxr具体的报错信息如下所示：解决办法：在hadoop的core-site.xml
都给我吃吧·2025-02-08 06:55

Hive之数据操作DML

Load）通过查询语句向表中插入数据（Insert）查询语句中创建表并加载数据（AsSelect）创建表时通过Location指定加载数据路径Import数据到指定Hive表中5.2数据导出Insert导出Hadoop
WHYBIGDATA·2025-02-08 06:55

一文了解mapreduce及工作原理

目录前言-MR概述1.HadoopMapReduce设计思想及优缺点设计思想优点：缺点：2.HadoopMapReduce核心思想3.MapReduce工作机制剖析MapReduce运行机制过程描述第一阶段
TEL浅笑嫣然·2025-02-07 20:22

2024-JAVA-大数据-面试汇总_大数据java部门面试(1)

Hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张数据库表，并提供类SQL查询功能33.说说内部表和外部表的区别？
2401_84141419·2025-02-07 19:15

大数据-267 实时数仓 - ODS Lambda架构 Kappa架构 核心思想

目前已经更新到了：Hadoop（已更完）HDFS（已更完）MapReduce（已更完）Hive（已更完）Flume（已更完）Sqoop（已更完）Zookeeper（已更完）HBase（已更完）Redis
m0_74823336·2025-02-07 16:57

Hbase基础

1.HBase简介HBASE理论HBase是一个基于Hadoop的分布式、面向列的开源数据库，对大数据实现了随机定位和实时读写。
yandao·2025-02-07 13:38

nginx+flume网络流量日志实时数据分析实战_日志数据分析(1)

得到visits模型hadoopjar/export/data/mapreduce/web_log.jarcn.itcast.bigdata.weblog.clickstream.ClickStreamVisit
2401_84182578·2025-02-07 11:22

【大数据入门核心技术-Flume】（二）Flume安装部署

目录一、准备工作1、基本Hadoop环境安装2、下载安装包二、安装1、解压2、修改环境变量3、修改并配置flume-env.sh文件4、验证是否安装成功一、准备工作1、基本Hadoop环境安装参考Hadoop
forest_long·2025-02-07 08:33

大数据集群搭建基础：Hadoop完全分布式搭建学习指南！！

Hadoop完全分布式搭建学习指南Hadoop版本：Hadoop2.XJDK版本：JDK1.8一、准备工作设置主机名和IP在三台CentOS7.4机器上分别设置主机名和IP：node1:192.168.14.10node2
初次知晓·2025-02-07 01:16

如何处理大规模数据集中的数据处理：Spark和ApacheFlink

文章目录1.简介2.基本概念术语说明数据处理（DataProcessing）任务调度（TaskScheduling）HadoopApacheSparkApacheFlink3.核心算法原理和具体操作步骤以及数学公式讲解
AI天才研究院·2025-02-07 01:43

Hudi VS Doris 使用分析

Hudi（HadoopUpsertsDeletesandIncrementals）定位-面向数据湖的增量写入、更新与删除技术。
sunxunyong·2025-02-07 01:13

Hive-Container killed by YARN for exceeding memory limits. 9.2 GB of 9 GB physical memory used. Cons...

Jobabortedduetostagefailure:Task3instage0.0failed4times,mostrecentfailure:Losttask3.3instage0.0(TID62,hadoop7
嘣嘣嚓·2025-02-07 01:41

CDH+Kylin三部曲之三：Kylin官方demo

《CDH+Kylin三部曲之二：部署和设置》：完成CDH和Kylin部署，并在管理页面做好相关的设置；现在Hadoop、Kylin都就绪了，接下来实践Kylin的官方demo；Yarn参数设置Yarn的内存参数设置之后一定要重启
2401_89740692·2025-02-07 00:07

数据开发八股文整理- Hadoop

什么是hadoopHadoop是一个分布式系统基础架构，主要解决海量数据的存储和海量数据的分析计算问题Hadoop运行模式本地模式和为分布式模式都是单机运行完全分布模式即是多台服务器组成分布式环境Hadoop
兔子宇航员0301·2025-02-06 18:59

HIVE常见面试题

1.简述hiveHive‌是一个构建在Hadoop之上的数据仓库工具，主要用于处理和查询存储在HDFS上的大规模数据。
兔子宇航员0301·2025-02-06 18:59
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他