【大数据】Hadoop 第2页

华为云赋能智能制造，助力图扑软件构造数字孪生场景

出行手机查看交通方案、物业管理的智能可视勘察管控、疫情地图提前预知危害……这些曾经存在于科幻片中的高科技场景一一在现代生活得到了应用与普及，其背后的数据可视化应用，正贯穿于当今大数据时代的各行各业，成为人们洞察数据内涵的有力工具

36Kr网·2025-03-24 00:16

【Spark】查询优化中分区（Partitioning）和分桶（Bucketing）是什么关系？什么时候应当分区，什么时候应当分桶？

相同点分区（Partitioning）和分桶（Bucketing）在很多方面具有相似性，它们都是用于优化大数据查询性能的技术数据划分的目的：优化查询性能分区和分桶的核心目标是通过将数据分割成更小的逻辑单元来

petrel2015·2025-03-23 23:37

【Linux 下的 bash 无法正常解析, Windows 的 CRLF 换行符问题导致的】

hadoop@hadoop:~/anaconda3$bashwait_for_gpu.sh:invalidopt

待磨的钝刨·2025-03-23 18:53

大数据技术实战---项目中遇到的问题及项目经验

项目中遇到过哪些问题7.1Hadoop宕机（1）如果MR造成系统宕机。此时要控制Yarn同时运行的任务数，和每个任务申请的最大内存。

一个“不专业”的阿凡·2025-03-23 16:05

Apache大数据旭哥优选大数据选题

售后态度和技术都很重要定制按需求做要求不高就实惠一点定制需提前沟通好怎么做，这样才能避免不必要的麻烦python、flask、Django、mapreduce、mysqljava、springboot、vue、echarts、hadoop

Apache大数据旭·2025-03-23 13:12

【Hive】-- hive 3.1.3 伪分布式部署（单节点）

1、环境准备1.1、版本选择apachehive3.1.3apachehadoop3.1.0oraclejdk1.8mysql8.0.15操作系统：Macos10.151.2、软件下载https://archive.apache.org

oo寻梦in记·2025-03-23 12:08

Java后端开发技术详解

随着云计算、微服务架构和大数据技术的兴起，Java后端开发的技术栈也不断演进。本文将详细介绍Java后端开发的核心技术，包括Java基础、常见框架、数据库操作、缓存技术、异步编程等。

小二爱编程··2025-03-23 12:34

【Linux】Hadoop-3.4.1的伪分布式集群的初步配置

配置步骤一、检查环境JDK#目前还是JDK8最适合Hadoopjava-versionecho$JAVA_HOMEHadoophadoopversionecho$HADOOP_HOME二、配置SSH免密登录

孤独打铁匠Julian·2025-03-23 11:04

IDC权威认证！永洪科技入选 IDC「GBI图谱」，点亮生成式 BI 价值灯塔

大数据市场正在稳步前进，生成式AI已成为厂商服务的重点方向，其发展离不开数据底座建设和数据工程管理，反过来AI也会帮助开发运维人员、业务人员和管理层更好地使用、查询数据。

永洪科技·2025-03-23 09:48

打造金融数据新引擎，看永洪科技助力头部农信社搭建一站式分析平台

随着智能金融时代的来临，以大数据、人工智能、移动互联等新兴技术为核心的金融科技持续赋能银行金融业务数字化、智能化、开放化的发展，为金融机构营销体系的

永洪科技·2025-03-23 09:48

读书笔记五 ---大数据之路--数仓分层

数据分层在流式数据模型中,数据模型整体上分为五层。ODS层跟离线系统的定义一样,ODS层属于操作数据层,是直接从业务系统采集过来的最原始数据（进行了数据清洗）,包含了所有业务的变更过程,数据粒度也是最细的。在这一层,实时和离线在源头上是统一的,这样的好处是用同一份数据加工出来的指标,口径基本是统一的,可以更方便进行实时和离线问数据比对。例如:原始的订单变更记录数据、服务器引擎的访同日志。（原始数据

qq_38215991·2025-03-23 08:11

使用LangGraph迁移MapReduceDocumentsChain进行长文档的摘要

在大数据处理和文本分析领域，MapReduce是一种非常重要的策略，用于处理和分析大型数据集。

dgay_hua·2025-03-23 06:43

Python用Bokeh处理大规模数据可视化的最佳实践

本文将介绍如何使用Bokeh处理大规模数据可视化，并提供一些最佳实践和代码实例，帮助你高效地展示大数据集中的重要信息。1.为什么选择Bokeh？

一键难忘·2025-03-23 05:04

分页优化之——游标分页

游标分页（Cursor-basedPagination）是一种高效的分页方式，特别适用于大数据集和无限滚动的场景。

PhilipJ0303·2025-03-23 03:18

Hadoop 集群规划与部署最佳实践

作者：禅与计算机程序设计艺术1.简介2009年2月2日，ApacheHadoop项目诞生。它是一个开源的分布式系统基础架构，用于存储、处理和分析海量的数据。

AI天才研究院·2025-03-23 03:47

轻松入门Apache SeaTunnel：数据集成利器

文章目录轻松入门ApacheSeaTunnel：数据集成利器什么是SeaTunnel基本原理运行流程SeaTunnelvsDataX：两大数据集成工具对比实战场景：MySQL数据同步至ElasticsearchSeaTunnel

窝窝和牛牛·2025-03-23 03:16

MySQL 到 Hadoop：Sqoop 数据迁移 ETL

文章目录ETL：Extract-Transform-Load数据迁移过程一、Extract数据抽取1.ODS：OperationalDataStore-可操作数据存储2.DW：DataWarehouse-数据仓库3.DM：DataMart-数据集市二、Transform数据清洗和转换1.数据清洗2.数据转换三、Load数据加载四、数据迁移方法1.Sqoop1.1MySQL->Hive1.1.1im

Ice星空·2025-03-23 03:45

HBase安装

需要用Java和Hadoop来处理HBase，所以必须下载java和Hadoop并安装系统中。安装前设置安装Hadoop在Linux环境下之前，需要建立和使用LinuxSSH(安全Shell)。

lianhedaxue·2025-03-23 01:01

HBase的架构介绍，安装及简单操作

Hadoop环境：HBase依赖于Hadoop，需要先安装并配置好Hadoop集群。确保Hadoop的相关服务（如HDFS、YARN等）已经正常启动。

pk_xz123456·2025-03-23 01:00

探索数据安全新境界：Apache Spark SQL Ranger Security插件深度揭秘

探索数据安全新境界：ApacheSparkSQLRangerSecurity插件深度揭秘项目地址:https://gitcode.com/gh_mirrors/sp/spark-ranger随着大数据的爆炸性增长

乌昱有Melanie·2025-03-22 23:44

Java 大视界 -- Java 大数据在智能医疗远程会诊与专家协作中的技术支持（146）

一、欢迎加入【福利社群】点击快速加入：青云交灵犀技韵交响盛汇福利社群点击快速加入2：2024CSDN博客之星创作交流营（NEW)二、本博客的精华专栏：大数据新视

青云交·2025-03-22 23:14

努力的搬砖人.·2025-03-22 18:16

努力的搬砖人.·2025-03-22 18:15

2017安全之势：云、大数据、IoT、人工智能

“新技术让信息系统变成了孙悟空，开始无所不能，但安全仍是它的‘紧箍咒’！怎样解开这个‘紧箍咒’？各路安全厂商各显其能，但似乎路漫漫兮离目标还很遥远。”三未信安董事长张岳公在ZD至顶网《百位意见领袖寄语2017》中说出了这样一句话，我觉着很有道理。安全是一个永恒的话题，如果说它与新的信息技术相生相克也不过分。即便如此，我们更要尽可能的减少安全带来的束缚。2017已经到来，不妨来看看至顶网与业界大咖总

weixin_34392906·2025-03-22 17:02

hadoop3.x--搭建hadoop高可用集群（HA模式）

hadoop高可用集群（HA模式）一、安装前1.集群规划2.安装前配置3.安装jdk与hadoop4.克隆虚拟机与互信配置5.搭建zookeeper集群二、HDFS1.配置hdfs2.初始化启动hdfs

运维小菜·2025-03-22 14:17

直方图梯度提升：大数据时代的极速决策引擎

一、为什么需要直方图梯度提升？在Kaggle竞赛的冠军解决方案中，超过70%的获奖方案都使用了梯度提升算法。但当数据量突破百万级时，传统梯度提升树（GBDT）面临三大致命瓶颈：训练耗时剧增：每个特征的分割点计算都需要全量数据排序内存消耗爆炸：存储排序后的特征值需要额外空间处理效率低下：无法有效利用现代CPU的多核特性而梯度提升决策树（GBDT）作为集成学习的代表算法，通过迭代构建决策树实现预测能力

万事可爱^·2025-03-22 14:14

从原理到实践：Go 语言内存优化策略深度解析

优化切片与映射的使用3.4控制变量作用域3.5减少闭包导致的变量逃逸四、内存优化工具与性能分析4.1pprof工具的使用4.2其他性能分析辅助手段五、不同场景下的内存优化案例分析5.1高并发Web服务场景5.2大数据处理与分析场景六

叶间清风1998·2025-03-22 13:25

在虚拟机上安装Hadoop

基本步骤与安装java一致:先用finalshell将hadoop-3.1.3.tar.gz导入到opt目录下面的software文件夹下面，然后解压,最后配置环境变量。

杜清卿·2025-03-22 07:58

hadoop集群配置-scp拓展使用

任务1：在hadoop102上，将hadoop101中/opt/module/hadoop-3.1.3目录拷贝到hadoop102上。

杜清卿·2025-03-22 06:28

硅谷企业的大数据平台架构什么样？看看Twitter、Airbnb、Uber的实践

导读：本文分析一下典型硅谷互联网企业的大数据平台架构。

大数据v·2025-03-22 04:05

【图像预处理】

应用数据增强技术，如旋转、平移、缩放、翻转等，以扩大数据集，提高

瞬间记忆·2025-03-22 02:45

大数据学习（75）-大数据组件总结

大数据学习系列专栏：哲学语录:用力所能及，改变世界。

viperrrrrrr·2025-03-21 22:42

大数据点燃智能制造变革之火——从数据到价值的跃迁

大数据点燃智能制造变革之火——从数据到价值的跃迁在全球制造业向智能化转型的浪潮中，大数据已然成为点燃变革的关键火种。

Echo_Wish·2025-03-21 22:42

Sqoop安装部署

ApacheSqoop简介Sqoop（SQL-to-Hadoop）是Apache开源项目，主要用于：将关系型数据库中的数据导入Hadoop分布式文件系统（HDFS）或相关组件（如Hive、HBase）。

愿与狸花过一生·2025-03-21 22:10

AI预测体彩排3新模型百十个定位预测+胆码预测+杀和尾+杀和值2025年3月21日第25弹

由于本人既精通编程+大数据分析，也热衷于彩票研究，所以很多彩友通过一些渠道找到了我。

GIS小天·2025-03-21 22:40

Zynq PL端IP核之AXI DMA

Zynq有4个HP接口，每一个HP接口都包含控制和数据FIFO，这些FIFO为大数据量突发传输提供缓冲，让HP接口成为理想的高速数据传输接口。

Mazy.v·2025-03-21 21:05

揭秘时空大数据：详细介绍、真实应用场景和数据示例解析

时空大数据(SpatialBigData)是指利用空间环境和时间环境信息，以及数字技术，从多种来源获取的海量、动态的、多维的数据，对空间环境和时间环境进行实时监测，并基于复杂的数据分析和挖掘，获取有价值的信息

陈书予·2025-03-21 19:21

python基于Django的旅游景点数据分析及可视化的设计与实现 7blk7

目录项目介绍技术栈具体实现截图Scrapy爬虫框架关键技术和使用的工具环境等的说明解决的思路开发流程爬虫核心代码展示系统设计论文书写大纲详细视频演示源码获取项目介绍大数据分析是现下比较热门的词汇，通过分析之后可以得到更多深入且有价值的信息

qq2295116502·2025-03-21 19:17

ssh命令

命令无需密码也可登录要先关闭防火墙，命令如下：systemctlstopfirewalldsystemctldisablefirewalldsystemctlstatusfirewalldeg：目标：hadoop100

满分对我强制爱·2025-03-21 18:32

存算一体与存算分离：架构设计的深度解析与实现方案

随着数据量的不断增大和对计算能力的需求日益提高，存算一体作为一种新型架构设计理念，在大数据处理、云计算和人工智能等领域正逐步引起广泛关注。

克里斯蒂亚诺罗纳尔多阿维罗·2025-03-21 17:57

LakeHouse湖仓一体成为下一站灯塔，数仓、数据湖架构即将退出群聊

摘要：当前的大数据技术应用趋势表明，客户对单一的数据湖和数仓架构并不满意。

科杰科技·2025-03-21 17:26

数据让农业更聪明——用大数据激活田间地头

数据让农业更聪明——用大数据激活田间地头在农业领域，随着人口增长和气候变化的影响，如何提升生产力始终是个关键话题。大数据，这个曾经只属于科技领域的概念，如今已悄然进入田间地头。

Echo_Wish·2025-03-21 13:58

GraphCube、Spark和深度学习技术赋能快消行业关键运营环节

GraphCube图多维数据集技术、Spark大数据分析处理技术和深度学习技术的结合，为这些环节提供了智能化、动态化和实时化的解决方案，显著提升业务运营效率和企业利润。一、技术

weixin_30777913·2025-03-21 13:28

从 0 到 1 构建 Python 分布式爬虫，实现搜索引擎全攻略

从0到1构建Python分布式爬虫，实现搜索引擎全攻略在大数据与信息爆炸的时代，搜索引擎已然成为人们获取信息的关键入口。

七七知享·2025-03-21 13:27

第三十篇维度建模：从理论到落地的企业级实践

维度设计规范时间维度（含财年逻辑）SCDType2完整实现（Hudi）2.4事实表类型与设计三、企业级建模实战：电商用户分析3.1业务矩阵分析3.2模型实现代码四、高级建模技巧4.1多星型模式关联4.2大数据场景优化五

随缘而动，随遇而安·2025-03-21 13:25

Hive面试题

HiveCLI/Beeline和WebUI2.HiveQL3.HiveDriver（驱动）4.Metastore5.Compiler（编译器）6.Optimizer（优化器）7.Executor（执行器）8.HadoopCoreComponents

御风行云天·2025-03-21 13:24

计算机专业毕业设计题目推荐（新颖选题）本科计算机人工智能专业相关毕业设计选题大全✅

技术范围：SpringBoot、Vue、SSM、HLMT、Jsp、PHP、Nodejs、Python、爬虫、数据可视化、小程序、大数据、机器学习等设计与开发。主要内容：免费功能

会写代码的羊·2025-03-21 12:45

深陷“大数据杀熟”漩涡的飞猪，庄卓然如何力挽狂澜？

在线旅游市场（OTA）的蓬勃发展为消费者带来了诸多便利，然而，在这股数字化浪潮中，飞猪旅行却因其频繁陷入“大数据杀熟”的争议而备受瞩目。

财经三剑客·2025-03-21 12:12

API item_get 在电商平台的核心作用以及如何测试

为了解决这一问题，电商大数据平台应运而生，而item_getAPI作为获取商品详情的关键接口，在其中扮演着至关重要的角色。

index_all·2025-03-21 12:11

“四预”驱动数字孪生水利：让智慧治水守护山河安澜

一、数字孪生水利：从物理世界到虚拟镜像的跃迁数字孪生水利并非简单的“数字建模”，而是通过高精度传感器、大数据、人工智能等技术，在虚拟空间构建与物理流域完全映射的“数字分身”，实现水情、工情

GeoSaaS·2025-03-21 11:03

推荐频道

【大数据】Hadoop