【大数据】Hadoop

MapReduce：分布式计算的基石

MapReduce是一种用于处理和生成大数据集的编程模型，以及一个用于执行该模型的关联实现。它使得在大型商用硬件集群（数千台机器）上进行并行处理海量数据成为可能。
Earth explosion·2025-03-10 00:30

【Hadoop】如何理解MapReduce？

MapReduce是一种用于处理大规模数据集的编程模型和计算框架。它的核心思想是将复杂的计算任务分解为两个简单的阶段：Map（映射）和Reduce（归约）。通过这种方式，MapReduce可以高效地并行处理海量数据。一.MapReduce的核心概念1.Map（映射）：将输入数据分割成小块，并对每个小块进行初步处理。输出键值对（key-valuepairs），例如。2.Shuffle和Sort（洗牌
2302_79952574·2025-03-10 00:30

区块链大数据平台搭建系列（二）：如何搭建以太坊RPC节点

Erigon是Ethereum（执行客户端）的一个实现，效率高，用Go编写。这里我们将采用Erigon进行搭建生产环境的以太坊RPC节点。环境准备1.系统要求操作系统：Ubuntu20.04或更高版本。硬件要求：由于Erigon会存储大量区块链数据，需要至少2TB的NVMeSSD磁盘、32GB或更多的内存（推荐64GB），以及8核CPU或更高的配置以提高性能。2.安装必需的软件包运行以下命令来安装
WuJiWeb3·2025-03-10 00:56

大数据实战：Spark + Hive 逐笔计算用户盈亏

简介本文将通过使用Spark+Hive实现逐笔计算区块链上用户交易数据的盈亏需求。由于我们是进行离线计算，所以我们的数据源是Hive表数据，Sink表也是Hive表，即Spark读取Hive表数据进行批计算之后写回到Hive表并供后续使用。通过本文你将会学到：如何使用SparkSQLAPI读取Hive数据源如何通过读取配置文件进行传参执行SQL如何将SparkSQL转换为JavaRDD进行处理如何
WuJiWeb3·2025-03-10 00:56

大数据测试总结

总结测试要点：参考产品文档，技术文档梳理以下内容需求来源业务方应用场景数据源，数据格转，数据产出，数据呈现方式（数据消亡史），数据量级（增量，全量），更新频率，数据产出时效数据流转方式（http接口，GRPC接口，中间表，宽表等）数据多样性（不同类型维度的处理数据，例如被标识的维度数据以用户为例:客户，客服，用户，玩家等）使用数据的频次频率（相对应的查询服务数据库的压力，接口服务器的压力，评测是否
SuperCreators·2025-03-09 22:10

大数据分析服务器硬件配置如何选择

大数据，现如今已被人工智能替代。我们先不讨论人工智能，就大数据而言，我们都是在强调他的技术，而我们在用大数据时候，经常用它的来神话它的影响。例如，广告投放精准化，社会安全管理有序，医药行业智能化等。
elva428204358·2025-03-09 22:33

Hadoop：全面深入解析

Hadoop是一个用于大规模数据处理的开源框架，其设计旨在通过集群的方式进行分布式存储和计算。
CloudJourney·2025-03-09 21:29

《DeepSeek+Langchain落地实操:RAG知识增强检索和智能体实战开发》

大数据与人工智能实战专家—周红伟老师法国科学院数据算法博士/曾任阿里人工智能专家/曾任马上消费金融风控负责人课程背景LangChain是一项旨在赋能开发人员利用语言模型构建端到端应用程序的强大框架。
AI周红伟·2025-03-09 21:25

Hadoop介绍：什么是Hadoop？了解Hadoop的应用

一、认识Hadoop框架Hadoop是一个提供分布式存储和计算的开源软件框架，使用Java语言编写，具有高扩展性、高容错性、无共享和高可用（HA）等特点，非常适合处理海量数据。
Zzzxt007·2025-03-09 21:55

数据安全策略与实践：从理论到落地

数据安全策略与实践：从理论到落地在大数据时代，数据早已成为企业和机构的核心资产，但随之而来的数据泄露、非法访问和滥用问题也屡见不鲜。从用户隐私到企业机密，再到国家级信息安全，无一不受到数据安全的影响。
Echo_Wish·2025-03-09 19:48

Apache Spark: 大数据处理的利器对比与应用实例

本文已收录于《Python超入门指南全册》本专栏专门针对零基础和需要进阶提升的同学所准备的一套完整教学，从基础到精通不断进阶深入，后续还有实战项目，轻松应对面试，专栏订阅地址：https://blog.csdn.net/mrdeam/category_12647587.html优点：订阅限时19.9付费专栏，私信博主还可进入全栈VIP答疑群，作者优先解答机会（代码指导、远程服务），群里大佬众多可以
步入烟尘·2025-03-09 19:45

宽带,带宽,光纤,光猫,WiFi,路由器,令人傻傻搞不清?这篇文章讲明白他们之间的关系.

带宽(bandwidth),简单理解为频带宽度单位时间内通过网络通信信道传输的最大数据量,一般单位是mps(兆比特每秒),家里一般办的是百兆光纤但是一百兆比特每秒下
*星之卡比*·2025-03-09 17:54

【开题报告】基于Springboot+vue智能停车场管理系统（程序+源码+论文) 计算机毕业设计

智能停车场管理系统作为一种创新的解决方案，通过集成先进的物联网技术、云计算技术和大数据分析技
计算机程序_设计·2025-03-09 15:04

DeepSeek smallpond搅动大数据风云

DeepSeek的smallpond涉足大数据DuckDB！降维打击传统大数据领域，搅动中台数据工程风云！
彭铖洋·2025-03-09 14:29

Hbase在hdfs上的archive目录占用空间过大

hbase版本：1.1.2hadoop版本：2.7.3Hbase在hdfs上的目录/apps/hbase/data/archive占用空间过大，导致不停地发出hdfs空间使用率告警。
宝罗Paul·2025-03-09 13:50

Hadoop、Spark、Flink Shuffle对比

一、Hadoop的shuffle前置知识：Map任务的数量由Hadoop框架自动计算，等于分片数量，等于输入文件总大小/分片大小，分片大小为HDFS默认值128M，可调Reduce任务数由用户在作业提交时通过
逆袭的小学生·2025-03-09 10:55

【Hadoop】什么是Zookeeper？如何理解Zookeeper？

ZooKeeper是一个开源的分布式应用程序协调服务，可以为分布式应用提供一致性的服务，功能包括：配置维护、名字服务、分布式同步、组服务等等。ZooKeeper的目标是封装好复杂易出错的关键服务，将简单易用的接口和性能高效、功能稳定的系统提供给用户。1.Zookeeper的特点最终一致性：Client不论连接到哪个Server,展示给它的都是同一个视图。可靠性：如果某个消息被一台服务器接受，那么它
2302_79952574·2025-03-09 09:46

【Hadoop】详解HDFS

Hadoop分布式文件系统(HDFS)被设计成适合运行在通用硬件上的分布式文件系统，它是一个高度容错性的系统，适合部署在廉价的机器上，能够提供高吞吐量的数据访问，非常适合大规模数据集上的应用。
2302_79952574·2025-03-09 09:13

HDFS的设计架构

HDFS是Hadoop生态系统中的分布式文件系统，设计用于存储和处理超大规模数据集。它具有高可靠性、高扩展性和高吞吐量的特点，适合运行在廉价硬件上。
F_0125·2025-03-09 05:21

大数据Flink（六十四）：Flink运行时架构介绍_flink中涉及到的大数据组件

从以Greenplum为代表的MPP（MassivelyParallelProcessing，大规模并行处理）架构，到Hadoop、Spark为代表的批处理架构，再到Storm、Flink为代表的流处理架构
2401_84181942·2025-03-09 03:39

大数据运维实战指南：零基础入门与核心技术解析（第一篇）

大数据运维实战指南：零基础入门与核心技术解析（第一篇）系列文章目录第一篇：大数据运维概述与核心技能体系第二篇：Hadoop生态体系与集群部署实战第三篇：分布式存储系统运维与优化第四篇：资源调度框架YARN
emmm形成中·2025-03-09 01:19

hadoop框架与核心组件刨析（四）MapReduce

MapReduce是一种用于大规模数据处理的编程模型和计算框架，最初由Google提出，后来由ApacheHadoop实现并广泛应用。
小刘爱喇石( ˝ᗢ̈˝ )·2025-03-09 00:42

AI大模型报告 | 《中国数字人发展报告(2024)》（完整版PDF免费附下载）

当前，数字人正成为人工智能活跃的应用落地入口，对大数据、智能终端、具身智能等产业链接度、嵌入度、融合度较强，或将成为下一代互联网活跃的交互界面之一。公开数据显示，目前
AI大模型_学习君·2025-03-08 21:10

论分布式存储系统架构设计

一、引言随着大数据、人工智能和物联网等技术的快速发展，数据存储需求呈现爆发式增长。传统集中式的存储系统架构逐渐暴露出性能瓶颈、可靠性差、扩展性不足等问题，无法满足日益增长的数据存储需求。
一休哥助手·2025-03-08 21:37

什么是数据库中的宽表？

宽表常见于数据仓库、OLAP（联机分析处理）系统或大数据场景，其核心目标是优化查询性能，尤其是在需要频繁进行复杂分析或生成报表的场景中。
見贤思齊·2025-03-08 20:02

数字孪生对于新基建的价值浅析，算是抛砖引玉。

模拟预测与优化利用AI和大数据分析
大千UI工场·2025-03-08 19:59

电商系统设计专题系列的第一篇：概述与总体架构

数据驱动：通过大数据分析优化定价、库存和用户服务。
不出名的架构师·2025-03-08 15:37

taosd 写入与查询场景下压缩解压及加密解密的 CPU 占用分析

在当今大数据时代，时序数据库的应用越来越广泛，尤其是在物联网、工业监控、金融分析等领域。TDengine作为一款高性能的时序数据库，凭借独特的存储架构和高效的压缩算法，在存储和查询效率上表现出色。
涛思数据（TDengine）·2025-03-08 15:27

ZooKeeper 的 Watch 机制是什么？

前言本文隶属于专栏《1000个问题搞定大数据技术体系》，该专栏为笔者原创，引用请注明来源，不足和错误之处请在评论区帮忙指出，谢谢！
Shockang·2025-03-08 14:31

Python就业薪资怎么样？前景如何？

Python是一种全栈的开发语言，你如果能学好Python，前端，后端，测试，大数据分析，爬虫等这些工作你都能胜任。那么Python现在在国内的就业薪资高吗？Python就业薪资怎么样？前景如何？
田野猫咪·2025-03-08 11:09

python程序员工资高吗？

平均薪资为18860元，Python不同岗位薪资范围为：Python全栈开发工程师（10k-20K）、Python运维开发工程师（15k-20K）、Python高级开发工程师（15k-30K）、Python大数据工程师
lmseo5hy·2025-03-08 11:08

Python爬取58同城广州房源+可视化分析

感谢关注天善智能，走好数据之路↑↑↑欢迎关注天善智能，我们是专注于商业智能BI，人工智能AI，大数据分析与挖掘领域的垂直社区，学习，问答、求职一站式搞定！
R3eE9y2OeFcU40·2025-03-08 11:35

大数据计算框架深入：Spark SQL、DataFrame、RDD 性能优化

1.引言ApacheSpark是当前最流行的大数据计算框架之一，其中SparkSQL、DataFrame和RDD（ResilientDistributedDataset）是数据处理的三大核心API。
晴天彩虹雨·2025-03-08 10:48

专栏问答：公共数据库发表能发表国际学术期刊吗？能够成为本硕博的毕业论文主要研究吗？以NHANES数据库为例

随着大数据和人工智能的迅猛发展，公共数据库在医药研究中的应用日益广泛。无论是基因组学、流行病学，还是药物研发，公共数据库都提供了海量的数据资源，为研究人员节省了大量的时间和成本。
DAT｜R科学与人工智能·2025-03-08 09:57

hadoop 运行java程序_原生态在Hadoop上运行Java程序

第一种：原生态运行jar包1，利用eclipse编写Map-Reduce方法，一般引入Hadoop-core-1.1.2.jar。
淇水煮汤·2025-03-08 09:23

hadoop运行java程序命令_使用命令行编译打包运行自己的MapReduce程序 Hadoop2.6.0

网上的MapReduceWordCount教程对于如何编译WordCount.java几乎是一笔带过…而有写到的，大多又是0.20等旧版本版本的做法，即javac-classpath/usr/local/hadoop
emi0wb·2025-03-08 09:53

大数据如何建立企业竞争力与重塑竞争环境？

“大数据”日益成为企业高管层津津乐道耳熟能详的字眼，但在把握大数据所蕴涵的商机方面，大多数企业的努力还仅仅停留于“表面功夫”。
iris_1992·2025-03-08 08:16

大数据Hadoop集群运行程序

目录1运行自带的MapReduce程序2常见错误1运行自带的MapReduce程序下面我们在Hadoop集群上运行一个MapReduce程序，以帮助读者对分布式计算有个基本印象。
赵广陆·2025-03-08 08:37

ShardingSphere 和 Spring 的动态数据源切换机制的对比以及原理

ShardingSphereSpring动态数据源（如AbstractRoutingDataSource）定位分布式数据库中间件轻量级多数据源路由工具核心目标分库分表、读写分离、分布式事务多数据源动态切换适用场景大数据量
龙大.·2025-03-08 07:28

解决方案 ｜ 回归医院运营管理本质，从建立指标体系出发

随着数字化技术和大数据应用的不断深入，医疗行业正在经历一次前所未有的变革和转型。在2023年的两会上，大数据和数字化技术将再次成为热点议题，这意味着政府将会更加关注并支持医疗行业数据转型。
·2025-03-08 06:52

hadoop框架与核心组件刨析（三）YARN

一、负载均衡的概念负载均衡（LoadBalancing）是一种将工作负载（如网络流量、计算任务或数据请求）分配到多个资源（如服务器、计算节点或存储设备）的技术，目的是优化资源使用、最大化吞吐量、最小化响应时间，并避免单个资源过载。负载均衡广泛应用于计算机网络、分布式系统、云计算等领域。负载均衡的核心目标提高性能：通过将负载分配到多个资源，避免单个资源成为瓶颈，从而提高系统的整体性能。提高可用性：如
小刘爱喇石( ˝ᗢ̈˝ )·2025-03-08 04:46

帆软认证BI工程师（FCBA）部分考试题目及答案

正确2.FineBI产品目前不支持vertical大数据平台。错误3.FineBI可以和FineReport两款产品进行整合使用。正确4.同一个仪表板中，可以同时使用实时和抽取数据进行分析。
隼丶·2025-03-08 03:08

探索大数据分析的无限可能：R语言的应用与实践

探索大数据分析的无限可能：R语言的应用与实践随着数据时代的来临，大数据已经成为各行各业的重要资产。如何从海量数据中挖掘出有价值的信息，成为了企业和研究人员关注的焦点。
Echo_Wish·2025-03-08 02:16

80| Python可视化篇 —— Matplotlib数据可视化

数据可视化又跟数据挖掘和大数据分析紧密相关，而这些领域以及当下
小刘要努力。·2025-03-08 00:29

数据驱动决策：五款报表软件让企业智能化运营

1.山海鲸报表概述：山海鲸报表是一款面向中小型企业的强大数据报表和分析工具。它的最大特点是易用性和高
希艾席蒂恩·2025-03-08 00:49

kafka 在Linux上的安装部署

一、前言Kafka是一个分布式流处理平台，在大数据领域有着广泛的应用。在Linux系统上安装部署Kafka可以为我们搭建高效的数据处理环境。本教程将详细介绍在Linux中安装和部署Kafka的步骤。
The博宇·2025-03-07 22:35

深入解析MySQL备份技术：从逻辑到物理的全面指南

mysqlpump：支持并行导出和压缩，适合大数据量。适用场景：小规模数据迁移（如从开发环境导出到测试环境）。跨版本恢复（如从MySQL5.7迁移到8.0）。导出部分表或库（比如只备份用户表）。
PLUTO t·2025-03-07 21:59

Hive JDBC 大数据查询场景下的 Socket 读超时问题及实战解决方案

文章目录HiveJDBC大数据查询场景下的Socket读超时问题及实战解决方案问题背景️解决方案方案一：通过JDBCURL直接配置超时（推荐）方案二：动态设置全局loginTimeout（兼容旧版本）总结与建议
窝窝和牛牛·2025-03-07 20:48

AI与大数据融合：技术路径与行业赋能

在此背景下，人工智能技术通过算法突破与算力跃迁，正重塑大数据价值挖掘范式，构建从数据感知到决策闭环的全
互联网Ai好者·2025-03-07 19:28

Flink的市场竞争力：大数据浪潮中的“潜力股”还是“青铜”？

Flink的市场竞争力：大数据浪潮中的“潜力股”还是“青铜”？嘿，各位小伙伴！今天咱来聊聊Flink在市场中的竞争力这个超有意思的话题。
狮歌~资深攻城狮·2025-03-07 19:26
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他