大数据_数据存储

MapReduce：分布式计算的基石

MapReduce是一种用于处理和生成大数据集的编程模型，以及一个用于执行该模型的关联实现。它使得在大型商用硬件集群（数千台机器）上进行并行处理海量数据成为可能。
Earth explosion·2025-03-10 00:30

元数据存储与网络日志详解（小白版）

元数据存储与网络日志详解（小白版）一、元数据存储：网络的「快递单管理系统」1.1核心概念元数据是描述数据特征的==‌结构化标签‌==，类似于：快递单（记录包裹重量、发件人，但‌‌不含包裹内的物品‌‌）‌
漠月瑾-西安·2025-03-10 00:58

区块链大数据平台搭建系列（二）：如何搭建以太坊RPC节点

Erigon是Ethereum（执行客户端）的一个实现，效率高，用Go编写。这里我们将采用Erigon进行搭建生产环境的以太坊RPC节点。环境准备1.系统要求操作系统：Ubuntu20.04或更高版本。硬件要求：由于Erigon会存储大量区块链数据，需要至少2TB的NVMeSSD磁盘、32GB或更多的内存（推荐64GB），以及8核CPU或更高的配置以提高性能。2.安装必需的软件包运行以下命令来安装
WuJiWeb3·2025-03-10 00:56

大数据实战：Spark + Hive 逐笔计算用户盈亏

简介本文将通过使用Spark+Hive实现逐笔计算区块链上用户交易数据的盈亏需求。由于我们是进行离线计算，所以我们的数据源是Hive表数据，Sink表也是Hive表，即Spark读取Hive表数据进行批计算之后写回到Hive表并供后续使用。通过本文你将会学到：如何使用SparkSQLAPI读取Hive数据源如何通过读取配置文件进行传参执行SQL如何将SparkSQL转换为JavaRDD进行处理如何
WuJiWeb3·2025-03-10 00:56

大数据测试总结

总结测试要点：参考产品文档，技术文档梳理以下内容需求来源业务方应用场景数据源，数据格转，数据产出，数据呈现方式（数据消亡史），数据量级（增量，全量），更新频率，数据产出时效数据流转方式（http接口，GRPC接口，中间表，宽表等）数据多样性（不同类型维度的处理数据，例如被标识的维度数据以用户为例:客户，客服，用户，玩家等）使用数据的频次频率（相对应的查询服务数据库的压力，接口服务器的压力，评测是否
SuperCreators·2025-03-09 22:10

大数据分析服务器硬件配置如何选择

大数据，现如今已被人工智能替代。我们先不讨论人工智能，就大数据而言，我们都是在强调他的技术，而我们在用大数据时候，经常用它的来神话它的影响。例如，广告投放精准化，社会安全管理有序，医药行业智能化等。
elva428204358·2025-03-09 22:33

《DeepSeek+Langchain落地实操:RAG知识增强检索和智能体实战开发》

大数据与人工智能实战专家—周红伟老师法国科学院数据算法博士/曾任阿里人工智能专家/曾任马上消费金融风控负责人课程背景LangChain是一项旨在赋能开发人员利用语言模型构建端到端应用程序的强大框架。
AI周红伟·2025-03-09 21:25

Doris存储的逻辑架构和物理架构

以下为详细解析：一、逻辑架构1.表结构分层逻辑表（LogicalTable）用户直接操作的抽象表，支持多种数据模型：明细模型（DuplicateKeyModel）：原始数据存储，无预聚合，适合日志类场景
fzip·2025-03-09 20:21

数据安全策略与实践：从理论到落地

数据安全策略与实践：从理论到落地在大数据时代，数据早已成为企业和机构的核心资产，但随之而来的数据泄露、非法访问和滥用问题也屡见不鲜。从用户隐私到企业机密，再到国家级信息安全，无一不受到数据安全的影响。
Echo_Wish·2025-03-09 19:48

Apache Spark: 大数据处理的利器对比与应用实例

本文已收录于《Python超入门指南全册》本专栏专门针对零基础和需要进阶提升的同学所准备的一套完整教学，从基础到精通不断进阶深入，后续还有实战项目，轻松应对面试，专栏订阅地址：https://blog.csdn.net/mrdeam/category_12647587.html优点：订阅限时19.9付费专栏，私信博主还可进入全栈VIP答疑群，作者优先解答机会（代码指导、远程服务），群里大佬众多可以
步入烟尘·2025-03-09 19:45

mysql创建数据库和表

1.1数据库和表的概念数据库（Database）：数据库是数据存储的容器，存储着相关数据集合。每个数据库可以包含多个表，并为这些表提供结构和组织。表（Table）：表是数据库中的基本存储单位。
程序员小羊！·2025-03-09 18:58

宽带,带宽,光纤,光猫,WiFi,路由器,令人傻傻搞不清?这篇文章讲明白他们之间的关系.

带宽(bandwidth),简单理解为频带宽度单位时间内通过网络通信信道传输的最大数据量,一般单位是mps(兆比特每秒),家里一般办的是百兆光纤但是一百兆比特每秒下
*星之卡比*·2025-03-09 17:54

【开题报告】基于Springboot+vue智能停车场管理系统（程序+源码+论文) 计算机毕业设计

智能停车场管理系统作为一种创新的解决方案，通过集成先进的物联网技术、云计算技术和大数据分析技
计算机程序_设计·2025-03-09 15:04

DeepSeek smallpond搅动大数据风云

DeepSeek的smallpond涉足大数据DuckDB！降维打击传统大数据领域，搅动中台数据工程风云！
彭铖洋·2025-03-09 14:29

hbase 默认目录_[HBase] HBase数据存储目录解析

Hbase在hdfs上的存储位置，根目录是由配置项hbase.rootdir决定，默认就是"/hbase"/hbase/WALs在该目录下，对于每个RegionServer，都会对应1~n个子目录/hbase/oldWALs当/hbase/WALs中的HLog文件被持久化到存储文件时，它们就会被移动到/hbase/oldWALs/hbase/hbase.id集群的唯一ID/hbase/hbase.
weixin_39577422·2025-03-09 13:21

25年应该买哪个品牌的nas？

在如今这个数据量爆炸式增长的时代，大家对数据存储的需求越来越高，NAS私有云也就成了很多人存储和管理数据的好帮手。市场上的NAS私有云品牌多得让人眼花缭乱，到底该怎么选呢？
亿欧科技·2025-03-09 10:02

信息安全与网络安全的区别_信息安全与网络安全之差异探析

信息安全不仅关注数据存储和传输过程
Hacker_Oldv·2025-03-09 06:34

HDFS的设计架构

1.HDFS的设计思想HDFS的设计目标是解决大规模数据存储和处理的问题，其核心设计思想包括：（1）分布式存储-数据被分割成多个块（Block），并分布存储在集群中的多个节点上。
F_0125·2025-03-09 05:21

大数据Flink（六十四）：Flink运行时架构介绍_flink中涉及到的大数据组件

于是人们提出了“不共享任何东西”（share-nothing）的分布式架构。从以Greenplum为代表的MPP（MassivelyParallelProcessing，大规模并行处理）架构，到Hadoop、Spark为代表的批处理架构，再到Storm、Flink为代表的流处理架构，都是以分布式作为系统架构的基本形态的。我们已经知道，Flink就是一个分布式的并行流处理系统。简单来说，它会由多个进
2401_84181942·2025-03-09 03:39

Facebook 的隐私保护数据存储方案研究

Facebook的隐私保护数据存储方案研究在这个信息爆炸的时代，数据隐私保护已成为公众关注的热点。
ClonBrowser·2025-03-09 01:42

大数据运维实战指南：零基础入门与核心技术解析（第一篇）

大数据运维实战指南：零基础入门与核心技术解析（第一篇）系列文章目录第一篇：大数据运维概述与核心技能体系第二篇：Hadoop生态体系与集群部署实战第三篇：分布式存储系统运维与优化第四篇：资源调度框架YARN
emmm形成中·2025-03-09 01:19

【android开发-16】android中文件和sharedpreferences数据存储详解

1，文件读写方式的数据存储下面是一个简单的示例，演示如何在Android中使用内部存储来保存和读取文件：保存文件：try{Stringdata="这是要保存的数据";FileOutputStreamfos
孤舟簔笠翁·2025-03-09 01:56

决策树、朴素贝叶斯、随机森林、支持向量机、XGBoost 和 LightGBM算法的R语言实现

基本逻辑（1）使用rnorm函数生成5个特征变量x1到x5，并根据这些特征变量的线性组合生成一个二分类的响应变量y；（2）将生成的数据存储在数据框中，处理缺失值，并将响应变量转换为因子类型；（3）使用决策树
生信与基因组学·2025-03-09 00:18

Python SQLite3 保姆级教程：从零开始学数据库操作

SQLite3是一个轻量级的嵌入式数据库，无需安装独立服务，所有数据存储在一个文件中。✅无
老哥不老·2025-03-09 00:46

数据库与存储优化

一、MySQL深度优化索引优化B+树索引结构结构特点：平衡多路搜索树，所有数据存储在叶子节点，非叶子节点仅存键值和指针。叶子节点通过双向链表连接，支持范围查询高效遍历。
时光不负追梦人·2025-03-08 21:16

AI大模型报告 | 《中国数字人发展报告(2024)》（完整版PDF免费附下载）

当前，数字人正成为人工智能活跃的应用落地入口，对大数据、智能终端、具身智能等产业链接度、嵌入度、融合度较强，或将成为下一代互联网活跃的交互界面之一。公开数据显示，目前
AI大模型_学习君·2025-03-08 21:10

[场景题]如何实现购物车

1.基于Session的购物车（适合小型单体应用）核心思路：将购物车数据存储在用户会话（Session）中，适用于无需持久化的临时购物车。
八股文领域大手子·2025-03-08 21:10

C++之序列容器（vector,list,dueqe）

和一些编程语言中单一的数据存储方式相比，C++这三种序列容器的存
邪恶的贝利亚·2025-03-08 21:40

论分布式存储系统架构设计

一、引言随着大数据、人工智能和物联网等技术的快速发展，数据存储需求呈现爆发式增长。传统集中式的存储系统架构逐渐暴露出性能瓶颈、可靠性差、扩展性不足等问题，无法满足日益增长的数据存储需求。
一休哥助手·2025-03-08 21:37

什么是数据库中的宽表？

宽表常见于数据仓库、OLAP（联机分析处理）系统或大数据场景，其核心目标是优化查询性能，尤其是在需要频繁进行复杂分析或生成报表的场景中。
見贤思齊·2025-03-08 20:02

数字孪生对于新基建的价值浅析，算是抛砖引玉。

模拟预测与优化利用AI和大数据分析
大千UI工场·2025-03-08 19:59

电商系统设计专题系列的第一篇：概述与总体架构

数据驱动：通过大数据分析优化定价、库存和用户服务。
不出名的架构师·2025-03-08 15:37

taosd 写入与查询场景下压缩解压及加密解密的 CPU 占用分析

在当今大数据时代，时序数据库的应用越来越广泛，尤其是在物联网、工业监控、金融分析等领域。TDengine作为一款高性能的时序数据库，凭借独特的存储架构和高效的压缩算法，在存储和查询效率上表现出色。
涛思数据（TDengine）·2025-03-08 15:27

ZooKeeper 的 Watch 机制是什么？

前言本文隶属于专栏《1000个问题搞定大数据技术体系》，该专栏为笔者原创，引用请注明来源，不足和错误之处请在评论区帮忙指出，谢谢！
Shockang·2025-03-08 14:31

Python就业薪资怎么样？前景如何？

Python是一种全栈的开发语言，你如果能学好Python，前端，后端，测试，大数据分析，爬虫等这些工作你都能胜任。那么Python现在在国内的就业薪资高吗？Python就业薪资怎么样？前景如何？
田野猫咪·2025-03-08 11:09

python程序员工资高吗？

平均薪资为18860元，Python不同岗位薪资范围为：Python全栈开发工程师（10k-20K）、Python运维开发工程师（15k-20K）、Python高级开发工程师（15k-30K）、Python大数据工程师
lmseo5hy·2025-03-08 11:08

Python爬取58同城广州房源+可视化分析

感谢关注天善智能，走好数据之路↑↑↑欢迎关注天善智能，我们是专注于商业智能BI，人工智能AI，大数据分析与挖掘领域的垂直社区，学习，问答、求职一站式搞定！
R3eE9y2OeFcU40·2025-03-08 11:35

云计算的特征

通过建设高规格的云数据中心，引入自动化调度技术，让数据存储更加集中，数据资产也就能够更加有效利用，也更加节能减排和易于维护。从各个维度都起到了降本增效的作用。
帅维维·2025-03-08 11:02

大数据计算框架深入：Spark SQL、DataFrame、RDD 性能优化

1.引言ApacheSpark是当前最流行的大数据计算框架之一，其中SparkSQL、DataFrame和RDD（ResilientDistributedDataset）是数据处理的三大核心API。
晴天彩虹雨·2025-03-08 10:48

专栏问答：公共数据库发表能发表国际学术期刊吗？能够成为本硕博的毕业论文主要研究吗？以NHANES数据库为例

随着大数据和人工智能的迅猛发展，公共数据库在医药研究中的应用日益广泛。无论是基因组学、流行病学，还是药物研发，公共数据库都提供了海量的数据资源，为研究人员节省了大量的时间和成本。
DAT｜R科学与人工智能·2025-03-08 09:57

大数据如何建立企业竞争力与重塑竞争环境？

“大数据”日益成为企业高管层津津乐道耳熟能详的字眼，但在把握大数据所蕴涵的商机方面，大多数企业的努力还仅仅停留于“表面功夫”。
iris_1992·2025-03-08 08:16

大数据Hadoop集群运行程序

目录1运行自带的MapReduce程序2常见错误1运行自带的MapReduce程序下面我们在Hadoop集群上运行一个MapReduce程序，以帮助读者对分布式计算有个基本印象。在安装Hadoop时，系统给用户提供了一些MapReduce示例程序，其中有一个典型的用于计算圆周率的Java程序包，现在运行该程序。该jar包文件的位置和文件名是“~/hadoop-3.1.0/share/Hadoop/
赵广陆·2025-03-08 08:37

ShardingSphere 和 Spring 的动态数据源切换机制的对比以及原理

ShardingSphereSpring动态数据源（如AbstractRoutingDataSource）定位分布式数据库中间件轻量级多数据源路由工具核心目标分库分表、读写分离、分布式事务多数据源动态切换适用场景大数据量
龙大.·2025-03-08 07:28

物联网服务器搭建及部署详细说明：掌握 Node.js、MongoDB、Socket.IO 和 JWT 的实用指南

关键知识点目录1.环境准备1.1硬件要求1.2软件要求2.搭建步骤3.数据处理与存储3.1数据存储3.2数据实时处理3.2.1安装Socket.IO3.2.2修改服务器代码4.安全性4.1身份验证与授权
极客小张·2025-03-08 07:57

FFmpeg 4.3 音视频-多路H265监控录放C++开发十三：将AVFrame转换成AVPacket。视频编码原理.编码相关api，H264特殊参数说明

但是如果我们将要数据存储，则要将AVFrame转成AVPacket.视频编
hunandede·2025-03-08 07:51

解决方案 ｜ 回归医院运营管理本质，从建立指标体系出发

随着数字化技术和大数据应用的不断深入，医疗行业正在经历一次前所未有的变革和转型。在2023年的两会上，大数据和数字化技术将再次成为热点议题，这意味着政府将会更加关注并支持医疗行业数据转型。
·2025-03-08 06:52

Redis 持久化配置：保障数据安全与可恢复性

然而，由于数据存储在内存中，一旦服务器重启、断电或者出现其他异常情况，内存中的数据就会丢失。为了解决这个问题，Redis提供了持久化机制，允许将内存中的数据保存到磁盘上，以便在需要时进行恢复。
艾斯比的日常·2025-03-08 04:22

帆软认证BI工程师（FCBA）部分考试题目及答案

正确2.FineBI产品目前不支持vertical大数据平台。错误3.FineBI可以和FineReport两款产品进行整合使用。正确4.同一个仪表板中，可以同时使用实时和抽取数据进行分析。
隼丶·2025-03-08 03:08

es笔记-提升性能

冲刷将索引的数据从内存写入磁盘合并和合并策略：lucene数据存储在不可变文件中（即分段），会合并分段，使得分段可控，消耗性能，可以限制多久合并一次，分段可以合并到多大等。
actionzh·2025-03-08 02:51

探索大数据分析的无限可能：R语言的应用与实践

探索大数据分析的无限可能：R语言的应用与实践随着数据时代的来临，大数据已经成为各行各业的重要资产。如何从海量数据中挖掘出有价值的信息，成为了企业和研究人员关注的焦点。
Echo_Wish·2025-03-08 02:16
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他