大数据系统架构数据仓库

场景题：有40亿个QQ号如何去重？仅1GB内存

仅1GB内存场景题也有一些套路可以考虑，比如去重、判断给定数据是否存在1.大数据去重1.1现在有40亿个QQ号如何去重？
·2025-03-05 11:11

国产化替代 | 星环科技TDH替代IBM数仓，助力城商行构建湖仓一体平台

某城市商业银行在此背景下，启动数据仓库系统升级项目，将数据仓库从IBMNetezza迁移到星环科技大数据基础平台TDH，不但成功实现了数据仓库的国产化替代，还建设了新一代的湖仓一体平台，为银行业务发展提供新
·2025-03-05 11:08

别错过！Python 爬虫微专业完结撒花，海量实战干货打包带走

本课程精心搭建系统架构，从基础语法的深度剖析，到网络请求、数据解析、反爬虫策略等核心技能的传授，逐步引领学员攀登技术高峰。
七七知享·2025-03-05 11:18

小白进阶高手：使用Flink开发实时数仓的经验与技巧（理论结合超多实例）

本文将结合实际开发经验，深入探讨如何利用Flink构建高效的实时数仓，包括系统架构、开发技巧和常见问题的解决方法。
大模型大数据攻城狮·2025-03-05 11:43

大数据与网络安全讲座

点击文末小卡片，免费获取网络安全全套资料，资料在手，涨薪更快大数据的价值为大家公认。
黑客Jack·2025-03-05 10:10

FlinkCEP社区资源指南：学习与交流平台

FlinkCEP社区资源指南：学习与交流平台1.背景介绍ApacheFlink是一个开源的分布式大数据处理引擎,支持有状态计算和准确一次的流处理语义。
AI大模型应用之禅·2025-03-05 10:09

深入探秘FlinkCDC：实时数据处理的新利器

一、写在前面在大数据领域持续蓬勃发展的当下，数据的实时处理与分析变得愈发关键。
lucky_syq·2025-03-05 10:08

Spark是什么？可以用来做什么？

它最初由加州大学伯克利分校开发，现已成为大数据处理领域的核心工具之一。相比传统的HadoopMapReduce，Spark在速度、易用性和功能多样性上具有显著优势。
Bugkillers·2025-03-05 10:37

《数据仓库》读书笔记：第11章 非结构化数据和数据仓库

该系列博文为《数据仓库BuildingtheDataWarehouse》一书的读书笔记，笔者将书中重点内容进行概括总结。大致保留书中结构，一部分根据自己的理解进行调整。如发现问题，欢迎批评指正。
search-lemon·2025-03-05 03:16

LLM OS 系统架构详细设计

LLMOS系统架构详细设计1.背景介绍近年来，大型语言模型（LargeLanguageModel,LLM）取得了飞速发展，在自然语言处理、对话系统、文本生成等领域展现出卓越的性能。
AI天才研究院·2025-03-05 03:45

凤凰架构：构建清晰的分布式系统架构

为了解决这些问题，凤凰架构（PhoenixArchitecture）提供了一种清晰的分布式系统架构设计方法。本文将介绍凤凰架构的核心原则和示例源代码，帮助读者理解如何构建可靠的分布式系统。
CxzLoop·2025-03-05 02:37

遨游防爆智能终端“问诊”工业制造，开出数据采集“良方”

在数据驱动的时代，唯有采集足够规模的工业数据，方能支撑起基于工业大数据的深度分析与智能决策，从而驱动传统产业的蜕变与升级。但是，数据采集之路并非坦途，面临着设备协议多样、接口不一等挑战。
AORO_BEIDOU·2025-03-05 00:51

Spring Cloud Alibaba入门教程合集-01【微服务和Spring Cloud Alibaba介绍】

1、微服务介绍1.1系统架构演变随着互联网的发展，网站应用的规模也在不断的扩大，进而导致系统架构也在不断的进行变化。
图灵学院架构师·2025-03-04 23:45

Elasticsearch冷热分离与索引生命周期管理

背景信息当今大数据时代，数据时刻在更新变化。尤其是随着时间的积累，存储在Elasticsearch中的数据会越来越多，当数据达到一
Cloud_Tech·2025-03-04 23:44

什么是预训练？

一、介绍预训练模型诞生背景:对于某种特殊任务只存在少量的相关训练数据，以至于模型不能从中学习到有用的规律（标注资源稀缺，无大数据支持）举例：想对一批法律领域的文件进行关系抽取，就需要投入大量的精力（意味着时间和金钱的大量投入
卡卡大怪兽·2025-03-04 23:44

如何使用DeepSeek进行高效数据挖掘与分析

##摘要随着大数据时代的到来，数据挖掘与分析技术在各行各业中扮演着越来越重要的角色。DeepSeek作为一种先进的数据挖掘工具，能够帮助用户从海量数据中提取有价值的信息。
Small踢倒coffee_氕氘氚·2025-03-04 22:09

稳定运行的以Redshift数据仓库为数据源和目标的ETL性能变差时提高性能方法和步骤

当以AmazonRedshift数据仓库为数据源和目标的ETL（Extract,Transform,Load）性能变差时，可能涉及多个方面的优化措施。
weixin_30777913·2025-03-04 22:04

docker离线安装及部署各类中间件（x86系统架构）

前言：此文主要针对需要在x86内网服务器搭建系统的情况一、docker离线安装1、下载docker镜像https://download.docker.com/linux/static/stable/x86_64/版本：docker-23.0.6.tgz2、将docker-23.0.6.tgz文件上传到服务器上面，这里放在了/home下3、创建docker.service文件#进入/etc/syst
web13595609705·2025-03-04 22:33

大数据面试临阵磨枪不知看什么？看这份心理就有底了-大数据常用技术栈常见面试100道题

目录1描述Hadoop的架构和它的主要组件。2MapReduce的工作原理是什么？3什么是YARN，它在Hadoop中扮演什么角色？4Spark和HadoopMapReduce的区别是什么？5如何在Spark中实现数据的持久化？6SparkStreaming的工作原理是什么？7如何优化Spark作业的性能？8描述HBase的架构和它的主要组件。9HBase的读写流程是怎样的？10HBase如何处理
大模型大数据攻城狮·2025-03-04 21:59

2023年上海市浦东新区网络安全管理员决赛理论题样题

正确（1）保护对象改变等保1.0保护的对象是信息系统，等保2.0增加为网络和信息系统，增加了云计算、大数据、工业控制系统、物联网、移动物联技术、网络基础设施等保护对象，实现了全方面的覆盖。
afei00123·2025-03-04 20:50

基于springboot+vue在线小说阅读平台系统(源码+lw+部署文档+讲解等)

等平台优质作者、专注于Java、小程序技术领域和毕业项目实战✌主要内容：SpringBoot、Vue、SSM、HLMT、Jsp、PHP、Nodejs、Python、爬虫、数据可视化、小程序、安卓app、大数据
QQ3295391197·2025-03-04 20:16

《DataWorks：为人工智能算法筑牢高质量数据根基》

阿里巴巴的DataWorks，作为一款强大的大数据开发治理平台，在
·2025-03-04 19:16

基于Generator生成器的分离式导出CSV

在这个过程中，我发现了PHP中的生成器（Generator），这是一个非常强大的工具，特别适合处理大数据场景。本文将详细介绍生成器的概念、工作原理、优势以及如何利用生成器
·2025-03-04 18:15

DAMA数据管理知识体系全接触-数据治理-大数据

第1章数据管理1.1引言数据管理的定义：是为了交付、控制、保护并提升数据和信息资产的价值，在其整个生命周期中制定计划、制度、规程和实践活动，并执行和监督的过程。数据管理专业人员的定义：是指从事数据管理各方面的工作（从数据全生命周期的技术管理工作，到确保数据的合理利用及发挥作用），并通过其工作1.1.1业务驱动因素数据管理的主要驱动力：使组织能够从其数据资产中获取价值。1.1.2目标1）理解并支撑企
我思故我在6789·2025-03-04 18:38

【大数据专题】Flink题库

1.简述什么是ApacheFlink？ApacheFlink是一个开源的基于流的有状态计算框架。它是分布式地执行的，具备低延迟、高吞吐的优秀性能，并且非常擅长处理有状态的复杂计算逻辑场景2.简述Flink的核心概念？Flink的核心概念主要有四个：EventStreams、State、Time和Snapshots。（1）EventStreams：即事件流，事件流可以是实时的也可以是历史的。Flin
我思故我在6789·2025-03-04 18:37

工作流调度必看！2025年这四大核心趋势你不能不懂

而大数据工作流调度系统，就像是一位精准的指挥家，协调着数据处理流程中的各个环节，确保数据的高效流动与价值释放。那么，究竟什么是大数据工作流调度系统？它在当前的技术版图中处于何种地位？
·2025-03-04 18:36

Java软件架构中的服务拆分与数据库分片实践

随着电商、金融等行业系统规模的不断扩大，传统的单体架构往往难以满足性能和扩展性要求，服务拆分与数据库分片已成为高并发、大数据场景下的核心解决方案。
省赚客app开发者·2025-03-04 16:50

初学者如何用 Python 写第一个爬虫？

大数据技术：涵盖Hadoop（HDFS）、Hive、Spark
ADFVBM·2025-03-04 16:19

14个Flink SQL性能优化实践分享

在大数据处理领域，ApacheFlink以其流处理和批处理一体化的能力，成为许多企业的首选。然而，随着数据量的增长，性能优化变得至关重要。
快乐非自愿·2025-03-04 15:40

LeetCode 题目 49：字母异位词分组 5种算法实现与典型应用案例【python】

会一些的技术：数据分析、算法、SQL、大数据相关、python欢迎加入社区：码上找工作作者专栏每日更新：LeetCode解锁1000题:打怪升级之旅python数据分析可视化：企业实战案例备注说明：方便大家阅读
数据分析螺丝钉·2025-03-04 15:07

婚恋交友系统 小程序+app+h5端多端同步 TP6+Uni-app框架

以下是对婚恋交友系统的详细分析：一、系统架构与技术技术框架：婚恋交友系统通常采用先进的TP6+Uni-app框架，结合PHP和Mysql等技术优势，为用户提供稳定且高效的服务环境。
·2025-03-04 14:26

树莓集团董事长谋略：构建全国第五代产业园的智慧

在智慧方面，引入物联网、大数据、人工智能等先进技术，实现园区的智能化管理。例如，通过智能传感器实时监测园区内的能源消耗、环境质量等数据，进行智能化调控，提高园区的运营效率和管理水平。
树莓集团·2025-03-04 09:21

基于SSM架构的疫情时期人员流调平台的设计与实现-计算机毕业设计源码69124

系统流程分析2.2.1数据增加流程2.2.2数据修改流程2.2.3数据删除流程2.3系统功能分析2.3.1功能性分析2.3.2非功能性分析2.4系统用例分析2.5本章小结3疫情时期人员流调平台总体设计3.1系统架构设计
vx_bysj1330·2025-03-04 08:46

数据库系统架构与DBMS功能探微：现代信息时代数据管理的关键

欢迎大家来访Srlua的博文（づ￣3￣）づ╭～???欢迎各位亲爱的读者，感谢你们抽出宝贵的时间来阅读我的文章。我是Srlua，在这里我会分享我的知识和经验。??希望在这里，我们能一起探索IT世界的奥妙，提升我们的技能。??记得先点赞??后阅读哦~??????所属专栏：数据库欢迎访问我的主页：Srlua获取更多信息和资源。???目录数据库系统概述数据库系统数据库系统一般包含4个部分1.数据库2.数据
m0_74824755·2025-03-04 08:46

启智平台上传较大数据集

1.安装anconda2.安装openi(python38)C:\Users\33659>pipinstall-Uopeni-ihttps://pypi.tuna.tsinghua.edu.cn/simple3.输入token获取token的方式见官方教程：https://openi.pcl.ac.cn/docs/index.html#/api/tokenopenilogin(python38)C
失眠的树亚·2025-03-04 05:57

软考系统架构设计师 - 第 15 章 架构师的管理实践

已阅第15小时和教程。涉及单选题。在实践过程中，软件架构的主要障碍往往在于组织方面而非技术。15.1VRAPS组织管理原则1.VRAPS组织管理原则VARPS是为实践软件架构的组织管理原则提出的，包括构想、节奏、预见、协作和简化5个向相关联的原则。构想原则：说明了如何向架构的受益人描述一幅一致的、有约束力和灵活的未来图景节奏原则：刻画了一种在整个组织范围内的协调程度，即定期地根据可预测的速度、内容
甘蓝聊Java·2025-03-04 04:22

数据挖掘与数据分析两者的区别

随着大数据爆发式增长，市场上对大数据相关人才的需求与日俱增，导致大数据行业人才需求紧缺，引发了关于大数据的学习浪潮，在这个过程中，人们也会不时将数据分析与数据挖掘的关系混淆，什么是数据挖掘?
中琛源科技·2025-03-04 03:44

数据挖掘与数据分析

数据挖掘vs.数据分析特征数据挖掘数据分析目标从大数据中自动发现知识和模式通过系统分析数据，得出有意义的结论重点数据模式的自动发现、预测模型的构建数据理解、数据清洗、数据总结、假设验证方法机器学习、聚类
dundunmm·2025-03-04 03:11

面试基础--- Spring 事务传播机制底层实现原理

事务传播机制底层实现原理一、事务传播机制的本质与价值是否调用Transactional方法是否存在事务根据传播级别处理现有事务根据传播级别创建新事务挂起/加入/抛出异常等新建Connection/设置隔离级别等在分布式系统架构中
WeiLai1112·2025-03-04 03:09

《基于大数据的相州镇新农村商务数据分析与研究》开题报告

目录一、选题依据1.选题背景2.国内外研究现状与水平（1）国外研究现状（2）国内研究现状3.发展趋势4.研究意义二、研究内容1.学术构思与思路（1）主要研究内容(2）拟解决的关键问题或技术2.拟采取的研究方法、技术路线、实施方案及可行性分析（1）研究方法（2）技术路线（3）实施方案（4）可行性分析三、参考文献一、选题依据1.选题背景随着信息技术的快速发展，尤其是互联网技术的普及，农村商务环境正在经
Python数据分析与机器学习·2025-03-04 02:07

大数据世界的“实时魔法”

大数据世界的“实时魔法”揭秘✨嘿，各位小伙伴！今天咱们来聊聊Flink是怎么做流计算的。
狮歌~资深攻城狮·2025-03-04 02:05

Linux运维基础全景指南

Linux运维基础全景指南——从入门到精通的系统化管理手册一、Linux系统架构核心认知1.文件系统层次结构（FHS）记忆口诀：根目录下一堆，bin存命令，etc存配置，home放用户，var放变量，tmp
向贤·2025-03-04 01:53

数据挖掘的建模流程

1、定义数据挖掘目标任务理解指标确定2、数据取样建模抽样(大数据是用过滤后的全量数据)抽样之前需要衡量数据质量衡量的标准主要有以下几点：资料完整无缺，各类指标齐全数据准确无误，反映的都是正常状态下的数据数据抽样的方式
慢跑的Liam·2025-03-03 23:08

避免Hive和Spark生成HDFS小文件

HDFS是为大数据设计的分布式文件系统，对大数据做了存储做了针对性的优化，但却不适合存储海量小文件。
穷目楼·2025-03-03 22:36

人工智能时代的伦理挑战与隐私保护

例如，“大数据杀熟”现象，即通过分
经海路大白狗·2025-03-03 20:48

大数据与人工智能：数据隐私与安全的挑战_ai 和 数据隐私

前言1.背景介绍随着人工智能(AI)和大数据技术的不断发展，我们的生活、工作和社会都在不断变化。这些技术为我们提供了许多好处，但同时也带来了一系列挑战，其中数据隐私和安全是最为关键的之一。
程序员七海·2025-03-03 20:14

Python大数据处理实验报告（三）

实验目的本次实验的目的是练习使用Python编程语言和相关库进行网络爬虫和数据处理任务。具体来说，您将学习以下内容：使用Python中的requests库和BeautifulSoup库来爬取当当网某一本书的网页内容，并将其保存为html格式文件。学习使用Python中的requests库和正则表达式来爬取豆瓣网上某本书的前50条短评内容，并计算评分的平均值。了解如何使用Python中的reques
小李独爱秋·2025-03-03 20:13

数据清洗与统计分析原理与代码实战案例讲解

《数据清洗与统计分析原理与代码实战案例讲解》关键词：数据清洗、统计分析、Python、R语言、数据预处理、数据分析、机器学习、大数据摘要：本文将深入探讨数据清洗与统计分析的原理，并通过丰富的实战案例展示如何在实际项目中应用这些技术
AI天才研究院·2025-03-03 19:35

Kafka 迁移 AutoMQ 时 Flink 位点管理的挑战与解决方案

凭借其与Kafka的完全兼容性可以与用户已有的Flink等大数据基础设施进行轻松整合。Flink是重要的流处理引擎，与Kafka有着密切的关系。
·2025-03-03 17:20

大数据经典技术解析：Hadoop+Spark大数据分析原理与实践

作者：禅与计算机程序设计艺术1.简介大数据时代已经来临。随着互联网、移动互联网、物联网等新兴技术的出现，海量数据开始涌现。而在这些海量数据的基础上进行有效的处理，成为迫切需要解决的问题之一。
AI天才研究院·2025-03-03 10:27
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他