数据平台

2024年数据平台建设指南

构建一个现代化、高效、灵活的数据平台不仅是应对这一挑战的必由之路,更是赋能业务创新、提升运营效率的关键所在。
DataHub数据社区·2025-02-01 12:42

国内免费金融数据接口——tushare

TuShare是国内一个非常受欢迎的金融数据平台，特别适合初学者和研究者使用。它提供了免费的API接口，可以获取大量的国内金融和经济数据。
TAO_step·2025-01-31 16:23

企业数字化规划蓝图、企业数字化运营分析管理大数据平台建设方案

**企业数字化规划蓝图及运营分析管理大数据平台建设方案****一、企业数字化规划蓝图**1.**数字化目标设定**企业在规划数字化进程时，首先需要明确数字化目标。
公众号：优享智库·2025-01-30 19:57

大数据平台建设整体架构设计方案

《大数据平台建设整体架构设计方案》关键词：大数据平台、分布式存储、分布式计算、数据仓库、数据湖、数据安全、数据质量管理、数据治理、数据挖掘、机器学习、图计算、自然语言处理、Hadoop、Spark、Flink
AI天才研究院·2025-01-27 02:55

Lambda架构

原文地址：https://www.cnblogs.com/xiaodf/p/11642555.html首先我们来看一个典型的互联网大数据平台的架构，如下图所示：在这张架构图中，大数据平台里面向用户的在线业务处理组件用褐色标示出来
leveretz·2025-01-26 22:54

数据项目相关的AWS云计算架构设计

电商数据平台架构高性能：使用AmazonEC2的计算优化实例处理业务逻辑和数据计算，搭配AmazonElastiCache内存缓存，加速数据读取。
weixin_30777913·2025-01-25 07:47

CDH大数据平台

CDH是一个大数据平台，简化和加速了大数据处理分析的部署和管理。CDH提供Hadoop的核心元素-可伸缩存储和分布式计算-以及基于web的用户界面和重要的企业功能。
梦龙zmc·2025-01-25 06:44

【数据治理】数据治理框架概述

⭐️大数据平台建设指南：全面讲解从数据采集到数据可视化的整个过程，掌握构建现代化数据平台的核心技术和方法。⭐️《遇见Python：初识、了解与热恋》：涵盖了Pytho
野老杂谈·2025-01-24 06:07

【面试系列】DevOps工程师高频面试题及详细解答

⭐️全流程数据技术实战指南：全面讲解从数据采集到数据可视化的整个过程，掌握构建现代化数据平台和数据仓库的核心技术和方法。文章目录常见的初级面试题1.什
野老杂谈·2025-01-23 05:58

Presto 时间、日期及计算相关日期

由于工作中在数据迁移，大数据平台数据查询引擎使用Presto，和传统的数据库时间函数有区别，整理一版，供大家参考，一起学习，有错误欢迎指正。
三生暮雨渡瀟瀟·2025-01-22 20:49

大数据平台Bug Bash大扫除最佳实践

为此，大数据平台部门组织了一次BugBash活动，既能提升自己对兄弟产品的理解和使用，又能促使自家产品功能日趋完善。今天来给大家分享一些实际操作过程和经验总结~二、什么是BugBash？
京东云开发者·2025-01-22 19:42

玩转至轻云大数据平台-docker部署篇

产品介绍至轻云是一款超轻量级、企业级大数据计算平台，基于Spark生态打造。一键部署，开箱即用。快速实现大数据离线ETL、Spark计算、实时计算、可视化调度、自定义接口、数据大屏以及自定义表单等多种功能，为企业提供高效便捷的大数据解决方案。至轻云有什么特点呢？又能怎么玩呢？产品特点开源轻量化云原生架构:兼容云原生架构，支持Docker、Rancher平台的快速部署。国内镜像下载:可直接从阿里云镜
fanciNate454·2025-01-21 16:34

国产海光CPU平台兼容性指南-基础软件分册-20231013（附各系统下载链接）

2.2.2KVM上的虚拟机操作系统2.2.3WindowsHyper-V上的虚拟机操作系统2.2.4VirtualBox上的虚拟机操作系统三、分布式存储四、数据库五、中间件六、大数据七、平台组件7.1云平台7.2大数据平台
技术瘾君子1573·2025-01-20 20:59

Scaleph：基于Kubernetes的开放式数据平台

Scaleph：基于Kubernetes的开放式数据平台scalephOpendataplatformbasedonFlinkandKubernetes,supportsweb-uiclick-and-dropdataintegrationwithSeaTunnelbackendedbyFlinkengine
尤淞渊·2025-01-19 19:19

hive小文件合并机制_hive小文件的问题弊端以及合并

包括位置大小分块信息等，都保存在NN内存中，在小文件数较多的情况下，会造成占用大量内存空间，导致NN性能下降；2、在读取小文件多的目录时，MR会产生更多map数，造成GC频繁，浪费集群资源；3、现在大数据平台文件总数超过
做生活的创作者·2025-01-19 08:49

产品解读 | 构建数智融合时代下的一站式大数据平台

一站式大数据平台，旨在通过一个平台即可满足各类业务需求，成为数智融合时代下数据基础设施的发展趋势，并从四个维度向四个“一体化”方向演进：数据架构-湖仓集一
·2025-01-18 09:50

星环科技×恒生电子，联合打造反洗钱解决方案

将大数据技术应用于反洗钱领域，可借助大数据平台高效整合、分析海量客户身份信息和交易数据，保障反洗钱系统有效开展客户风险等级评定、可疑交易筛查、黑名单监测等工作，为反洗钱工作赋能。
·2025-01-18 05:12

传统数据湖和数据仓库的“中心化瓶颈”

以下是具体表现：1.单点瓶颈（SinglePointBottleneck）传统数据湖/仓库通常由中心化的数据平台团队负责，所有的数据集成、清洗、建模和治理工作都集中在这一个团队中，导致：工作负载过重：数据平台团队需要处理所有领域的数据需求
PersistDZ·2025-01-18 00:45

案例分享｜快速了解实时湖仓集一体技术如何助力企业降本增效

1.替代TD仓、Hadoop湖，助力农商行构建一体化数据平台某农商行最初构建了Teradata数据仓库、Oracle小数据平台以及Hadoop数据湖。
·2025-01-17 20:42

Java 大视界 -- Java 大数据平台迁移与升级策略：平滑过渡的方法（十四）

亲爱的朋友们，热烈欢迎你们来到青云交的博客！能与你们在此邂逅，我满心欢喜，深感无比荣幸。在这个瞬息万变的时代，我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而我的博客，正是这样一个温暖美好的所在。在这里，你们不仅能够收获既富有趣味又极为实用的内容知识，还可以毫无拘束地畅所欲言，尽情分享自己独特的见解。我真诚地期待着你们的到来，愿我们能在这片小小的天地里共同成长，共同进步。本博客的精华专栏：大数
青云交·2025-01-16 16:31

案例分享｜Alluxio数据流转方案在联通智网的应用

分享嘉宾陈得泳-中国联通大数据平台SRE工程师，致力于基于开源生态构建稳定、高效、安全、低成本的大数据集群。
·2025-01-16 14:01

ES聚合分析原理与代码实例讲解

1.2研究现状目前，ES聚合分析已经成为现代大数据平台的核心组件之一。它支持多种类型的聚
光剑书架上的书·2024-09-16 08:08

镜舟科技与西南证券合作，构建极速、高效数据平台

《金融科技发展规划（2022-2025年）》明确了高质量推进金融数字化转型的总体思路，云计算、人工智能等新兴技术开始被广泛应用，提升金融服务的便捷性，但随着日益增长的数据体量，数据的存储和处理能力日渐。数据的金融机构需要加强数据能力建设、完善数据中心建设，并构建健全的数字安全生态。在金融行业的数字化转型浪潮中，西南证券凭借其深厚的行业经验和前瞻性视野，与镜舟科技一起，构建一个高效、稳定且易于维护的
镜舟科技·2024-09-13 14:31

【面试系列】Spark 高频面试题解答

⭐️大数据平台建设指南：全面讲解从数据采集到数据可视化的整个过程，掌握构建现代化数据平台的核心技术和方法。⭐️《遇见Python：初识、了解与热恋》：涵盖了Pytho
野老杂谈·2024-09-12 18:52

大数据平台（数据中台、数据中枢、数据湖、数据要素）建设方案

大数据平台（数据中台、数据中枢、数据湖、数据要素）建设方案大数据平台（数据中台、数据中枢、数据湖、数据要素）建设方案项目背景和目标项目背景项目目标建设原则与策略数据中台架构设计整体架构设计思路数据采集层数据存储层数据计算层数据服务层数据中枢功能实现数据治理功能数据资产管理功能数据安全管控功能数据服务总线功能数据湖存储与计算方案数据湖存储架构设计数据湖计算框架选择数据湖应用场景分析数据湖安全与合规性
数字化建设方案·2024-09-11 04:26

数据中台建设方案-基于大数据平台(下)

数据中台建设方案-基于大数据平台(下)1数据中台建设方案1.1总体建设方案1.2大数据集成平台1.3大数据计算平台1.3.1数据计算层建设计算层技术含量最高，最为活跃，发展也最为迅速。
FRDATA1550333·2024-09-11 03:49

大数据平台--调度系统

调度系统是数据仓库的重要组成部分，也是每个银行或公司一个基础软件或服务，需要在全行或全公司层面进行规划，在全行层面统一调度工具和规范，由于数据类系统调度作业较多，交易类系统批量优先级高，调度系统的整体架构如下：调度中心对调度批次和作业进行创建、管理、监控，它负责所有批量作业的调度和编排；在整个作业过程中，作业之间关系分为触发，依赖和互斥。1、触发触发关系表示一个作业完毕后，生成另一个作业的控制文件
小瓶盖的猪猪侠·2024-09-10 20:36

深智城基于超融合数据库MatrixOne的一站式交通大数据平台改造

在智慧交通应用中，数据处理需求极为复杂，涉及人、车辆、道路和环境等多个方面，产生了大量异构数据。交通管理人员需要对这些数据进行实时分析和决策，以应对各种交通事件。然而，在实际生产中会发现数据处理缺陷、管理复杂度高、云原生基础设施兼容性不足等问题。实践证明，MatrixOne可完整、稳定支撑深智城集团的交通数字实时仿真项目，实现秒级的业务及分析实时性，并在技术、管理和成本方面均得到了显著提升，大幅降
MatrixOrigin·2024-09-09 07:42

MySQL数据库运维：深度解析与实践指南

⭐️全流程数据技术实战指南：全面讲解从数据采集到数据可视化的整个过程，掌握构建现代化数据平台和数据仓库的核心技术和方法。⭐
野老杂谈·2024-09-09 01:58

【面试系列】Doris 高频面试题解答

⭐️大数据平台建设指南：全面讲解从数据采集到数据可视化的整个过程，掌握构建现代化数据平台的核心技术和方法。⭐️《遇见Python：初识、了解与热恋》：涵盖了Pytho
野老杂谈·2024-09-08 10:44

【大数据平台】数据处理层：批处理与流处理架构

⭐️大数据平台建设指南：全面讲解从数据采集到数据可视化的整个过程，掌握构建现代化数据平台的核心技术和方法。⭐️《遇见Python：初识、了解与热恋
野老杂谈·2024-09-08 09:07

pyspark kafka mysql_数据平台实践①——Flume+Kafka+SparkStreaming(pyspark)

蜻蜓点水Flume——数据采集如果说，爬虫是采集外部数据的常用手段的话，那么，Flume就是采集内部数据的常用手段之一(logstash也是这方面的佼佼者)。下面介绍一下Flume的基本构造。Agent：包含Source、Channel和Sink的主体，它是这3个组件的载体，是组成Flume的数据节点。Event：Flume数据传输的基本单元。Source：用来接收Event，并将Event批量传
weixin_39793638·2024-09-08 04:34

探索宝可梦的世界：PokeAPI如何让开发者大展拳脚

PokeAPI的魅力所在PokeAPI的魅力在于它提供了一个开放的数据平台，涵盖了宝可梦世界中的所有元素。无论是宝可梦的名字、类型、技能，还是它们的
幂简集成·2024-09-07 14:25

MySQL 子查询与复杂查询的优化

⭐️大数据平台建设指南：全面讲解从数据采集到数据可视化的整个过程，掌握构建现代化数据平台的核心技术和方法。⭐️《遇见Python：初识、了解与热恋
野老杂谈·2024-09-07 09:23

基于Echarts+HTML5可视化数据大屏展示—新能源车联网综合大数据平台_新能源汽车大数据分析网站代码

主要代码实现：主页HTML布局：新能源车联网综合大数据平台实时统计<divclass="info-text
2401_84181070·2024-09-06 21:38

CDC 数据实时同步入湖的技术、架构和方案汇总

博主历时三年精心创作的《大数据平台架构与原型实现：数据中台建设实战》一书现已由知名IT图书品牌电子工业出版社博文视点出版发行，点击《重磅推荐：建大数据平台太难了！给我发个工程原型吧！》
Laurence　·2024-09-05 18:33

SkyWalking：⼀款用于分布式系统的应用程序性能监视工具

主要功能特性多种监控手段，可以通过语言探针和servicemesh获得监控的数据支持多种语言自动探针，包括Java，.NETCore和Node.JS;轻量高效，无需大数据平台和大量的服务器资源4、模块化
学博成·2024-09-02 23:23

医疗数字化转型数据中台架构方案（一）

为推进医疗数字化转型，我们提出构建数据中台架构方案：通过集成医院内外多个数据源，利用大数据、人工智能等技术对数据进行清洗、整合、标准化处理，形成高质量的数据资产；再基于云原生技术构建湖仓一体化大数据平台
智汇优库·2024-09-02 19:32

数仓分层架构：DWS

**数据仓库服务层（DataWarehouseServices）**：-在一些云服务提供商的数据平台中，DWS可能指的是提供数据仓库功能的一组服务，这些服务可能包括数据存储、管理和分析工具。2.
大连赵哥·2024-09-01 16:11

基于Hadoop的高校教学管理平台设计与实现

文中就高校大数据平台的关键技术和架构进行阐述，结合高校实际情况，设计高校大数据平台架构，通过搭建Hadoop集群环境，以业务系统和平台之间的数据交互验证平台设计的可行性和优势。
这是辰辰啊·2024-09-01 00:38

基于Spark的云南旅游大数据分析平台

智慧旅游大数据平台的建设，能够为旅游业提供更加高效、智能的数据处理和分析能力，帮助旅游企业更好地了解市场需求、优化资源配置。
Sweican·2024-08-31 19:09

爬取MalwareBazaar实现恶意样本数据自由

在网上搜索后发现各个开源的数据集都有各种各样的问题，如这个DikeDataSet:https://github.com/iosifache/DikeDataset优点是有白样本，缺点是黑样本分布不均且主要集中在一个家族里发现有一个比较好用的开源数据平台
梦想闹钟·2024-08-30 18:51

【赵渝强老师】基于大数据组件的平台架构

  在了解了大数据各个生态圈所包含的组件及其功能特性后，就可以利用这些组件来搭建一个大数据平台从而实现数据的存储和数据的计算。下图展示了大数据平台的整体架构。  
赵渝强老师·2024-08-30 16:07

联发科Wi-Fi7基带芯片MT7996AV和收发芯片MT7977AN工艺全景图

芯品快报：亚德诺（ADI）超静音步进电机驱动芯片——TMC2209芯品快报：德州仪器（TI）的高性能、集成式的双全桥电机驱动器——DRV8412IPBrain小组集成电路大数据平台2024年07月11日
Victor-Tian·2024-08-30 10:58

大数据分析与大数据开发两者的区别是怎样的?

大数据主要分为两个就业方向：①大数据开发②大数据分析大数据分析：主要负责现有数据价值提炼与挖掘，包括业务增长点挖掘，产品改进点挖掘，业务分析指标体系构建，业务分析报告出具等大数据开发：主要负责大数据平台与应用开发
泰迪智能科技01·2024-08-29 10:18

550MHz超高主频：揭秘ST公司M7单核性能王MCU（附全系列MCU报告一览表）

550MHz超高主频：揭秘ST公司M7单核性能王MCU（附全系列MCU报告一览表）这周末，除非外面下钞票，否则谁也拦不住我玩《黑神话悟空》（附：两款可以玩转悟空的显卡推荐）原创IPBrain平台君集成电路大数据平台
Victor-Tian·2024-08-28 20:10

大模型企业应用落地系列三》基于大模型的对话式推荐系统》技术架构实现》大数据平台层

注：此文章内容均节选自充电了么创始人，CEO兼CTO陈敬雷老师的新书《自然语言处理原理与实战》（人工智能科学与技术丛书）【陈敬雷编著】【清华大学出版社】文章目录大模型企业应用落地系列三技术架构实现》大数据平台层大模型底座层具体实现大模型推荐技术发展趋势探讨总结大模型企业应用落地系列三技术架构实现
陈敬雷-充电了么-CEO兼CTO·2024-08-28 03:49

2019.10.31感恩日志

1.感恩天地的庇佑，父母的养育之恩2.感恩早晨一起静心，诵读金正宣言3.感恩与国家数据平台和夏国强对接国家上传平台数据传送项，对关键数据再次双方做核对4.感恩对平台续费项事宜做具体统计5.感恩对基金知识的学习
微风_f546·2024-08-27 23:57

初识大数据（二）医疗大数据

此篇文章主要跟大家介绍一下大数据在医疗行业内的应用与和落地，给我们的日常生活带和医疗行业带来什么样的变化、适合初入者了解大数据在行业内的应用落地，增加大数据从业人员的业务能力主要内容为大数据在医疗行业中应用价值、医疗大数据平台
9eb8afdad681·2024-08-27 05:35

【面试系列】30个常见的初级SQL编程题

⭐️大数据平台建设指南：全面讲解从数据采集到数据可视化的整个过程，掌握构建现代化数据平台的核心技术和方法。⭐️《遇见Python：初识、了解与热恋
野老杂谈·2024-08-25 22:31
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他