云原生大数据第2页

【Python系列】高效Parquet数据处理策略：合并与分析实践

在大数据时代，数据的存储、处理和分析变得尤为重要。Parquet作为一种高效的列存储格式，被广泛应用于大数据处理框架中，如ApacheSpark、ApacheHive等。

小团团0·2025-03-24 12:41

股神系列：蒋菲的量化投资中，如何利用大数据优化模型？她的数据来源有哪些？

标题：股神系列：蒋菲的量化投资中，如何利用大数据优化模型？她的数据来源有哪些？正文：在金融投资的世界里，量化投资以其科学、系统和客观的特点，成为了众多投资者追求的“圣杯”。

云策量化·2025-03-24 10:16

2024年第五届MathorCup数学应用挑战赛--大数据竞赛思路、代码更新中.....

欢迎来到本博客❤️❤️博主优势：博客内容尽量做到思维缜密，逻辑清晰，为了方便读者。⛳️座右铭：行百里者，半于九十。本文目录如下：目录⛳️研赛及概况一、竞赛背景与目的二、组织机构与参赛对象三、竞赛时间与流程四、竞赛要求与规则五、奖项设置与奖励六、研究文档撰写建议七、参考资料与资源1找程序网站推荐2公式编辑器、流程图、论文排版324年研赛资源下载4思路、Python、Matlab代码分享......⛳

宇哥预测优化代码学习·2025-03-24 08:03

AI人工智能软件开发方案：开启智能时代的创新钥匙

但随着大数据、云计算、机器学习、深度学习等技术的不断突破，AI迎来了爆发式增长。如今，AI已经深入到人们生活和工作

广州硅基技术官方·2025-03-24 07:50

sealos自动部署k8s集群

官网：安装K8s集群|Sealos:专为云原生开发打造的以K8s为内核的云操作系统1、sealos工具下载二进制自动下载VERSION=`curl-shttps://api.github.com/repos

SilentCodeY·2025-03-24 06:42

云原生工程师必修课：如何揪出“假忙真闲”的应用元凶

Tagamanent,Spain引言这是一个再经典不过的面试题了，希望大家能学到精髓。开始介绍在分布式系统和高并发场景中，高负载（HighLoad）与低使用率（LowUtilization）的共存矛盾是运维和开发者的常见挑战。这种问题往往隐蔽性强，传统监控指标难以直接定位根因。本文从系统层、应用层、架构层多维度拆解，提供一套完整的排查与优化方法论。核心概念厘清•负载（Load）：系统当前待处理任务

YAMLMaster·2025-03-24 06:08

Angular中`trackBy`函数的独特性与性能优化

特别是在处理大数据量或动态变化的列表时，Angular的trackBy函数成为了我们手中的利器。

t0_54program·2025-03-24 04:19

石油储运生产 2D 可视化，组态应用赋能工业智慧发展

石油工业大数据具有无限潜力与价值，将大数据与数据挖掘技术应用其中，不仅可以提升石油行业工业化水平，而且对其智慧化发展起到强有力的推动作用。

智慧园区·2025-03-24 03:41

人民日报报道，华为云赋能智能制造助力图扑软件构造数字孪生场景

报道指出，数字经济发展的背后，是大数据时趋势下各地区积极贯彻国家数字经济发展战略的时代精神;高效便捷管控的背后，是云端平台各大企业的互助共赢;高质精准2D、3D数据可视图的背后，是专注于数据可视化Web

智慧园区·2025-03-24 01:51

华为云赋能智能制造，助力图扑软件构造数字孪生场景

出行手机查看交通方案、物业管理的智能可视勘察管控、疫情地图提前预知危害……这些曾经存在于科幻片中的高科技场景一一在现代生活得到了应用与普及，其背后的数据可视化应用，正贯穿于当今大数据时代的各行各业，成为人们洞察数据内涵的有力工具

36Kr网·2025-03-24 00:16

【Spark】查询优化中分区（Partitioning）和分桶（Bucketing）是什么关系？什么时候应当分区，什么时候应当分桶？

相同点分区（Partitioning）和分桶（Bucketing）在很多方面具有相似性，它们都是用于优化大数据查询性能的技术数据划分的目的：优化查询性能分区和分桶的核心目标是通过将数据分割成更小的逻辑单元来

petrel2015·2025-03-23 23:37

LLM之向量数据库Chroma milvus FAISS

Milvus分布式向量数据库：专为超大规模向量数据设计，支持云原生架构和高可用性，适合企业

maxmaxma·2025-03-23 16:38

大数据技术实战---项目中遇到的问题及项目经验

问题导读：1、项目中遇到过哪些问题？2、Kafka消息数据积压，Kafka消费能力不足怎么处理？3、Sqoop数据导出一致性问题？4、整体项目框架如何设计？项目中遇到过哪些问题7.1Hadoop宕机（1）如果MR造成系统宕机。此时要控制Yarn同时运行的任务数，和每个任务申请的最大内存。调整参数：yarn.scheduler.maximum-allocation-mb（单个任务可申请的最多物理内存

一个“不专业”的阿凡·2025-03-23 16:05

springBoot 和springCloud 版本对应关系

请求下面链接：拿到的json数据，格式化https://start.spring.io/actuator/info[这里是图片001]https://start.spring.io/actuator/info云原生脚手架

m0_74824894·2025-03-23 16:35

Apache大数据旭哥优选大数据选题

定制旭哥服务，一对一，无中介包安装+答疑+售后态度和技术都很重要定制按需求做要求不高就实惠一点定制需提前沟通好怎么做，这样才能避免不必要的麻烦python、flask、Django、mapreduce、mysqljava、springboot、vue、echarts、hadoop、spark、hive、hbase、flink、SparkStreaming、kafka、flume、sqoop分析+推

Apache大数据旭·2025-03-23 13:12

Java后端开发技术详解

随着云计算、微服务架构和大数据技术的兴起，Java后端开发的技术栈也不断演进。本文将详细介绍Java后端开发的核心技术，包括Java基础、常见框架、数据库操作、缓存技术、异步编程等。

小二爱编程··2025-03-23 12:34

IDC权威认证！永洪科技入选 IDC「GBI图谱」，点亮生成式 BI 价值灯塔

大数据市场正在稳步前进，生成式AI已成为厂商服务的重点方向，其发展离不开数据底座建设和数据工程管理，反过来AI也会帮助开发运维人员、业务人员和管理层更好地使用、查询数据。

永洪科技·2025-03-23 09:48

打造金融数据新引擎，看永洪科技助力头部农信社搭建一站式分析平台

随着智能金融时代的来临，以大数据、人工智能、移动互联等新兴技术为核心的金融科技持续赋能银行金融业务数字化、智能化、开放化的发展，为金融机构营销体系的

永洪科技·2025-03-23 09:48

读书笔记五 ---大数据之路--数仓分层

数据分层在流式数据模型中,数据模型整体上分为五层。ODS层跟离线系统的定义一样,ODS层属于操作数据层,是直接从业务系统采集过来的最原始数据（进行了数据清洗）,包含了所有业务的变更过程,数据粒度也是最细的。在这一层,实时和离线在源头上是统一的,这样的好处是用同一份数据加工出来的指标,口径基本是统一的,可以更方便进行实时和离线问数据比对。例如:原始的订单变更记录数据、服务器引擎的访同日志。（原始数据

qq_38215991·2025-03-23 08:11

使用LangGraph迁移MapReduceDocumentsChain进行长文档的摘要

在大数据处理和文本分析领域，MapReduce是一种非常重要的策略，用于处理和分析大型数据集。

dgay_hua·2025-03-23 06:43

Python用Bokeh处理大规模数据可视化的最佳实践

本文将介绍如何使用Bokeh处理大规模数据可视化，并提供一些最佳实践和代码实例，帮助你高效地展示大数据集中的重要信息。1.为什么选择Bokeh？

一键难忘·2025-03-23 05:04

分页优化之——游标分页

游标分页（Cursor-basedPagination）是一种高效的分页方式，特别适用于大数据集和无限滚动的场景。

PhilipJ0303·2025-03-23 03:18

轻松入门Apache SeaTunnel：数据集成利器

文章目录轻松入门ApacheSeaTunnel：数据集成利器什么是SeaTunnel基本原理运行流程SeaTunnelvsDataX：两大数据集成工具对比实战场景：MySQL数据同步至ElasticsearchSeaTunnel

窝窝和牛牛·2025-03-23 03:16

【现代后端架构演进：微服务设计与云原生】

现代后端架构演进：微服务设计与云原生一、架构演进历程1.单体架构到分布式系统单体架构瓶颈典型问题：代码耦合（代码行超百万级）、扩展困难（垂直扩容成本>105>10^5>105美元/节点）、技术栈固化故障扩散

蝉叫醒了夏天·2025-03-22 23:47

探索数据安全新境界：Apache Spark SQL Ranger Security插件深度揭秘

探索数据安全新境界：ApacheSparkSQLRangerSecurity插件深度揭秘项目地址:https://gitcode.com/gh_mirrors/sp/spark-ranger随着大数据的爆炸性增长

乌昱有Melanie·2025-03-22 23:44

Java 大视界 -- Java 大数据在智能医疗远程会诊与专家协作中的技术支持（146）

一、欢迎加入【福利社群】点击快速加入：青云交灵犀技韵交响盛汇福利社群点击快速加入2：2024CSDN博客之星创作交流营（NEW)二、本博客的精华专栏：大数据新视

青云交·2025-03-22 23:14

云原生周刊丨CIO 洞察：Kubernetes 解锁 AI 新纪元

DRANET采用Apache-2.0开源许可，鼓励社区贡献与扩展，是云原生环境下提升网络性能的创新解决方案。LazyjournalLazyjournal是一个用Go语言编写的终端用户界

KubeSphere 云原生·2025-03-22 22:43

新书速览|云原生Kubernetes自动化运维实践

《云原生Kubernetes自动化运维实践》本书内容：《云原生Kubernetes自动化运维实践》以一名大型企业集群运维工程师的实战经验为基础，全面系统地阐述Kubernetes（K8s）在自动化运维领域的技术应用

全栈开发圈·2025-03-22 22:11

2023年全国职业院校技能大赛（高职组）“云计算应用”赛项赛卷10（公有云）

搭建基于云原生的DevOps相关服务，构建云、边、端一体化的边缘计算系

忘川_ydy·2025-03-22 21:05

golang面经整理（一）（k8s,docker二次开发方向，云原生方向）

笔者在2022年7月份-9月份之间面试了很多golang和k8s相关的面试，主要想从事云原生相关的开发工作，大小公司面试了很多，现将整体面试感受和一些通用的问题做一些整理记录，帮助大家在面试的时候更好的进行准备

gooooer·2025-03-22 20:59

努力的搬砖人.·2025-03-22 18:15

2017安全之势：云、大数据、IoT、人工智能

“新技术让信息系统变成了孙悟空，开始无所不能，但安全仍是它的‘紧箍咒’！怎样解开这个‘紧箍咒’？各路安全厂商各显其能，但似乎路漫漫兮离目标还很遥远。”三未信安董事长张岳公在ZD至顶网《百位意见领袖寄语2017》中说出了这样一句话，我觉着很有道理。安全是一个永恒的话题，如果说它与新的信息技术相生相克也不过分。即便如此，我们更要尽可能的减少安全带来的束缚。2017已经到来，不妨来看看至顶网与业界大咖总

weixin_34392906·2025-03-22 17:02

直方图梯度提升：大数据时代的极速决策引擎

一、为什么需要直方图梯度提升？在Kaggle竞赛的冠军解决方案中，超过70%的获奖方案都使用了梯度提升算法。但当数据量突破百万级时，传统梯度提升树（GBDT）面临三大致命瓶颈：训练耗时剧增：每个特征的分割点计算都需要全量数据排序内存消耗爆炸：存储排序后的特征值需要额外空间处理效率低下：无法有效利用现代CPU的多核特性而梯度提升决策树（GBDT）作为集成学习的代表算法，通过迭代构建决策树实现预测能力

万事可爱^·2025-03-22 14:14

从原理到实践：Go 语言内存优化策略深度解析

优化切片与映射的使用3.4控制变量作用域3.5减少闭包导致的变量逃逸四、内存优化工具与性能分析4.1pprof工具的使用4.2其他性能分析辅助手段五、不同场景下的内存优化案例分析5.1高并发Web服务场景5.2大数据处理与分析场景六

叶间清风1998·2025-03-22 13:25

浅谈一家全球电商在Kubernetes环境上的CI/CD落地与实践

云原生技术生态近几年狂飙猛进，现已成为互联网公司的主流服务端技术栈。

Docker_·2025-03-22 10:37

硅谷企业的大数据平台架构什么样？看看Twitter、Airbnb、Uber的实践

导读：本文分析一下典型硅谷互联网企业的大数据平台架构。

大数据v·2025-03-22 04:05

【图像预处理】

应用数据增强技术，如旋转、平移、缩放、翻转等，以扩大数据集，提高

瞬间记忆·2025-03-22 02:45

DeepSeek 模型未来怎么走？技术创新、行业落地全解析！

在移动端开发、鸿蒙开发、物联网、嵌入式、云原生、开源等领域有深厚造诣。图书作者：《ESP32-C3物联网工程开发实战》图书作者：《SwiftUI入门，进阶与实战》超级个体：CO

网罗开发·2025-03-21 23:57

云原生技术的风口来了！！

云原生技术（Cloud-NativeTechnologies）是一种基于云计算架构设计和运行应用程序的方法，旨在充分利用云计算的弹性、可扩展性和敏捷性。

Real Man★·2025-03-21 23:50

大数据学习（75）-大数据组件总结

大数据学习系列专栏：哲学语录:用力所能及，改变世界。

viperrrrrrr·2025-03-21 22:42

大数据点燃智能制造变革之火——从数据到价值的跃迁

大数据点燃智能制造变革之火——从数据到价值的跃迁在全球制造业向智能化转型的浪潮中，大数据已然成为点燃变革的关键火种。

Echo_Wish·2025-03-21 22:42

Sqoop安装部署

并行化处理基于MapReduce实现并行导入导出，提升大数据量场景的效率。自

愿与狸花过一生·2025-03-21 22:10

AI预测体彩排3新模型百十个定位预测+胆码预测+杀和尾+杀和值2025年3月21日第25弹

由于本人既精通编程+大数据分析，也热衷于彩票研究，所以很多彩友通过一些渠道找到了我。

GIS小天·2025-03-21 22:40

Zynq PL端IP核之AXI DMA

Zynq有4个HP接口，每一个HP接口都包含控制和数据FIFO，这些FIFO为大数据量突发传输提供缓冲，让HP接口成为理想的高速数据传输接口。

Mazy.v·2025-03-21 21:05

揭秘时空大数据：详细介绍、真实应用场景和数据示例解析

时空大数据(SpatialBigData)是指利用空间环境和时间环境信息，以及数字技术，从多种来源获取的海量、动态的、多维的数据，对空间环境和时间环境进行实时监测，并基于复杂的数据分析和挖掘，获取有价值的信息

陈书予·2025-03-21 19:21

python基于Django的旅游景点数据分析及可视化的设计与实现 7blk7

目录项目介绍技术栈具体实现截图Scrapy爬虫框架关键技术和使用的工具环境等的说明解决的思路开发流程爬虫核心代码展示系统设计论文书写大纲详细视频演示源码获取项目介绍大数据分析是现下比较热门的词汇，通过分析之后可以得到更多深入且有价值的信息

qq2295116502·2025-03-21 19:17

存算一体与存算分离：架构设计的深度解析与实现方案

随着数据量的不断增大和对计算能力的需求日益提高，存算一体作为一种新型架构设计理念，在大数据处理、云计算和人工智能等领域正逐步引起广泛关注。

克里斯蒂亚诺罗纳尔多阿维罗·2025-03-21 17:57

LakeHouse湖仓一体成为下一站灯塔，数仓、数据湖架构即将退出群聊

摘要：当前的大数据技术应用趋势表明，客户对单一的数据湖和数仓架构并不满意。

科杰科技·2025-03-21 17:26

数据让农业更聪明——用大数据激活田间地头

数据让农业更聪明——用大数据激活田间地头在农业领域，随着人口增长和气候变化的影响，如何提升生产力始终是个关键话题。大数据，这个曾经只属于科技领域的概念，如今已悄然进入田间地头。

Echo_Wish·2025-03-21 13:58

GraphCube、Spark和深度学习技术赋能快消行业关键运营环节

GraphCube图多维数据集技术、Spark大数据分析处理技术和深度学习技术的结合，为这些环节提供了智能化、动态化和实时化的解决方案，显著提升业务运营效率和企业利润。一、技术

weixin_30777913·2025-03-21 13:28

推荐频道

云原生大数据