工作流任务调度大数据

DeepSeek AI大模型 Prompt工程 Langchain AI原生应用开发 Milvus AnythingLLM Dify知识点详解，一次到位，少走弯路

DeepSeekR1本地部署DeepSeekApi接口调用DeepSeekRAG知识库工作流系列教程通过上面视频的学习，我们能够全面掌握PromptEngineeri

yuanlaile·2025-03-27 12:38

GEE AI：利用 LLMs 来协助地理空间分析中的规划和代码生成，加快数据处理流程

我们的目标是利用LLMs来协助地理空间分析中的规划和代码生成，从而大大加快分析师的工作流程。地理空间工作流程自动化的一个重要部分是根据特定的地理空间查询确定哪些数据集最相关

此星光明·2025-03-27 12:35

单细胞分析（六）——使用seurat进行去批次整合

特别是，在标准工作流程下，识别存在于多个数据集中的细胞群可能会有问题。Seurat有包括一组跨数据集match（或“align”）共有细胞群的方法。

生信小鹏·2025-03-27 12:04

影刀魔法指令3.0：开启自动化新篇章

在数字化飞速发展的今天，自动化工具已经成为提升工作效率、优化工作流程的重要手段。影刀RPA作为一款强大的自动化软件，其最近推出的魔法指令3.0版本，更是让人大开眼界，为自动化操作带来了全新的可能性。

彼方᭄゛ঞ·2025-03-27 11:31

hive sql 正则提取括号中内容

我整理的一些关于【数据】的项目学习资料（附讲解～～）和大家一起分享、学习一下：https://d.51cto.com/eDOcp1使用HiveSQL正则提取括号中的内容在数据分析和处理的过程中，尤其是在大数据平台

Rideo-rax·2025-03-27 11:58

Spark大数据分析与实战笔记（第四章 Spark SQL结构化数据文件处理-01）

文章目录每日一句正能量第4章SparkSQL结构化数据文件处理章节概要4.1SparkSQL概述4.1.1SparkSQL的简介4.1.2SparkSQL架构每日一句正能量世事洞明皆学问，人情练达即文章。第4章SparkSQL结构化数据文件处理章节概要在很多情况下，开发工程师并不了解Scala语言，也不了解Spark常用API，但又非常想要使用Spark框架提供的强大的数据分析能力。Spark的开

想你依然心痛·2025-03-27 10:19

Hive UDF开发实战：构建高性能JSON生成器

核心代码实现3.1UDF类骨架3.2高级类型处理四、部署与使用4.1打包与注册4.2使用示例五、性能优化技巧六、功能扩展方向七、生产环境注意事项八、性能对比测试九、总结与展望往期精彩一、背景与需求场景在大数据生态中

莫叫石榴姐·2025-03-27 09:16

Hadoop/Spark 生态

Hadoop/Spark生态是大数据处理的核心技术体系，专为解决海量数据的存储、计算和分析问题而设计。以下从底层原理到核心组件详细讲解，帮助你快速建立知识框架！一、为什么需要Hadoop/Spark？

不辉放弃·2025-03-27 09:15

数字化知识管理：理论与应用研究

一、数字化知识管理的背景与框架随着人工智能、大数据等技术的快速发展，知识管理逐渐从传统模式转向数字化、智能化。

meisongqing·2025-03-27 08:40

Python人工智能项目报告

GPT与Sora，AIGC，财务管理，HR，服务管理，工农业，安全管理，温度，大规模推动人工智能2.0时代已经到来，以高质量大数据为原料，场景智能，人机交互，视觉技术，

烂白菜@·2025-03-27 06:51

试试智能体工作流，自动化搞定运维故障排查

APO1.5.0版本全新推出的智能体工作流功能，让运维经验不再零散！只需将日常的运维操作和故障排查经验转化为标准化流程，就能一键复用，效率翻倍，从此告别重复劳动，把时间留给更有价值的创新工作。

云观秋毫·2025-03-27 06:50

数据湖和Apache Iceberg，Apache Hudi，Delta Lake

数据湖这个词目前已经流行开来，逐步被数据相关的从业者接受，可能还有很多人不太清楚它和Hadoop，Hive，Spark这些大数据系统的区别，简单说数据湖是个业务概念，主要是为了区别传统数仓这个概念的（传统数仓的定义

西土城计划·2025-03-27 05:17

大数据分析工具Power BI（八）：动态TOPN统计

动态TOPN统计一、TOPN统计分析在一些数据分析场景中我们经常遇到获取topN统计的问题，例如统计销量topN的店铺对应的总销售额、统计订单量TopN的门店总销售额等等。针对这种TopN问题的分析，在PowerBI中我们需要使用TOPN函数，TOPN函数可以返回指定表的前N行数据。之前我们学习过RANKX函数，RANKX可以根据指定的度量值表达式来对数据进行排名没有办法获取前几名数据，TOPN可

Lansonli·2025-03-27 02:55

LangChain开发（九）基于Rag实现文档问答

Rag工作流索引（Indexing）检索和生成（Retrievalandgeneration）文档问答实现流程代码实现源码地址参考资料关联阅读LangChain开发（一）LangChain介绍和对话demoLangChain

丶只有影子·2025-03-27 02:54

镜舟科技荣登《2024 中国大数据产业年度「国产化」优秀代表厂商》榜单！

在近日于上海成功举办的“释放×数效应·共创智+未来”2024第七届金猿&魔方论坛上，镜舟科技凭借其在数据分析领域的卓越贡献和国产化技术实力，入选《2024中国大数据产业年度「国产化」优秀代表厂商》榜单，

·2025-03-27 02:58

算力网络战略布局与数字未来演进

以“东数西算”工程为例，通过构建八大枢纽节点与十大数据中心集群，实现算力资源跨区域动态调配，支撑工业互联网、智慧医疗等高实时性场景需求。关键维度技术特征典型应用场景异构计算架构

智能计算研究中心·2025-03-27 02:23

Spring Cloud Stream：打造强大的微服务事件驱动架构

随着云计算、微服务和大数据技术的快速发展，构建可扩展、高性能和弹性的应用程序变得越来越重要。

Java爱好狂.·2025-03-27 00:08

FreeRTOS学习（十）：任务调度器挂起与恢复机制详解

FreeRTOS学习（十）：任务调度器挂起与恢复机制详解文章目录FreeRTOS学习（十）：任务调度器挂起与恢复机制详解简介一、任务挂起与恢复的API函数1.1任务挂起函数1.2任务恢复函数二、重要特性与临界区的区别资源保护三

小麦嵌入式·2025-03-27 00:36

施尧耘：量子计算终将实现；段路明：大规模量子计算还任重道远

本讲将由阿里云量子技术首席量子科学家施尧耘亲临现场，与清华大学海峡研究院大数据AI中心专家委员、百度七剑客之一、酷我音乐创始人雷鸣老师、清华大学姚期智讲座教授段路明教授、昆仲资本创始管理合伙人王钧老师共同参与

lyuharvey·2025-03-26 22:54

【ESP32S3】esp32获取串口数据并通过http上传到前端

通过前面的学习（前面没发过，因为其实就是跑它的demo）了解到串口配置以及开启线程实现功能的工作流程，与此同时还有esp32作为STA节点，将数据通过http发送到服务器。

kiro_1023·2025-03-26 20:15

数据库总结

由于近期实习涉及到阿里云大数据开发套件的使用，主要涉及到odps、ads、rds、ots相关数据库的操作，所以针对性的做一些总结，并将阿里云中产品与实际产品对应分析。

wzz87·2025-03-26 20:09

AnalyticDB: 强大的云端向量数据库解决方案

AnalyticDB:强大的云端向量数据库解决方案引言在当今大数据和人工智能快速发展的时代，高效的数据存储和检索系统变得越来越重要。

qq_37836323·2025-03-26 19:36

Redis 事务详解：迈向未来的分布式数据一致性方案

在大数据和分布式系统不断演进的今天，数据一致性与高性能存取成为了系统设计中的核心问题。Redis作为内存数据存储的佼佼者，其事务机制为开发者提供了一种既高效又可靠的方式来实现数据的原子性操作。

金枝玉叶9·2025-03-26 19:01

Git分布式版本控制工具

1.Git工作流程命令如下：clone(克隆)：从远程仓库中克隆代码到本地仓库中checkout（检出）：从本地仓库中检出一个仓库分支进行修订/切换子分支add(添加)：在提交前现将代码提交到暂存区commit

cloudy-m·2025-03-26 18:57

如何成为一名成功的AI产品经理：从传统产品到AI产品的转型之路

本文将结合实际经验，为您详细解析AI产品经理的工作流程、学习路径以及成功的关键要素。无论你是刚刚接触AI的新手，还是已经在传统产

python_知世·2025-03-26 18:26

Final Cut Pro完全指南：视频剪辑革命者的进化史

从1999年的初代版本到如今的FCPX，它不仅见证了数字视频编辑的发展，更重塑了整个行业的工作流程。让我们深入了解这款改变行业的软件。

·2025-03-26 16:38

Unity使用ProtoBuf

ProtoBuf1ProtocolBuffers(protobuf)和protobuf-net1.0protobuf的优势1.网络通信2.数据存储3.配置文件4.日志记录5.游戏开发6.微服务架构7.移动应用8.物联网（IoT）9.大数据处理

飞浪纪元[FWC–FE]·2025-03-26 12:13

[特殊字符] Dify v1.1.3 震撼更新！效率翻倍、安全升级，这些新功能太香了！

核心亮点速览工作流动态升级：新增related-id支持，迭代节点更灵活！iOS输入修复：终于不用再担心iOS设备输入报错了！ESLint缓存加速：代码检查速度UP，开发效率翻倍！

福大大架构师每日一题·2025-03-26 09:50

MySQL 学习之批量插入数据性能问题

文章目录现象优化现象在使用kettle同步大数据的数据到我们的MySQL数据库中时发现，数据量大时插入效率很慢，大约在2000/s优化在MySQL驱动连接中添加rewriteBatchedStatements

zxguan·2025-03-26 08:15

HFSS 使用指南 —— 新手项目完整实现步骤

本文将详细介绍如何从零开始创建一个HFSS项目，并完成电磁场求解与结果分析，帮助初学者快速掌握HFSS的基本工作流程。

KL_lililli·2025-03-26 07:00

V100架构深度优化指南

本指南聚焦架构层面的核心优化要素，系统梳理从TensorCore矩阵运算加速原理到NVLink多卡通信协议的底层工作机制，同时深入探讨CUDA任务调度模型与显存子系统的协同优化路径。

智能计算研究中心·2025-03-26 04:39

如何根据个人现状确定职业方向转型大数据

xiaokaiabcde·2025-03-26 03:59

未来数据驱动的视觉革命

在大数据与人工智能蓬勃发展的时代，数据不再只是静态的数字，而是推动创新与决策的“燃料”。如何以直观、高效的方式展示数据，成为各行各业实现数字化转型的关键。

金枝玉叶9·2025-03-26 03:28

2024年大数据最全教你IDEA解决GIT冲突_idea git解决冲突(2)，2024年最新面试复盘

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！

2401_84170337·2025-03-26 00:09

如何在linux操作系统里面使用gcc编译程序并且运行

1.gcc工作流程1.1预处理--E所作的内容有：宏替换、头文件展开、去掉注释xxx.c文件->xxx.i文件(.i文件还是c文件)1.2编译--S最浪费时间的xxx.i->xxx.s(.s是汇编文件)

chenziang1·2025-03-25 23:04

40% 降本：多点 DMALL x StarRocks 的湖仓升级实战

作为DMALLOS数字化能力的技术底座，大数据平台历经多次迭代平稳支撑了公司ToB业务的快速开展。随着国家产业升级和云原生技术的成熟，平台架构也从存算一体逐步转向存算分离。

·2025-03-25 23:41

Java后端开发中的任务调度：使用Spring Batch实现批处理

Java后端开发中的任务调度：使用SpringBatch实现批处理大家好，我是微赚淘客返利系统3.0的小编，是个冬天不穿秋裤，天冷也要风度的程序猿！在现代企业应用中，批处理是处理大规模数据的重要方式。

weixin_836869520·2025-03-25 20:40

Spring Boot 集成 Quartz 实现定时任务（Cron 表达式示例）

SpringBoot集成Quartz实现定时任务（Cron表达式示例）前言1.添加Quartz依赖2.创建Quartz任务3.配置Quartz任务调度4.启动SpringBoot观察定时任务执行5.QuartzCron

my1121716951·2025-03-25 20:36

2024年河南省职业院校技能大赛高职组 “大数据分析与应用” 赛项任务书（四）

2024年河南省职业院校技能大赛高职组“大数据分析与应用”赛项任务书（四））背景描述：任务一：Hadoop完全分布式安装配置（25分）任务二：离线数据处理（25分）子任务一：数据抽取任务三：数据采集与实时计算

落寞的魚丶·2025-03-25 19:32

经营帮：让企业数字化转型不再是难题

经营帮用前沿技术和大数据生态，让企业转型不再是选择

中钧科技·2025-03-25 18:25

云原生周刊：Ingress-NGINX 漏洞

·2025-03-25 18:30

Spring MVC配置详解：从历史到实战

文章目录一、JavaWeb的发展历程1.ModelI与ModelII开发模式（1）ModelI开发模式（2）ModelII开发模式2.MVC设计模式SpringMVC本质MVC工作流程二、SpringMVC

wertuiop_·2025-03-25 17:46

尚硅谷大数据项目【电商数仓6.0】-Kafka安装-3

解压tar-zxvf/opt/software/kafka_2.12-3.3.1.tgz-C/opt/module/mvkafka_2.12-3.3.1/kafkacd/opt/module/kafka/configviserver.properties#LicensedtotheApacheSoftwareFoundation(ASF)underoneormore#contributorlice

Xiaoweidumpb·2025-03-25 15:32

大数据项目之电商数仓（用户行为采集平台）

大数据项目之电商数仓（用户行为采集平台）版本：V5.0第1章数据仓库概念数据仓库（DataWarehouse），是为企业制定决策，提供数据支持的。可以帮助企业，改进业务流程、提高产品质量等。

qq_42042882·2025-03-25 15:01

尚硅谷大数据项目【电商数仓6.0】-Datax-6

安装tar-zxvfdatax.tar.gz-C/opt/module/测试python/opt/module/datax/bin/datax.py/opt/module/datax/job/job.jsonMySQLToHDFS根据官方文档写配置json{"job":{"content":[{"reader":{"name":"mysqlreader","parameter":{"column"

Xiaoweidumpb·2025-03-25 14:26

大数据学习-hive（四：数仓搭建，数据监控，数据支持）

一：数仓搭建1：完备性。要保证所需要的数据全部到达数仓。2：准备性。etl，和数据的计算校验，确保输出的数据准确。3：一致性。确保输出端口一致，防止输出数据不准。4：时效性。每天的定时调度。5：规范性。表名，字段名要进行规范化处理。6：稳定性。确保数仓稳定。二：数仓校验1：建表语句--建表--droptableifexistsdm.dim_dk_vehicle_info_dqc;createtab

宇智波云·2025-03-25 14:23

分布式之分布式ID

目录需求1.全局唯一性2.高性能3.高可用性4.可扩展性5.有序性6.时间相关7.长度适中8.安全性9.分布式一致性10.易于集成常见解决方案选择依据数据库号段模式核心概念工作流程优点缺点实现示例优化策略适用场景

点滴~·2025-03-25 13:50

【大数据入门核心技术-Hive】（二十一）Hive中double和decimal的区别

一、集群环境部署1、Hive环境安装部署参考【大数据入门核心技术-Hive】（三）Hive3.1.2非高可用集群搭建【大数据入门核心技术-Hive】（四）Hive3.1.2高可用集群搭建二、HiveDouble

forest_long·2025-03-25 13:49

大数据（2）Hadoop架构深度拆解：HDFS与MapReduce企业级实战与高阶调优

目录一、分布式系统的设计哲学演进1.1从Google三驾马车到现代数据湖二、企业级HDFS架构全景图2.1联邦架构的深度实践2.2生产环境容灾设计2.3性能压测方法论三、MapReduce引擎内核解密3.1Shuffle机制全链路优化3.2资源调度革命：从MRv1到YARN3.3企业级编码规范四、千亿级数据分析实战：运营商信令数据挖掘4.1场景描述4.2优化后的MR作业链4.3性能对比数据五、云原

一个天蝎座白勺程序猿·2025-03-25 13:48

Python数据科学基础（四）：函数定义与Lambda表达式的艺术

Python数据科学基础（四）：函数定义与Lambda表达式的艺术本文导览为什么函数是数据科学工作流的秘密武器标准函数定义：构建可重用的数据处理模块Lambda表达式：数据转换的瑞士军刀函数参数的艺术：

SuperMale-zxq·2025-03-25 13:47

推荐频道