大数据-kafka

智慧农业平台与 DeepSeek 大模型的深度融合

智慧农业，作为农业现代化的重要发展方向，正借助人工智能、大数据等前沿技术，实现从传统到现代的跨越。
jingwang-cs·2025-03-13 01:05

EasyExcel 使用详解与示例

相比ApachePOI，EasyExcel在处理大数据量时表现更优，尤其适合处理百万行级别的Excel文件。2.主要特性高性能：采用流式读写模型，内存占用低，适合大数据量处理。
clownAdam·2025-03-12 23:24

本地docker安装zookeeper,kafka,flink

首先安装zookeeper这里zookeeper的安装是为了去使用kafka这里我们安装的是wurstmeister的kafka和zookeeper镜像也是在hub.docker.com网站上，Star
a724952091·2025-03-12 22:44

Docker-compose编排部署Kafka伪分布式集群(为后续实验搭建基础环境)

本实验参照官网http://kafka.apache.org/documentation/构建,为后续了解kafka应用做环境准备。
F_Hello_World·2025-03-12 22:13

大数据学习（61）-Impala与Hive计算引擎

&&大数据学习&&系列专栏：哲学语录:承认自己的无知，乃是开启智慧的大门如果觉得博主的文章还不错的话，请点赞+收藏⭐️+留言支持一下博主哦一、impala与yarn资源管理YARN是ApacheHadoop
viperrrrrrr·2025-03-12 21:38

大数据学习（62）- Hadoop-yarn

&&大数据学习&&系列专栏：哲学语录:承认自己的无知，乃是开启智慧的大门如果觉得博主的文章还不错的话，请点赞+收藏⭐️+留言支持一下博主哦一、YARN概述1.YARN简介Hadoop-YARN是ApacheHadoop
viperrrrrrr·2025-03-12 21:38

大数据学习（60）-HDFS文件结构

&&大数据学习&&系列专栏：哲学语录:承认自己的无知，乃是开启智慧的大门如果觉得博主的文章还不错的话，请点赞+收藏⭐️+留言支持一下博主哦一、体系结构HDFS是一个标准的主从(Master/Slave)
viperrrrrrr·2025-03-12 21:08

deepseek+ansible实现AI自动化集群部署

[架构图示意]用户交互层→AI决策层→执行引擎层→数据反馈层││││▼▼▼▼Web/CLI→DeepSeek引擎→Ansible→监控系统用户交互层Web界面：支持自然语言输入（如"部署10节点Kafka
大囚长·2025-03-12 20:59

面试基础---分布式架构基础消息队列Kafka vs RabbitMQ vs RocketMQ 对比

分布式架构消息队列深度解析：KafkavsRabbitMQvsRocketMQ引言在高并发、高可用的分布式系统中，消息队列是实现异步通信、流量削峰、系统解耦的核心组件。
WeiLai1112·2025-03-12 19:27

大数据面试之路 (三) mysql

将SparkSQL加工后的数据存入MySQL通常基于以下几个关键原因：1.数据应用场景适配OLTP与OLAP分工：SparkSQL擅长处理大数据量的OLAP（分析型）任务，而MySQL作为OLTP（事务型
愿与狸花过一生·2025-03-12 16:38

【大数据入门】第三章·数据预处理

个人主页：十二月的猫-CSDN博客系列专栏：《小白读透AI原理》_十二月的猫的博客-CSDN博客十二月的寒冬阻挡不了春天的脚步，十二点的黑夜遮蔽不住黎明的曙光目录1.前言2.为什么要进行数据预处理2.1脏数据3.数据预处理分类4.数据清理4.1数据填充4.1.1数据缺失的类型1.完全随机缺失（MissingCompletelyatRandom,MCAR）2.随机缺失（MissingatRandom
十二月的猫·2025-03-12 16:35

DeepSeek一键生成可视化看板

一、数据可视化的重要性在大数据时代，数据的价值不言而喻。但原始数据往往是繁杂无序
CodeJourney.·2025-03-12 13:17

使用Java开发工具包会遇到哪些问题

哈喽，大家好呀，淼淼又来和大家见面啦，Java作为一门广泛应用于企业级应用、安卓开发、大数据处理等领域的编程语言，其强大的跨平台能力和丰富的类库支持吸引了无数开发者。
·2025-03-12 13:58

Hive实用小文件合并方案

#Hive常见故障#大数据#生产环境真实案例#Hive#离线数据库#整理#经验总结说明：此篇总结hive常见故障案例处理方案结合自身经历总结不易+关注+收藏欢迎留言Hive实用小文件合并方案请往下翻！！
500佰·2025-03-12 12:45

大数据面试之路 (二) hive小文件合并优化方法

大量小文件容易在文件存储端造成瓶颈，影响处理效率。对此，您可以通过合并Map和Reduce的结果文件来处理。一、合并小文件的常见场景写入时产生小文件：Reduce任务过多或数据量过小，导致每个任务输出一个小文件。动态分区插入：分区字段基数高，每个分区生成少量数据，形成大量小文件。频繁追加数据：通过INSERTINTO多次追加数据，导致文件碎片化。二、合并小文件的核心方法方法1：调整Reduce任务
愿与狸花过一生·2025-03-12 12:11

Kafka 深入解析：架构原理、基本使用及丢数据场景分析

Kafka是一个高吞吐、分布式的消息队列系统，被广泛应用于日志处理、流式数据处理和事件驱动架构。本篇文章将详细介绍Kafka的架构原理、基本使用方法，并分析Kafka可能的丢数据场景及其解决方案。
唐唐爱吃糖111·2025-03-12 11:36

第八课：Scrapy框架入门：工业级爬虫开发

在当今大数据时代，数据抓取已成为信息获取的重要手段。Scrapy作为一个基于Python的开源网络爬虫框架，凭借其高效、灵活的特性，在工业级爬虫开发中占据重要地位。
deming_su·2025-03-12 11:05

flink（十一）：Table&Sql实现窗口水印计算

文章目录分享说明实现讲解代码总结分享大数据博客列表说明本博客每周五更新一次。
羽落风起·2025-03-12 11:34

Java集成消息队列实战：从RabbitMQ到Kafka的完整解决方案 [特殊字符]

发送短信异步执行系统解耦：支付服务与物流服务独立演进流量削峰：应对秒杀活动瞬时流量可靠传输：网络故障时保证消息不丢失1.2技术选型指南消息队列吞吐量延迟可靠性适用场景RabbitMQ万级微秒级★★★★★金融交易、实时通知Kafka
添砖Java中·2025-03-12 09:51

【愚公系列】2023年10月 WPF控件专题 Path控件详解

《博客内容》：.NET、Java、Python、Go、Node、前端、IOS、Android、鸿蒙、Linux、物联网、网络安全、大数据、人
愚公搬代码·2025-03-12 09:18

51-53 CVPR 2024 | DriveWorld：通过自动驾驶世界模型进行 4D 预训练场景理解 （含模型数据流梳理）

DriveWorld在UniAD的基础上又有所成长，提升了自动驾驶目标检测、目标追踪、3D占用、运动预测及规划的性能，后期扩大数据集和调整骨干网络大小应该会
深圳季连AIgraphX·2025-03-12 08:43

智能制造中的工业大数据分析实践

智能制造中的工业大数据分析实践关键词:智能制造，工业大数据，数据分析，机器学习，深度学习，预测性维护，质量控制，生产优化文章目录智能制造中的工业大数据分析实践1.背景介绍1.1问题的由来1.2研究现状1.3
AI天才研究院·2025-03-12 08:12

Java 大视界 -- 基于 Java 的大数据可视化交互设计与实现技巧（105）

一、欢迎加入【福利社群】点击快速加入：青云交灵犀技韵交响盛汇福利社群点击快速加入2：2024CSDN博客之星创作交流营（NEW)二、本博客的精华专栏：大数据新视
青云交·2025-03-12 07:07

Java 大视界 -- Java 大数据中的时间序列数据异常检测算法对比与实践（103）

一、欢迎加入【福利社群】点击快速加入：青云交灵犀技韵交响盛汇福利社群点击快速加入2：2024CSDN博客之星创作交流营（NEW)二、本博客的精华专栏：大数据新视
青云交·2025-03-12 07:07

实施一套先进的智能摄像头服务系统。

一、项目背景随着物联网、人工智能和大数据技术的飞速发展，智能摄像头已成为家庭、企业以及公共安全领域的重要设备。其便捷、高效、智能的特点，使得市场需求日益增长。
合方圆～小文·2025-03-12 07:04

记一次多线程导入问题排查过程

记一次多线程导入问题排查过程1.需求2.遇到问题3.排查解决问题1.需求大数据量的核对：现在有1000个excel文件，每个excel文件内有21个sheet页，现在要对这些数据进行核对，需要先将这些数据导入到库中
程序辕日记·2025-03-12 04:07

【大数据】大数据处理-Lambda架构-Kappa架构

大数据处理-Lambda架构-Kappa架构elasticsearch-headElasticsearch-sqlclientNLPchina/elasticsearch-sql:UseSQLtoqueryElasticsearch360
weixin_33884611·2025-03-12 04:37

2024年大数据技术4：Lambda和Kappa架构区别_lambda架构和kappa架构区别，2024年最新你花了多久弄明白架构设计

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，涵盖了95%以上大数据知识点，真正体系化！
2401_84182146·2025-03-12 03:32

大数据技术4：Lambda和Kappa架构区别_lambda架构和kappa架构区别(3)

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。需要这份系统化资料的朋友，可以戳这里获取一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！Lambda架构总共由三层系统组成：批处理层（Batc
2301_76348014·2025-03-12 03:32

mySQL和Hive的区别

Mysql将数据存储在设备或本地系统中；2、数据更新：Hive不支持数据的改写和添加，是在加载的时候就已经确定好了；数据库可以CRUD；3、索引：Hive无索引，每次扫描所有数据，底层是MR，并行计算，适用于大数据量
iijik55·2025-03-12 00:41

【时间序列聚类】从数据中发现隐藏的模式

在大数据时代，时间序列数据无处不在。无论是股票市场的价格波动、天气的变化趋势，还是用户的点击行为，这些数据都随着时间推移而产生。然而，面对海量的时间序列数据，我们如何从中提取有价值的信息？
T-I-M·2025-03-11 22:45

使用Spring Boot集成Kafka开发：接收Kafka消息的Java应用

Kafka是一个分布式的流处理平台，它具有高吞吐量、可扩展性和容错性的特点。SpringBoot提供了与Kafka集成的便捷方式，使得开发者可以轻松地创建Kafka消息接收应用。
YazIdris·2025-03-11 20:30

Spring Boot 集成 Kafka

Kafka作为一种高性能、分布式的消息队列系统，被广泛应用于各种场景。而SpringBoot作为一种流行的Java开发框架，提供了便捷的方式来构建应用程序。
m0_74824592·2025-03-11 20:57

家居巨头的觉醒，永洪科技为林氏家居开启一站式智慧决策

永洪科技与林氏家居的合作，是共同开发了一个企业级的一站式大数据分析平台。在合作多年的积累下，已逐步成为家居行业数字化转型的代表性案例。
永洪科技·2025-03-11 19:53

Hive在大数据集群下的部署

hive安装1）把apache-hive-3.1.3-bin.tar.gz上传到Linux的/opt/software目录下2）解压apache-hive-3.1.3-bin.tar.gz到/opt/module/目录下面tar-zxvf/opt/software/apache-hive-3.1.3-bin.tar.gz-C/opt/module/3）修改apache-hive-3.1.3-bin
正在绘制中·2025-03-11 18:47

搭建分布式Hive集群

title:搭建分布式Hive集群date:2024-11-2923:39:00categories:-服务器tags:-Hive-大数据搭建分布式Hive集群本次实验环境：Centos7-2009、Hadoop
逸曦玥泱·2025-03-11 18:17

斐波拉契数列

大数据版：斐波拉契数列-大数据版输入描述一个正整数n（1≤n≤104）。输出描述斐波那契数列的第n项F(n)。由于结果可能很大，因此将结果对10007取模后输出。样例1输入1输出1解释边界定义：F
RichardK.·2025-03-11 17:10

大数据技术生态圈：Hadoop、Hive、Spark的区别和关系

大数据技术生态圈：Hadoop、Hive、Spark的区别和关系在大数据领域中，Hadoop、Hive和Spark是三个常用的开源技术，它们在大数据处理和分析方面发挥着重要作用。
雨中徜徉的思绪漫溢·2025-03-11 17:07

flink+kafka实现流数据处理学习

在应用系统的建设过程中，通常都会遇到需要实时处理数据的场景，处理实时数据的框架有很多，本文将以一个示例来介绍flink+kafka在流数据处理中的应用。
上海研博数据·2025-03-11 17:06

大数据面试之路 (一) 数据倾斜

记录大数据面试历程数据倾斜大数据岗位，数据倾斜面试必问的一个问题。一、数据倾斜的表现与原因表现某个或某几个Task执行时间过长，其他Task快速完成。
愿与狸花过一生·2025-03-11 17:34

Zookeeper+kafka学习笔记

Zookeeper是Apache的一个java项目，属于Hadoop系统，扮演管理员的角色。配置管理分布式系统都有好多机器，比如我在搭建hadoop的HDFS的时候，需要在一个主机器上（Master节点）配置好HDFS需要的各种配置文件，然后通过scp命令把这些配置文件拷贝到其他节点上，这样各个机器拿到的配置信息是一致的，才能成功运行起来HDFS服务。Zookeeper提供了这样的一种服务：一种集
CHR_YTU·2025-03-11 16:01

SpringBoot下kafka配置生产者和消费者

SpringBoot下kafka配置生产者和消费者KafkaResourceConfiguration.javapackageits.uts.kafkatest;importlombok.Data;importorg.apache.kafka.clients.consumer.ConsumerConfig
种豆走天下·2025-03-11 16:00

Apache Kafka

两种广泛使用的消息队列系统是AWSSimpleQueueService(SQS)和ApacheKafka。尽管它们都提供消息传递功能，但在设计理念、功能和使用场景上存在显著差异。
fxrz12·2025-03-11 16:53

Zookeeper与Kafka学习笔记

核心要点1.核心特性分布式协调服务，用于维护配置/命名/同步等元数据采用层次化数据模型（Znode树结构），每个节点可存储<1MB数据典型应用场景：HadoopNameNode高可用HBase元数据管理Kafka
上海研博数据·2025-03-11 15:51

一文理清：阿里系数据中台-数据治理工具集(傻傻也能分清楚）

阿里云提供的大数据与数据分析产品种类较多，各产品的定位和核心功能有所不同。
Debug_Snail·2025-03-11 14:09

zookeeper与kafka集群配置

基本配置修改ipvi/etc/sysconfig/network-scripts/ifcfg-ens33BOOTPROTO=staticONBOOT=yesIPADDR=192.168.139.133NETMASK=255.255.255.0GATEWAY=192.168.139.2DNS1=192.168.1.1修改主机名hostnamectlset-hostnameSSH免密登录vi/etc/
zhangpeng455547940·2025-03-11 12:26

使用LangChain访问个人数据第一章-简介

需要学习提示词工程的同学请看面向开发者的提示词工程需要学习ChatGPT的同学请查看搭建基于ChatGPT的问答系统需要学习LangChian开发的同学请查看基于LangChain开发应用程序正文在大数据时代
明志刘明·2025-03-11 12:24

架构生命周期（演进史）技术应服务于业务

饿了么（工商局）4、大数据+云计算5、AI未来以来时代…第一时期单一应用架构allinone。所有的模块和代码都在一起。技术也不分层。(2000年左右)网站的初
Limbo1213·2025-03-11 09:59

MySQL-关于如何保存“大数据”

作者：赵师的工作日（赵明中）现役OracleACE、MySQL8.0ocp、TiDBPCTA\PCTP、ElasticsearchCertifiedEngineer微信号：mzzhao23微信公众号：赵师的工作日墨天轮社区：赵师的工作日CSND：赵师的工作日数据库的种类有很多，各类数据库充分发挥各自的优势从而保证业务稳定运行，mysql轻量级、关键数据，redis缓存、快，ES搜索，Mongodb
赵师的工作日·2025-03-11 08:55

PIPCA个人信息保护合规审计师认证介绍！

个人信息保护合规审计师"（PersonalInformationProtectionComplianceAuditor-CCRC）是中国网络安全审查认证中心与市场监管大数据中心为深入贯彻实施《
熙丫 13381482386·2025-03-11 07:50
上一页 2 3 4 5 6 7 8 9 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他