大数据~集群

k8s二进制集群之ETCD集群部署

下载etcd安装包创建etcd配置文件准备证书文件和etcd存储目录ETCD证书文件安装（分别对应指定节点）创建证书服务的配置文件启动etcd集群验证etcd集群状态继续上一篇文章《k8s二进制集群之ETCD

smart_ljh·2025-02-04 12:54

【分布式】服务端高并发分布式结构演进

文章目录1.单机架构1.1单机架构的优缺点1.2单机架构的典型应用场景2.应用与数据分离架构2.1应用与数据分离架构的优缺点2.2应用与数据分离架构的典型应用场景3.应用服务集群架构3.1应用服务集群架构的优缺点

阿猿收手吧！·2025-02-04 10:36

#Java 与 C++ 核心差异详解：从语法到实战的代码对比

语言定位差异||Java|C++|设计目标|"Writeonce,runanywhere"|"高性能系统级开发"|运行方式|JVM解释执行字节码|直接编译为机器码|典型场景|企业应用/Android/大数据

新宿椎名琳擒·2025-02-04 10:06

2024年最全Doris：读取Doris数据的N种方法_访问 doris，阿里大牛教你自己写大数据开发第三方库

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。需要这份系统化资料的朋友，可以戳这里获取一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！arrow-memory-netty${arrow.v

2401_84181108·2025-02-04 08:49

使用 Grafana 和 Prometheus展现消息队列性能

JMX提取Kafka数据，本篇文章将通过JDBC存储Kafka性能数据存储于数据库，并通过Grafana和Prometheus进行展示，实现开发中常用的可视化监控1.环境准备Kafka：运行中的Kafka集群

优人ovo·2025-02-04 07:16

Databricks 开源 LLM，训练只需三个小时

大数据分析公司DatabricksInc近日也加入了生成式AI领域的竞争之中，发布了一个名为Dolly的开源大型语言模型，将模型命名为Dolly是为了向第一只克隆羊多莉致敬。

唐城·2025-02-04 07:15

Paddle进阶实战系列（三）：基于SVTR算法的手写英文单词识别

‍作者简介：CSDN、阿里云人工智能领域博客专家，新星计划计算机视觉导师，百度飞桨PPDE，专注大数据与AI知识分享。

GoAI·2025-02-04 07:45

Ubuntu下Hadoop的安装与使用

//为hadoop设置密码sudoadduserhadoopsudo//为hadoop用户增加管理员权限2、更新apt并安装vimsudoapt-getupdate3、安装SSH、配置SSH无密码登陆集群

ly201552y·2025-02-04 07:44

Hadoop3.2.1安装-单机模式和伪分布式模式

Hadoop入门篇概述Hadoop是使用Java编写的，是为了解决大数据场景下的两大问题，分布式存储和分布式处理而诞生的，包含很多组件、套件。需要运行在Linux系统下。

花菜回锅肉·2025-02-04 07:13

Spark3.1.2单机安装部署

spark3.1.2单机安装部署概述Spark是一个性能优异的集群计算框架，广泛应用于大数据领域。

花菜回锅肉·2025-02-04 07:43

coredns 实践

coredns简介CoreDNS是用来做集群内部域名解析。

叱咤少帅（少帅）·2025-02-04 06:03

IM 即时通讯系统-47-beardlessCat IM 使用netty开发分布式Im，提供分布netty集群解决方案

IM开源系列IM即时通讯系统-41-开源野火IM专注于即时通讯实时音视频技术，提供优质可控的IM+RTC能力IM即时通讯系统-42-基于netty实现的IM服务端,提供客户端jar包,可集成自己的登录系统IM即时通讯系统-43-简单的仿QQ聊天安卓APPIM即时通讯系统-44-仿QQ即时通讯系统服务端IM即时通讯系统-45-merua0oo0IM分布式聊天系统IM即时通讯系统-46-OpenIM提

老马啸西风·2025-02-04 06:01

Flink Standalone集群模式安装部署全攻略

FlinkStandalone集群模式安装部署全攻略一、引言Flink作为一款强大的分布式流处理和批处理框架，在大数据领域有着广泛的应用。

自节码·2025-02-04 04:17

Caused by: java.io.NotSerializableException: org.apache.parquet.schema.MessageType

目前没解决，本地代码可以运行，打包集群运行也没问题，可能是zeppelin哪里的依赖包冲突。

黄瓜炖啤酒鸭·2025-02-04 04:17

【Flink】集群环境下的搭建（Standalone 模式）

前言Flink是目前开源社区中唯一一套集高吞吐、低延迟、高性能三者于一身的分布式流式数据处理框架，支持多种安装部署模式。主要包括以下几种‌1‌.Standalone模式‌：这是独立运行的模式，不依赖任何外部的资源管理平台，只需要运行所有Flink组件服务。这种模式适合开发和测试环境‌。2‌.YARN模式‌：在这种模式下，Flink应用提交给YARN的ResourceManager，Resource

つ情绪·2025-02-04 03:46

Flink cdc3

flink环境准备FlinkStandalone集群，下载最新版本Flink1.18.0，解压后得到flink-1.18.0目录。并且设置FLINK_HOME为flink-1.18.0所在目录。

2401_84167086·2025-02-04 03:46

为什么尽量避免使用 `IN` 和 `NOT IN`？

一、效率问题1.NOTIN的性能瓶颈在SQL查询中，NOTIN往往会导致性能问题，尤其是在处理大数据集时。以下

·2025-02-04 03:48

Elasticsearch集群架构：构建高效、可扩展的搜索平台

在当今大数据和云计算的时代，高效、实时的数据检索能力成为了企业核心竞争力的重要组成部分。

detayun·2025-02-04 03:11

随机森林（Random Forest）预测模型及其特征分析（Python和MATLAB实现）

##一、背景在大数据和机器学习的快速发展时代，数据的处理和分析变得尤为重要。随着多个领域积累了海量数据，传统的统计分析方法常常无法满足复杂问题的需求。在这种背景下，机器学习方法开始广泛应用。

追蜻蜓追累了·2025-02-04 03:09

大数据相关职位介绍之三（数据挖掘，数据安全，数据合规师，首席数据官，数据科学家）

小Tomkk·2025-02-04 02:33

流媒体娱乐服务平台在AWS上使用Presto作为大数据的交互式查询引擎的具体流程和代码

为了高效处理和分析这些数据，它选择了Presto作为其在AWSEMR上的大数据查询引擎。在AWSEMR上使用Presto取得了显著的成果和收获。

weixin_30777913·2025-02-04 00:23

Socket.IO负载均衡

个人博客地址：Socket.IO负载均衡|一张假钞的真实世界架构Nginx配置为了负载均衡时连接保证始终连到一个节点上，使用Nginx的ip_hash实现sessionsticky，让客户端始终连接到集群内一台节点上

一张假钞·2025-02-04 00:22

Python结合pyhdfs模块操作HDFS分布式文件系统

1：安装由于我的是windows环境（linux其实也一样），只要有pip或者setup_install安装起来都是很方便的pipinstallhdfs2：Client——创建集群连接fromhdfsimport

唐僧不爱八戒·2025-02-04 00:50

Spark基本概念

Spark核心组件Driver将用户程序转化为作业（job）在Executor之间调度任务(task)跟踪Executor的执行情况通过UI展示查询运行情况ExecutorSparkExecutor是集群中工作节点

javafanwk·2025-02-04 00:18

Spark 基本概念

ClusterModeOverview-Spark3.3.0DocumentationApplication：指的是用户编写的Spark应用程序/代码,一个完整的main方法程序，包含了Driver功能代码和分布在集群中多个节点上运行的

Buutoorr·2025-02-04 00:17

Doris中架构和mysql语法的差异

FE（Frontend）：存储、维护集群元数据；负责接收、解析查询请求，规划查询计划，调度查询执行，返回查询结果。

苦苦挣扎的小码农·2025-02-03 23:13

算法基础——一致性

引入最早研究一致性的场景既不是大数据领域，也不是分布式系统，而是多路处理器。

黄雪超·2025-02-03 23:10

大数据（一）MaxCompute

引言作者后面会使用MaxCompute，所以在进行学习研究，总会有一些疑问产生，这里讲讲作者的疑问和思路二、介绍MaxCompute（原名ODPS-OpenDataProcessingService）是阿里云提供的大数据处理平台

胖当当技术·2025-02-03 23:39

Kubernetes 配置Pod使用代理上网

配置KubernetesPod使用代理上网在企业网络环境中进行Kubernetes集群的管理时，经常会遇到需要配置Pods通过HTTP代理服务器访问Internet的情况。

·2025-02-03 20:39

使用Jenkins和单个模板部署多个Kubernetes组件

前言在持续集成和部署中，我们通常需要部署多个实例或组件到Kubernetes集群中。通过Jenkins的管道脚本，我们可以自动化这个过程。

·2025-02-03 20:38

猫眼大数据开发面试题及参考答案

Java基本数据类型有哪些？包装类型又是什么？Java的基本数据类型是Java语言中最基础的数据类型，它们用于存储简单的值。Java的基本数据类型主要分为以下几类：整型byte：占1个字节，取值范围是-128到127，通常用于节省内存的场景，比如处理文件或网络数据时，存储一些小的整数值。short：占2个字节，取值范围是-32768到32767，使用场景相对较少，但在某些需要节省内存且数值范围不大

大模型大数据攻城狮·2025-02-03 20:46

基于Java的智能家居设计：探讨Java在智能家居大数据处理中的角色

基于Java的智能家居设计：探讨Java在智能家居大数据处理中的角色关键词：智能家居,Java,大数据处理,机器学习,物联网1.背景介绍1.1问题由来随着物联网技术的发展，智能家居已经从一个概念转变为现实

杭州大厂Java程序媛·2025-02-03 19:36

大数据相关职位介绍之二（数据治理，数据库管理员，数据资产管理师，数据质量专员）

小Tomkk·2025-02-03 17:21

公司的k8s集群架构

应用部署模式的演进虚拟化模式容器化模式相比虚拟机和容器容器更加轻量级，启动更快（秒级）容器可移植性更好2.管理大量的容器带来了新的挑战容器编排调度引擎——k8s的好处简化应用部署提高硬件资源利用率健康检查和自修复自动扩容缩容服务发现和负载均衡二、k8s的集群架构主节点

Dragon-wei·2025-02-03 17:50

ExternalName Service 针对的是k8s集群外部有api服务的场景？

是的，**ExternalNameService正是专门用于将Kubernetes集群内部的应用请求代理到外部服务（如API、数据库等）的场景**。

A ?Charis·2025-02-03 17:19

k8s网络架构图_kubernetes搭建高可用集群架构图

MasterNode：主控节点，对集群进行调度管理。由APIServer、Sched

沈千越·2025-02-03 17:49

ETCD集群证书生成

安装cfssl工具配置CA证书请求文件创建CA证书创建CA证书策略配置etcd证书请求文件生成etcd证书继续上一篇文章《负载均衡器高可用部署》下面介绍一下etcd证书生成配置。其中涉及到的ip地址和证书基本信息请替换成你自己的信息。安装cfssl工具下载cfssl安装包https://github.com/cloudflare/cfssl/releases/download/v1.6.4/cfs

smart_ljh·2025-02-03 17:48

k8s集群部署：环境准备

1.设置主机名为每个节点设置主机别名，以便于集群中的角色识别：#设置主节点的主机名为kmastersudohostnamectlset-hostnamekmaster--static#设置工作节点1的主机名为

亦诗亦诗·2025-02-03 17:18

Oracle 分区在什么情况下使用？思维导图代码示例（java 架构)

以下是一些适合使用分区的情况：1.大型表优化超大数据量：当表包含数百万甚至数十亿行时，分区可以帮助提高查询性能。频繁更新：对于经常被插入、更新或删除的数据，分区可以减少锁定范围，提高并发性。

用心去追梦·2025-02-03 15:29

【爬虫】JS逆向解决蝉妈妈加密参数data

⭐️⭐️⭐️⭐️⭐️欢迎来到我的博客⭐️⭐️⭐️⭐️⭐️作者：秋无之地简介：CSDN爬虫、后端、大数据领域创作者。

秋无之地·2025-02-03 13:15

Windows下Go语言环境搭建和使用

可以用于系统监控、容器技术(Docker)、大数据、存储技术、分布式系统(HyperledgerFabric)、消息系统(Kafka客户端)、服务器管理、安全工具、Web工具等。

go语言学习基地·2025-02-03 11:36

关于将HashMap替换原有Map的key保持value不变报错java.util.ConcurrentModificationException的处理方案

前言由于苦逼的在公司支持上线，在等待es集群分片完成过程，实在闲的无聊，将之前本地Notion记得一些笔记扔上来一些打发下时间吧(￣.￣)需求有个类似下面的数据为Map>>，其中key为资源id，value

梦岚如雪·2025-02-03 11:56

多租户架构未提供统一的安全策略和框架，导致安全策略不一致

多租户架构下的网络安全分析与AI技术应用在云计算和大数据技术的快速发展背景下，多租户架构已成为企业应用的首选。多租户架构允许多个独立的应用共享同一套基础架构和资源池，从而降低了企业的运营成本。

图幻未来·2025-02-03 10:24

Kubernetes主要网络概念汇总（Summary of Main Networking Concepts in Kubernetes）

这种设计大大简化了网络层次，使得在集群内部各组件之间的连接更加自然。

Linux运维老纪·2025-02-03 09:48

K8S集群的高可用性（HA）架构如何设计

Kubernetes(K8S)高可用性（HighAvailability,HA）集群架构设计的目标是确保集群在发生组件或节点故障时，仍能提供持续的服务。

IT-民工21110·2025-02-03 09:17

Kafka ACL（访问控制列表）介绍

KafkaACL的基本概念1.1KafkaACL的目标1.2KafkaACL的组成部分2.Kafka支持的资源类型2.1Topic（主题）2.2ConsumerGroup（消费者组）2.3Cluster（集群

王多鱼的梦想～·2025-02-03 08:37

ElasticSearch集群搭建步骤

安装Elasticsearch导入ElasticsearchGPG密钥从RPM存储库安装三、设置基本安全性生成证书使用TLS加密节点间通信四、为Elasticsearch加密HTTP客户端通信五、配置集群编辑

Asui2233·2025-02-03 08:35

kylin套_Apache Kylin（一）Kylin介绍

1.传统大数据分析的问题在基于Hadoop生态的传统大数据分析中，主要使用的技术是MPP(MassivelyParallelProcessing)大规模并行处理和列式存储。

weixin_39898011·2025-02-03 07:57

可视化大屏

它不仅在电影中常见，而且已经实实在在地被应用在商业、金融、制造等各个行业的业务场景中，成为大数据分析和展示的重要工具。

梦屿千寻！！·2025-02-03 06:53

从零开始构建一个简单的Python Web爬虫实战指南与技巧

从零开始构建一个简单的PythonWeb爬虫实战指南与技巧随着数据科学和大数据分析的快速发展，网络爬虫（WebScraping）成为了获取互联网数据的重要工具。

一键难忘·2025-02-03 06:21

推荐频道