大数据云原生hadoop

马士兵 day4_Yarn和Map/Reduce配置启动和原理讲解

分布式计算原则：移动计算，而不是移动数据hadoop默认包含了hdfs、yarn、mapReduce三个组件yarn（YetAnotherResourceNegotiater）是资源调度系统，yarn调配的是内存和
PC_Repair·2024-02-19 20:28

如何设计出一个高效的埋点管理系统？

作者介绍@九果入行大数据8年；某大厂数据产品经理；专注于数据产品，并持续学习中；“数据人创作者联盟”成员。01为什么要做埋点管理系统？
一个数据人的自留地·2024-02-19 20:27

好消息！茗创系列课程年度会员，众多课程可免费畅学！

茗创年度会员加入茗创年度会员以下课程可免费畅学不仅享有会员专属服务、优惠购课还有课程上新提醒哦脑影像组学培训班直播时间：2023.7.4~7.7随着大数据、人工智能的深入融合发展，一项新的研究方法开始用于临床研究
茗创科技·2024-02-19 20:23

Flink-部署实践

1)修改flink/conf/flink-conf.yaml文件:jobmanager.rpc.address:hadoop1132)修改/conf/masters文件:hadoop1133)修改/conf
魔笛Love·2024-02-19 20:52

主流开发语言和开发环境?

Java被广泛应用于企业级应用开发、移动应用（特别是Android应用）、游戏开发、大数据处理（如Hadoop生态系统）、云计算服务端开发等场景。C++简介：C+
dami_king·2024-02-19 20:50

[Flink04] Flink部署实践

但Flink是大数据计算框架，不是资源调度框架，这并不是它的强项；所以还是应该让专业的框架做专业的事，和其他资源调度框架集成更靠谱。FlinkonYarn模式，把资源管理交给Ya
YoungerChina·2024-02-19 20:49

Redis 集群(Cluster)

虽然硬件价格在不断降低，一些中大厂的服务器内存已经可以达到TB级别了，但是1TB在当前这个“大数据”时代，俨然不算什么，有的时候我们确实需要更大
ikun66666·2024-02-19 20:19

扩展学习|大数据，新的认识论和范式转变

文献来源：[1]KitchinR.BigData,NewEpistemologiesandParadigmShift[J].BigData&Society,2014,1(1):1-12.DOI:10.1177/2053951714528481.下载链接：https://pan.baidu.com/s/1RdnIo5VeL-CERk2sxyILiQ提取码：0ih2一、科学研究的范式转变正如库恩(19
封印师请假去地球钓鱼·2024-02-19 20:32

GlusterFS：开源分布式文件系统的深度解析与应用场景实践

引言在当今大数据时代背景下，企业对存储系统的容量、性能和可靠性提出了前所未有的挑战。
超逮虾户·2024-02-19 19:20

阿里巴巴的云原生应用开源探索与实践

作者|司徒放责编|阿秃出品|CSDN云计算（ID：CSDNcloud）阿里巴巴的应用架构演进分享阿里巴巴在云原生应用方面的探索之前，先和大家介绍一下阿里巴巴在整个应用架构方面的演进历程。
CSDN云计算·2024-02-19 19:44

Linux系统中HTTP隧道技术的未来发展趋势与挑战：穿越网络的“时光隧道”

随着云计算、大数据和人工智能等技术的迅猛发展，HTTP隧道技术也将迎来巨大的变革。想象一下，未来的HTT
华科℡云·2024-02-19 19:21

ETL数据集成工具DataX、Kettle、ETLCloud特点对比

ETL数据集成工具对于数据仓库，大数据集成类应用，通常会采用ETL工具辅助完成。
·2024-02-19 19:52

互联网加竞赛 大数据分析：基于时间序列的股票预测于分析

1简介Hi，大家好，这里是丹成学长，今天向大家介绍一个大数据项目大数据分析：基于时间序列的股票预测于分析2时间序列的由来提到时间序列分析技术，就不得不说到其中的AR/MA/ARMA/ARIMA分析模型。
Mr.D学长·2024-02-19 19:00

云计算、大数据、人工智能、物联网、虚拟现实技术、区块链技术（新一代信息技术）学习这一篇够了！

公有云(二)私有云(三)社区云(四)混合云四、云计算的特点(一)虚拟化技术(二)动态可扩展(三)按需部署(四)灵活性高(五)可靠性高(六)性价比高(七)可扩展性五、云计算的成用领城(一)金融云(二)制造云大数据一
IT小庄同学·2024-02-19 18:19

遂人心愿真难

不管什么定理，都是人的习惯造成的，利用大数据大概率去推理得出的结论。所有的顺心都是天时地利人和共同组合在一起形成的一种规律，具体到人就各有差距不一而衷。
岁月抚痕·2024-02-19 18:49

学习笔记：云原生容器化技术——Docker

Docker学习笔记前言一、Docker概述1.1Docker为什么会出现？1.2Docker的历史1.3Docker为什么这么火爆？1.4虚拟机技术与容器化技术的区别二、Docker安装2.1Docker的基本组成2.2Docker安装2.3阿里云镜像加速2.4dockerrun的执行流程2.5Docker工作原理三、Docker命令3.1镜像命令3.2容器命令3.3其他常用命令3.4小结3.5
自传丶·2024-02-19 18:19

【云原生】Docker-compose单机容器集群编排

内容预知1.Compose的相关知识1.Compose的相关概念2.为何需要docker-composedocker镜像管理的问题DockerCompose的解决方案3.Compose的特征2.Docker-compose的安装3.Compose配置常用字段和YAML文件编写3.1YAML文件格式及编写注意事项（1）YAML序列（2）YAML映射(3)序列的映射（4）映射的映射（5）序列的序列（6
站在这别动，我去给你买橘子·2024-02-19 18:49

云原生系列 四【轻松入门容器基础操作】

✅作者简介：CSDN内容合伙人，全栈领域新星创作者，阿里云专家博主，华为云云享专家博主，掘金后端评审团成员前言：最近云原生领域热火朝天，那么云原生是什么？何为云原生？云原生用来干什么的？
叶秋学长·2024-02-19 18:17

云原生容器化-1 Linux虚拟网络介绍2—netfilter/iptables框架

背景：承接上文云原生容器化-1Linux虚拟网络介绍，本文以netfilter/iptables框架内容为主题，介绍框架原理和实践操作；由于后续介绍的Docker网络原理不涉及MAC层，因此本文内容聚焦在
Ewen Seong·2024-02-19 18:43

BIG DATA —— 大数据时代

大数据时代[英]维克托·迈尔—舍恩伯格肯尼斯·库克耶◎著盛杨燕周涛◎译《大数据时代》是国外大数据研究的先河之作，本书作者维克托·迈尔·舍恩伯格被誉为“大数据商业应用第一人”，他在书中前瞻性地指出，大数据带来的信息风暴正在变革我们的生活
EthanWYC601·2024-02-19 18:12

云原生容器化-5 Docker常见操作命令

1.登录和退出docker仓库使用dockerlogin和dockerlogout分别用于登录和退出docker仓库。#登录时携带用户名、密码、仓库地址信息[email protected]:8000dockerlogin--usernameseong--password3er4#ER$192.168.0.22:8000#
Ewen Seong·2024-02-19 18:08

挑战杯 地铁大数据客流分析系统 设计与实现

文章目录1前言1.1实现目的2数据集2.2数据集概况2.3数据字段3实现效果3.1地铁数据整体概况3.2平均指标3.3地铁2018年9月开通运营的线路3.4客流量相关统计3.4.1线路客流量排行3.4.2站点客流量排行3.4.3入站客流排行3.4.4整体客流随时间变化趋势3.4.5不同线路客流随时间变化3.4.6不同线路的客流组成3.5收入消费指标统计3.5.1线路收入排行3.5.2各个站点对线路
laafeer·2024-02-19 16:41

中文语音标注工具FunASR（语音识别）

FunASR作用:能【准确】识别语音，并转成【文字、标出声调】他的原理，就不讲了，俺是搞大数据的，python这东西就勉强能写个爬虫和接口，机
我要用代码向我喜欢的女孩表白·2024-02-19 16:52

见世面的成本有多低？这几个技术公众号告诉你答案

大数据分析挖掘和Python机器学习商业智能BI、数据分析、数据挖掘、大数据、Python、机器学习、深度学习、算法等技术分享
傅一平·2024-02-19 16:19

Apache DolphinScheduler数仓任务管理规范

前言：大数据领域对多种任务都有调度需求，以离线数仓的任务应用最多，许多团队在调研开源产品后，选择ApacheDolphinScheduler（以下简称DS）作为调度场景的技术选型。
DolphinScheduler社区·2024-02-19 16:16

低代码配置式组态软件-BY组态

随着物联网、大数据等技术高速发展，我们逐步向数字化、可视化的人工智能（AI）时代的方向不断迈进。智能时代是工业4.0时代，我国工业领域正努力从“制造”迈向“智造”的新跨越。什么是组态软件？
·2024-02-19 16:04

Apache DolphinScheduler数仓任务管理规范

前言：大数据领域对多种任务都有调度需求，以离线数仓的任务应用最多，许多团队在调研开源产品后，选择ApacheDolphinScheduler（以下简称DS）作为调度场景的技术选型。
·2024-02-19 16:01

营销系统黑名单优化：位图的应用解析 | 京东云技术团队

营销系统一般是通过大数据分析建模，在CDP（客户数据平台，以客户为核心，围绕数据融合、人群圈选、用户洞察等提供产品能力）创建营销目标客户群体，黑名单同样也是通过CDP维护。
·2024-02-19 16:59

基于Spring Cloud创建弹性微服务

这正是SpringCloud的登场时机：一个全面的框架，用于构建云原生应用程序。2SpringCloud简介SpringCloud
虚无火星车·2024-02-19 16:01

作物模型狂奔：Apsim、Wofost、Dssat

大数据量必须要脚本去跑，目前Apsim和Wofost出了点成果，跟大家分享一下。欢迎各位道友留言、私聊、交流病情最好到B站上去留言啦，CSDN平很少登录需要指导的话，那就得让我挣点零花咯，嘿嘿。
F_Dregs·2024-02-19 15:47

JeecgBoot集成TiDB，打造高效可靠的数据存储解决方案

同时支持在线事务处理与在线分析处理(HybridTransactionalandAnalyticalProcessing,HTAP)的融合型分布式数据库产品，具备水平扩容或者缩容、金融级高可用、实时HTAP、云原生的分布式数据库
·2024-02-19 15:56

Pytorch-SGD算法解析

的个人空间-肆十二-个人主页-哔哩哔哩视频(bilibili.com)SGD，即随机梯度下降（StochasticGradientDescent），是机器学习中用于优化目标函数的迭代方法，特别是在处理大数据集和在线学习场景中
肆十二·2024-02-19 14:10

奇葩说第五季之你会去见大数据为你筛选出的最合适的人吗？

欧阳Sir被淘汰，如晶战队又输了。其实这期辩题反方是理想，正方是现实。所以奇葩说的观众那么有梦想，心里存着诗和远方，一定会选择反方。我也会的，但是我会经过正方的步骤再从心里走到反方去。虽然我选择反方，但我希望正方可以赢，我希望如晶赢，她在我心里就是无冕之王。而且，非常喜欢欧Sir，就像高晓松说的，他身上有种特别好的现代的荒诞感，一见他就高兴。他走了，真得舍不得。他不是个好辩手，可能都不太适合这个舞
昆仑君的猫·2024-02-19 14:18

redis学习笔记

Redis学习笔记文章目录Redis学习笔记一、NoSQL数据库简介1、解决问题2、NoSQL数据库二、Redis6概述和安装1、安装2、注意事项3、Redis使用4、其他介绍三、常用五大数据类型1、Redis
果然君·2024-02-19 14:19

p11 结构体：统计大数据

结构体定义（Struct）是一种用户定义的数据类型，用于组合不同数据类型的元素。它们允许将多个相关的变量组合在一起，形成一个逻辑上的单元。可以通过定义结构体来描述一个实际问题中的对象或概念，从而更好地组织和管理代码。输入一个正整数n(3voidmain(){structem{charname[10];floatjbg;floatfdg;floatzc;};structememp[100];inti
Mzylq·2024-02-19 14:16

Quick introduction to Apache Spark

Spark使用Hadoop的客户端库来
Liam_ml·2024-02-19 13:29

Hadoop Shuffle

Whentherearemultiplereducers,themaptaskspartitiontheiroutput,eachcreatingonepartitionforeachreducetask.Therecanbemanykeys(andtheirassociatedvalues)ineachpartition,buttherecordsforeverykeyareallinasing
SharlotteZZZ·2024-02-19 13:22

Flink系列-1、流式计算简介

大数据系列文章目录官方网址：https://flink.apache.org/学习资料：https://flink-learning.org.cn/目录数据的时效性流式计算和批量计算流式计算流程和特性分布式计算引擎什么是
技术武器库·2024-02-19 13:10

Flink 细粒度滑动窗口性能优化

大数据技术AIFlink/Spark/Hadoop/数仓，数据分析、面试，源码解读等干货学习资料118篇原创内容公众号1、概述1.1细粒度滑动的影响当使用细粒度的滑动窗口（窗口长度远远大于滑动步长）时，
hyunbar·2024-02-19 13:39

极狐GitLab 与 Flux 集成实现 GitOps

关于GitOps的更多详细内容可以查看本公众号过往的文章：云原生时代，你还不懂GitOps？让KAS给GitOps插上腾飞的翅膀极狐GitLab和ArgoCD
·2024-02-19 13:11

【大数据面试题】009 Flink 有哪些机制实现故障恢复

一步一个脚印，一天一道面试题（重点）容错检查点（Checkpoint）：Flink使用容错检查点来定期记录应用程序的状态。检查点包含了所有正在进行中的任务的状态信息。当发生故障时，Flink可以使用最近的检查点来恢复应用程序的状态。#从检查点恢复$bin/flinkrun-s:savepointPath容错恢复策略：Flink提供了多种容错恢复策略，可以根据具体的需求进行配置。例如，可以设置重启策
Jiweilai1·2024-02-19 13:05

【大数据面试题】007 谈一谈 Flink 背压

一步一个脚印，一天一道面试题（有些难点的面试题不一定每天都能发，但每天都会写）什么是背压Backpressure在流式处理框架中，如果下游的处理速度，比上游的输入数据小，就会导致程序处理慢，不稳定，甚至出现崩溃等问题。出现背压的原因上游数据突然增大比如数据源突然数据量增大多倍，下游处理速度跟不上。就像平时的小饭店能处理的很轻松，突然到了过年人多了很多，就会需要客人排队。网络，机器异常等这个也好理解
Jiweilai1·2024-02-19 13:35

菜鸟也崩了 分析分析原因+聊聊降本增笑

2.盈利降低淘宝没参与双十二活动3.业务线的缩减或重心偏移技术创新：近年来，人工智能、大数据、物联网等技术在物流行业得到了广泛应用，有效提高了物流效率，降低了运营成本。例如，一些物流公司利用大数据进行
我才是真的封不觉·2024-02-19 13:34

【大数据面试题】006介绍一下Parquet存储格式的优势

同时一般查询使用时不会使用所有列，而是只用到几列，所以查询速度会更快压缩比例高因为是列式存储，所以可以对同一类型的一段做压缩，压缩比例高支持的平台和框架多在Hadoop,Spark,Presto,Python
Jiweilai1·2024-02-19 13:34

【大数据面试题】008 谈一谈 Flink Slot 与 并行度

【大数据面试题】008谈一谈FlinkSlot与并行度配置并行度Parallelism概念作用Slot概念作用如何设置TaskManager任务管理器Flinksubmit脚本一步一个脚印，一天一道面试题该文章有较多引用文章
Jiweilai1·2024-02-19 13:01

云计算实训室建设方案2024

唯众公司提供云计算、大数据、人工智能等创新技术，为院校、政府、企业培养人才提供优质教学资源、师资培养、专业共建和产教融合等服务。
武汉唯众智创·2024-02-19 13:00

Sqoop 入门基础

简介Sqoop（SQLtoHadoop）是一个开源工具，用于在关系型数据库和Hadoop之间传输数据。
香菜的开发日记·2024-02-19 13:17

抖音为什么这么火

这种社交形态是以短音乐与短视频相结合的方式，而且它会根据大数据推荐当前最新最火的短视频给你看，第一时间抓住你的注意力，吸引你的眼球。从抖音的运营看，抖音成立于2016年9月，在探索蛰伏了
追宇·2024-02-19 13:57

hadoop硬件配置 高可用 datanode namenode硬件配置

每个分布式文件系统分块在NameNode的内存中大小约为250个字节，此外还要加上文件和目录所需的250字节空间。500字节一个块假设我们有5000个平均大小为20GB的文件并且使用默认的分布式文件系统分块大小（64MB）同时副本因子为3，5000*20GB=102400000M=97T那么NameNode需要保存5千万个分块的信息，这些分块的大小加上文件系统的开销总共需要1.5GB的内存。但是一
xcagy·2024-02-19 13:07

云原生之容器编排实践-在K8S集群中使用Registry2搭建私有镜像仓库

背景基于前面搭建的3节点Kubernetes集群，今天我们使用Registry2搭建私有镜像仓库，这在镜像安全性以及离线环境下运维等方面具有重要意义。Note:由于是测试环境，以下创建了一个local-storage的StorageClass，并使用本地磁盘的方式创建使用PV，实际建议使用NFS。虚机资源共用到了三台虚机，1台作为Master节点，2台Worker节点。主机名IP说明k8s-mas
Heartsuit·2024-02-19 13:01
上一页 14 15 16 17 18 19 20 21 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他