DB-大数据-Hadoop

Linux系统中HTTP隧道技术的未来发展趋势与挑战：穿越网络的“时光隧道”

随着云计算、大数据和人工智能等技术的迅猛发展，HTTP隧道技术也将迎来巨大的变革。想象一下，未来的HTT
华科℡云·2024-02-19 19:21

ETL数据集成工具DataX、Kettle、ETLCloud特点对比

ETL数据集成工具对于数据仓库，大数据集成类应用，通常会采用ETL工具辅助完成。
·2024-02-19 19:52

互联网加竞赛 大数据分析：基于时间序列的股票预测于分析

1简介Hi，大家好，这里是丹成学长，今天向大家介绍一个大数据项目大数据分析：基于时间序列的股票预测于分析2时间序列的由来提到时间序列分析技术，就不得不说到其中的AR/MA/ARMA/ARIMA分析模型。
Mr.D学长·2024-02-19 19:00

云计算、大数据、人工智能、物联网、虚拟现实技术、区块链技术（新一代信息技术）学习这一篇够了！

公有云(二)私有云(三)社区云(四)混合云四、云计算的特点(一)虚拟化技术(二)动态可扩展(三)按需部署(四)灵活性高(五)可靠性高(六)性价比高(七)可扩展性五、云计算的成用领城(一)金融云(二)制造云大数据一
IT小庄同学·2024-02-19 18:19

遂人心愿真难

不管什么定理，都是人的习惯造成的，利用大数据大概率去推理得出的结论。所有的顺心都是天时地利人和共同组合在一起形成的一种规律，具体到人就各有差距不一而衷。
岁月抚痕·2024-02-19 18:49

BIG DATA —— 大数据时代

大数据时代[英]维克托·迈尔—舍恩伯格肯尼斯·库克耶◎著盛杨燕周涛◎译《大数据时代》是国外大数据研究的先河之作，本书作者维克托·迈尔·舍恩伯格被誉为“大数据商业应用第一人”，他在书中前瞻性地指出，大数据带来的信息风暴正在变革我们的生活
EthanWYC601·2024-02-19 18:12

挑战杯 地铁大数据客流分析系统 设计与实现

文章目录1前言1.1实现目的2数据集2.2数据集概况2.3数据字段3实现效果3.1地铁数据整体概况3.2平均指标3.3地铁2018年9月开通运营的线路3.4客流量相关统计3.4.1线路客流量排行3.4.2站点客流量排行3.4.3入站客流排行3.4.4整体客流随时间变化趋势3.4.5不同线路客流随时间变化3.4.6不同线路的客流组成3.5收入消费指标统计3.5.1线路收入排行3.5.2各个站点对线路
laafeer·2024-02-19 16:41

中文语音标注工具FunASR（语音识别）

FunASR作用:能【准确】识别语音，并转成【文字、标出声调】他的原理，就不讲了，俺是搞大数据的，python这东西就勉强能写个爬虫和接口，机
我要用代码向我喜欢的女孩表白·2024-02-19 16:52

见世面的成本有多低？这几个技术公众号告诉你答案

大数据分析挖掘和Python机器学习商业智能BI、数据分析、数据挖掘、大数据、Python、机器学习、深度学习、算法等技术分享
傅一平·2024-02-19 16:19

Apache DolphinScheduler数仓任务管理规范

前言：大数据领域对多种任务都有调度需求，以离线数仓的任务应用最多，许多团队在调研开源产品后，选择ApacheDolphinScheduler（以下简称DS）作为调度场景的技术选型。
DolphinScheduler社区·2024-02-19 16:16

低代码配置式组态软件-BY组态

随着物联网、大数据等技术高速发展，我们逐步向数字化、可视化的人工智能（AI）时代的方向不断迈进。智能时代是工业4.0时代，我国工业领域正努力从“制造”迈向“智造”的新跨越。什么是组态软件？
·2024-02-19 16:04

Apache DolphinScheduler数仓任务管理规范

前言：大数据领域对多种任务都有调度需求，以离线数仓的任务应用最多，许多团队在调研开源产品后，选择ApacheDolphinScheduler（以下简称DS）作为调度场景的技术选型。
·2024-02-19 16:01

营销系统黑名单优化：位图的应用解析 | 京东云技术团队

营销系统一般是通过大数据分析建模，在CDP（客户数据平台，以客户为核心，围绕数据融合、人群圈选、用户洞察等提供产品能力）创建营销目标客户群体，黑名单同样也是通过CDP维护。
·2024-02-19 16:59

作物模型狂奔：Apsim、Wofost、Dssat

大数据量必须要脚本去跑，目前Apsim和Wofost出了点成果，跟大家分享一下。欢迎各位道友留言、私聊、交流病情最好到B站上去留言啦，CSDN平很少登录需要指导的话，那就得让我挣点零花咯，嘿嘿。
F_Dregs·2024-02-19 15:47

Pytorch-SGD算法解析

的个人空间-肆十二-个人主页-哔哩哔哩视频(bilibili.com)SGD，即随机梯度下降（StochasticGradientDescent），是机器学习中用于优化目标函数的迭代方法，特别是在处理大数据集和在线学习场景中
肆十二·2024-02-19 14:10

奇葩说第五季之你会去见大数据为你筛选出的最合适的人吗？

欧阳Sir被淘汰，如晶战队又输了。其实这期辩题反方是理想，正方是现实。所以奇葩说的观众那么有梦想，心里存着诗和远方，一定会选择反方。我也会的，但是我会经过正方的步骤再从心里走到反方去。虽然我选择反方，但我希望正方可以赢，我希望如晶赢，她在我心里就是无冕之王。而且，非常喜欢欧Sir，就像高晓松说的，他身上有种特别好的现代的荒诞感，一见他就高兴。他走了，真得舍不得。他不是个好辩手，可能都不太适合这个舞
昆仑君的猫·2024-02-19 14:18

redis学习笔记

Redis学习笔记文章目录Redis学习笔记一、NoSQL数据库简介1、解决问题2、NoSQL数据库二、Redis6概述和安装1、安装2、注意事项3、Redis使用4、其他介绍三、常用五大数据类型1、Redis
果然君·2024-02-19 14:19

p11 结构体：统计大数据

结构体定义（Struct）是一种用户定义的数据类型，用于组合不同数据类型的元素。它们允许将多个相关的变量组合在一起，形成一个逻辑上的单元。可以通过定义结构体来描述一个实际问题中的对象或概念，从而更好地组织和管理代码。输入一个正整数n(3voidmain(){structem{charname[10];floatjbg;floatfdg;floatzc;};structememp[100];inti
Mzylq·2024-02-19 14:16

Quick introduction to Apache Spark

Spark使用Hadoop的客户端库来
Liam_ml·2024-02-19 13:29

Hadoop Shuffle

Whentherearemultiplereducers,themaptaskspartitiontheiroutput,eachcreatingonepartitionforeachreducetask.Therecanbemanykeys(andtheirassociatedvalues)ineachpartition,buttherecordsforeverykeyareallinasing
SharlotteZZZ·2024-02-19 13:22

Flink系列-1、流式计算简介

大数据系列文章目录官方网址：https://flink.apache.org/学习资料：https://flink-learning.org.cn/目录数据的时效性流式计算和批量计算流式计算流程和特性分布式计算引擎什么是
技术武器库·2024-02-19 13:10

Flink 细粒度滑动窗口性能优化

大数据技术AIFlink/Spark/Hadoop/数仓，数据分析、面试，源码解读等干货学习资料118篇原创内容公众号1、概述1.1细粒度滑动的影响当使用细粒度的滑动窗口（窗口长度远远大于滑动步长）时，
hyunbar·2024-02-19 13:39

【大数据面试题】009 Flink 有哪些机制实现故障恢复

一步一个脚印，一天一道面试题（重点）容错检查点（Checkpoint）：Flink使用容错检查点来定期记录应用程序的状态。检查点包含了所有正在进行中的任务的状态信息。当发生故障时，Flink可以使用最近的检查点来恢复应用程序的状态。#从检查点恢复$bin/flinkrun-s:savepointPath容错恢复策略：Flink提供了多种容错恢复策略，可以根据具体的需求进行配置。例如，可以设置重启策
Jiweilai1·2024-02-19 13:05

【大数据面试题】007 谈一谈 Flink 背压

一步一个脚印，一天一道面试题（有些难点的面试题不一定每天都能发，但每天都会写）什么是背压Backpressure在流式处理框架中，如果下游的处理速度，比上游的输入数据小，就会导致程序处理慢，不稳定，甚至出现崩溃等问题。出现背压的原因上游数据突然增大比如数据源突然数据量增大多倍，下游处理速度跟不上。就像平时的小饭店能处理的很轻松，突然到了过年人多了很多，就会需要客人排队。网络，机器异常等这个也好理解
Jiweilai1·2024-02-19 13:35

菜鸟也崩了 分析分析原因+聊聊降本增笑

2.盈利降低淘宝没参与双十二活动3.业务线的缩减或重心偏移技术创新：近年来，人工智能、大数据、物联网等技术在物流行业得到了广泛应用，有效提高了物流效率，降低了运营成本。例如，一些物流公司利用大数据进行
我才是真的封不觉·2024-02-19 13:34

【大数据面试题】006介绍一下Parquet存储格式的优势

同时一般查询使用时不会使用所有列，而是只用到几列，所以查询速度会更快压缩比例高因为是列式存储，所以可以对同一类型的一段做压缩，压缩比例高支持的平台和框架多在Hadoop,Spark,Presto,Python
Jiweilai1·2024-02-19 13:34

【大数据面试题】008 谈一谈 Flink Slot 与 并行度

【大数据面试题】008谈一谈FlinkSlot与并行度配置并行度Parallelism概念作用Slot概念作用如何设置TaskManager任务管理器Flinksubmit脚本一步一个脚印，一天一道面试题该文章有较多引用文章
Jiweilai1·2024-02-19 13:01

云计算实训室建设方案2024

唯众公司提供云计算、大数据、人工智能等创新技术，为院校、政府、企业培养人才提供优质教学资源、师资培养、专业共建和产教融合等服务。
武汉唯众智创·2024-02-19 13:00

Sqoop 入门基础

简介Sqoop（SQLtoHadoop）是一个开源工具，用于在关系型数据库和Hadoop之间传输数据。
香菜的开发日记·2024-02-19 13:17

抖音为什么这么火

这种社交形态是以短音乐与短视频相结合的方式，而且它会根据大数据推荐当前最新最火的短视频给你看，第一时间抓住你的注意力，吸引你的眼球。从抖音的运营看，抖音成立于2016年9月，在探索蛰伏了
追宇·2024-02-19 13:57

hadoop硬件配置 高可用 datanode namenode硬件配置

每个分布式文件系统分块在NameNode的内存中大小约为250个字节，此外还要加上文件和目录所需的250字节空间。500字节一个块假设我们有5000个平均大小为20GB的文件并且使用默认的分布式文件系统分块大小（64MB）同时副本因子为3，5000*20GB=102400000M=97T那么NameNode需要保存5千万个分块的信息，这些分块的大小加上文件系统的开销总共需要1.5GB的内存。但是一
xcagy·2024-02-19 13:07

阿里云 ACR 制品中心 AI/大数据镜像专场上新推荐榜

随着容器技术和服务在企业的应用程度不断加深，企业对于容器的使用也越来越多地从在线业务逐渐向AI、大数据类型的工作负载发展。
·2024-02-19 12:02

投票助力 | 第19届（2023）数智招标采购行业年度评选网络投票已开启！

评选组委会经过为期一个多月的奖项申报、初选等环节，本着客观、公正的评审原则，以必联网和隆道平台大数据为依据，从业务水平、项目业绩
隆道·2024-02-19 12:43

大数据提醒你：中国这些古建筑，可能是下一个巴黎圣母院！

2019独角兽企业重金招聘Python工程师标准>>>大家晚上好，我是今天的提笔人嗅嗅。巴黎圣母院失火事件让我的心情很沉重，一句无关痛痒的安慰“巴黎不哭”，已经不能表达我对这场文化之殇的惋惜之痛，人类伟大的建筑在一瞬间被毁灭。世界唯一的不变的就是变化，且我们永远赶不上变化的速度，因为做不到预知未来，或者说预测的不够精准。这句话在过去是完全适用的，受限于科技水平、数据缺失等各方面的因素，曾经的很长时
weixin_33696822·2024-02-19 12:06

JVM（4）原理篇

以基础篇的这段代码为例：Java中的8大数据类型在虚拟机中的实现：boolean、byte、char、short在栈上是不是存在空间浪费？
梵高Coding·2024-02-19 12:05

「企业应用架构」应用程序架构的当前趋势

应用架构概述随着各种力量（云、移动、社交和大数据）的相互联系不断涌现，不利用这些力量的组织在未来将面临严重的业务劣势。
架构师研究会·2024-02-19 12:15

【大数据】HADOOP-YARN-ContainerExecutor容器启动器详解

在NodeManager中，有三种运行Container的方式，它们分别是:DefaultContainerExecutorLinuxContainerExecutorDockerContainerExecutor从它们的名字中，我们就能看得出来，默认情况下，一定使用的是DefaultContainerExecutor。而一般情况下，DefaultContainerExecutor也确实能够满足我
笑起来贼好看·2024-02-19 11:38

学习篇-Hadoop-YARN-环境搭建

文章目录一、Hadoop-YARN-环境搭建一、Hadoop-YARN-环境搭建官网参考：https://hadoop.apache.org/docs/stable/hadoop-project-dist
东东爱编码·2024-02-19 11:08

【大数据】HADOOP-Yarn集群界面UI指标项详解（建议收藏哦）

目录首页（Cluster）节点信息SchedulerMetrics：集群调度信息节点信息详解（Nodes）应用列表信息（applications）队列详情页（Scheduler）指标详细说明（非常重要）首页（Cluster）集群监控信息指标详解AppsSubmitted：已提交的应用AppsCompleted：已完成的应用AppsRunning：正在运行的应用ContainersRunning：正
笑起来贼好看·2024-02-19 11:08

Hadoop-Yarn-NodeManager都做了什么

一、源码下载下面是hadoop官方源码下载地址，我下载的是hadoop-3.2.4，那就一起来看下吧Indexof/dist/hadoop/core二、上下文在我的博客中已经简要的分析了NodeManager
隔着天花板看星星·2024-02-19 11:00

【2019-04-28】Hadoop分布式文件系统

Hadoop自带HDFS(hadoopdistributefilesystem)。HDFS默认数据块128M。
BigBigFlower·2024-02-19 11:56

Hadoop搭建之 start-yarn.sh 报错

在搭建伪分布式的Hadoop集群环境时，在配置基础环境了并成功开启了HDFS组件后，jps查看已运行的名称节点和数据节点进程，[hadoop@masterhadoop]$jps8994NameNode10396Jps9087DataNode9279SecondaryNameNode
万里长江雪·2024-02-19 11:58

hadoop-2.7.4-nodemanager无法启动问题解决方案

近期新配了hadoop-274版本的集群，发现有一个小问题，DataNode无法顺利启动。
半肉哥·2024-02-19 11:27

hadoop-yarn资源分配介绍-以及推荐常用优化参数

如果有什么不正确的欢迎大家一起交流学习~Yarn前言作为Hadoop2.x的一部分，YARN采用MapReduce中的资源管理功能并对其进行打包，以便新引擎可以使用它们。
Winhole·2024-02-19 11:26

python毕设选题 - 大数据上海租房数据爬取与分析可视化 -python 数据分析 可视化

为了大家能够顺利以及最少的精力通过毕设，学长分享优质毕业设计项目，今天要分享的是基于大数据上海租房数据爬取与分析可视化学长这里给一个题目综合评分(每项满分5分)难度系数：3分工作量：3分创新点：5分1课题背景基于
DanCheng-studio·2024-02-19 11:54

python毕设选题 - 大数据二手房数据爬取与分析可视化 -python 数据分析 可视化

为了大家能够顺利以及最少的精力通过毕设，学长分享优质毕业设计项目，今天要分享的是基于大数据招聘岗位数据分析与可视化系统学长这里给一个题目综合评分(每项满分5分)难度系数：3分工作量：3分创新点：5分1课题背景首先通过爬虫采集
DanCheng-studio·2024-02-19 11:54

python毕设选题 - 大数据商城人流数据分析与可视化 - python 大数据分析

为了大家能够顺利以及最少的精力通过毕设，学长分享优质毕业设计项目，今天要分享的是基于大数据的基站数据分析与可视化学长这里
DanCheng-studio·2024-02-19 11:24

教育正悄悄发生一场革命|一场数据驱动的教育革命

又被托夫勒蒙对了读书心得:如果回顾近20年来教育的演变历史，以上表面上的转折所带来的变化，会不约而同指向几个具体技术的成熟:可视化、社交网络、分部式系统、大量数据，以上关键词加在一起，有另外一个词汇:大数据
托克托127白燕妮·2024-02-19 11:15

Hadoop-Yarn-NodeManager如何计算Linux系统上的资源信息

NodeResourceMonitorImpl）时只是提了下SysInfoLinux，下面我们展开讲下SysInfoLinux是用于计算Linux系统上的资源信息的插件二、SysInfoLinux源码packageorg.apache.hadoop.util
隔着天花板看星星·2024-02-19 11:48

python毕设选题 - 大数据全国疫情数据分析与3D可视化 - python 大数据

为了大家能够顺利以及最少的精力通过毕设，学长分享优质毕业设计项目，今天要分享的是大数据全国疫情数据分析与3D可视化学长这里给一个题目综合评分(每项满分5分)难度系数：
DanCheng-studio·2024-02-19 11:47
上一页 12 13 14 15 16 17 18 19 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他