hadoop离线数仓

hadoop必记知识点（2）

6.hadoop集群计算的时候，什么是集群的主要瓶颈？展开说一下，生产遇到了什么问题？在Hadoop集群进行计算时，可能会遇到多个瓶颈，但最主要的通常包括网络带宽、存储以及CPU处理能力。
运维仙人·2024-01-30 02:39

hadoop必记知识点（3）

在这里插入图片描述Hadoop的Combiner的作用Hadoop的Combiner是一个在map任务执行完之后、在数据被发送到reduce任务之前执行的函数。
运维仙人·2024-01-30 02:09

本地数据库IndexedDB - 初学者

IndexedDB为生成WebApplication提供了丰富的查询能力，使我们的应用在在线和离线时都可以正常工作。一、基本模式IndexedDB建议使用的基本模式如下所示：打开数据库。
觉醒法师·2024-01-30 01:02

大数据 - Hadoop系列《三》- MapReduce（分布式计算引擎）概述

上一篇文章：大数据-Hadoop系列《三》-HDFS（分布式文件系统）概述-CSDN博客目录12.1针对MapReduce的设计构思1.如何对付大数据处理场景2.构建抽象编程模型3.统一架构、隐藏底层细节
王哪跑nn·2024-01-29 23:31

浅析大数据的技术生态圈(Hadoop，hive，spark)

大数据本身是个很宽泛的概念，Hadoop生态圈（或者泛生态圈）基本上都是为了处理超过单机尺度的数据处理而诞生的。你可以把它比作一个厨房所以需要的各种工具。锅碗瓢盆，各有各的用处，互相之间又有重合。
Rysinal·2024-01-29 19:11

浅析大数据汇总

传统的数据库技术已经无法满足对这些海量数据的存储和处理需求，因此出现了分布式存储和计算技术，如Hadoop、HBase等。
shinelord明·2024-01-29 19:10

阿里云服务器2024年2核16G、4核32G、8核64G配置最新收费标准及活动价格

2核16G、8核64G、4核32G配置的云服务器处理器与内存比为1:8，这种配比的云服务器一般适用于数据分析与挖掘，Hadoop、Spark集群和数据库，缓存等内存密集型场景，因此，多为企业级用户选择，
qq_3304559116·2024-01-29 18:17

离线生成双语字幕基于AI大模型ModelScope

制作双语字幕的原理也极其简单，无非就是人声背景音分离、语音转文字、文字翻译，最后就是字幕文件的合并，但美中不足之处这些环节中需要接口api的参与，比如翻译字幕，那么有没有一种彻底离线的解决方案？
softshow1026·2024-01-29 18:28

申万宏源基于 StarRocks 构建实时数仓

作者：申万宏源证券实时数仓项目组小编导读：申万宏源证券有限公司是由新中国第一家股份制证券公司——申银万国证券股份有限公司与国内资本市场第一家上市证券公司——宏源证券股份有限公司，于2015年1月16日合并组建而成
StarRocks_labs·2024-01-29 18:23

美团外卖搜索基于Elasticsearch的优化实践

1.前言最近十年，Elasticsearch已经成为了最受欢迎的开源检索引擎，其作为离线数仓、近线检索、B端检索的经典基建，已沉淀了大量的实践案例及优化总结。
架构未来·2024-01-29 17:07

全面解析基于Hadoop模型的数据分析平台框架

本文主要讲解以下两个方面：♦HadoopMapReduce与Hive技术研究♦数据分析平台框架设计与环境配置HadoopMapReduce与Hive技术研究一、Hadoop框架工作机制Hadoop框架定义
丨程序之道丨·2024-01-29 17:04

数据湖技术之应用场景篇

比如说在线数据抽取场景原有模式对线上库表产生较大压力，flink多流join维护的大状态导致的稳定性问题等等，具体场景如下图所示：场景1:在线数据抽取业务一般会从线上mysql库表以离线方式抽取全量数据到
风筝Lee·2024-01-29 16:04

HiperMOS机器人离线编程软件助力工业机器人应用于加工领域

工业机器人的串联机构与数控车床的并联机构本身的特性不同，决定了业内人士一般不会用机器人来做“精确、可靠的加工”。+/-0.100mm以上的公差使搬运、码垛、装配、焊接等对精度要求不高的生产场景变成了机器人的常见用途。近年来，随着工业机器人初始精度的提高，机器人的公差达到了0.01+毫米以下，工厂可以使用机器人执行原来被认为只有数控机床的精度才能胜任的工作。美中不足的是，机器人本身自带的编程软件满足
HiperMOS·2024-01-29 15:17

考试

看到此信息，感觉头大了几倍，对考试有一种无形的恐惧，尤其是生完二宝后，智商严重下降，俗称“孕傻”，做什么事好像都是离线状态。考试，从小到大经历了无数次，学生时代的考试，是检验对所学知识的掌握程度。
陌染sdq·2024-01-29 15:13

【若泽大数据第一天】--在vmware workstation上安装CentOS6.5系统

一、下载并安装vmwareworkstationpro12二、下载CentOS6.5镜像文件三、创建虚拟机并命名为hadoop0011、在VM12中选择创建新虚拟机2、自定义高级3、默认下一步4、选择稍后安装操作系统
naroutofan·2024-01-29 11:25

Elasticsearch集群部署及Head插件安装

由于ES比较吃内存，所以每台服务器的配置要求为：CPU：2核内存：2G我的三个节点分别是HadoopNode01、HadoopNode02、HadoopNode03，以下操作全部基于HadoopNode01
景鹏虎晓·2024-01-29 11:54

spark快速入门java_Spark 快速入门

既然本教程中我们不使用HDFS,你可以随便下载一个适配任何Hadoop的版本的Spark。
陈兰香·2024-01-29 11:54

基于大数据平台的kylin安装部署手册

目录一.单例Kylin部署1.环境准备1.1软件要求1.2硬件要求1.3Hadoop环境1.4安装前环境检查1.4.1开启时钟同步1.4.2安装net-tools1.4.3检查hbase是否可用1.4.4
猿来孺词·2024-01-29 10:26

MR和Spark的比较

二、hadoop和spark的shuffle相同和差异？三、Spark与Hadoop差异一、Spark为什么比MR快？
猿来孺词·2024-01-29 10:55

数据仓库模型设计：从架构到实践的全方位指南

一、数仓模型架构在构建数据仓库时，首先需要明确模型架构，以确保数据仓库的高内聚和低耦合，以及数据的分层管理。
猿来孺词·2024-01-29 10:51

Elk运维-Elastic7.6.1集群安装部署

集群安装结果说明实例配置安装软件安装账号hadoop12C4G磁盘：50G云服务器elasticsearchkibanardhadoop22C4G磁盘：50G云服务器elasticsearchrdhadoop32C4G
消逝的bug·2024-01-29 10:11

Hadoop学习之路（七） MapReduce框架Partitioner分区

Partitioner分区的作用是什么？在进行MapReduce计算时，有时候需要把最终输出数据分到不同的文件中，比如按照省份划分的话，需要把同一省份的数据放到一个文件中；按照性别划分的话，需要把同一性别的数据放到一个文件中。我们知道最终的输出数据是来自于Reducer任务。那么如果要得到多个文件，意味着有相同数量的Reducer任务在运行。Reducer任务的数据来自于Mapper任务，也就是M
shine_rainbow·2024-01-29 10:26

部队离线指纹电子查岗系统设计要点

专门针对干部定期巡查每个岗位的离线指纹查岗系统，由：离线指纹巡检器、每个岗位巡检点、管理软件等三部分组成。
华西建筑关联专业公司 华鲲智慧·2024-01-29 09:55

【CANoe使用大全】——离线回放数据

‍♂️【CANoe使用大全】系列‍♂️点击跳转文章目录1.概述2.Offline3.综述1.概述本章主要介绍数据的离线回放操作2.Offline导入需要加载的文件导入完成效果：点击开关便可进行数据回放3
77赫兹·2024-01-29 09:44

CANoe使用大全

数据库制作【CANoe使用大全】——Trace窗口【CANoe使用大全】——Graphics窗口【CANoe使用大全】——报文发送（IG）【CANoe使用大全】——Logging窗口【CANoe使用大全】——离线回放数据
77赫兹·2024-01-29 09:14

【Docker笔记】Docker安装及配置

Docker安装步骤docker-compose安装Windows安装Docker安装步骤常见问题解决WSL2installationisincompleteCentOS安装Docker在线安装：官方文档离线安装
木子家有小可爱·2024-01-29 08:21

HDFS

HDFS入门1.1.HDFS介绍HDFS是HadoopDistributeFileSystem的简称，意为：Hadoop分布式文件系统。是Hadoop核心组件之一，作为最底层的分布式存储服务而存在。
VincentLeon·2024-01-29 08:44

WebSocket设置私信在线离线

WebSocket设置在线离线以及优先展示最近聊天的人1.设置在线状态主要逻辑：1.用户连接之后，首先后端执行onOpen,传入用户的id,然后写入到redis中RedisConfig.java中加入@
迟意..·2024-01-29 07:28

Hadoop, HIve, Spark关系简述

大数据∈数据管理系统的范畴数据管理系统：数据怎么存？数据怎么算？单机数据管理时代下，数据处理的任务：IO密集型；数据存不下？HDFS用于存放多机器的数据并提供相关Api接口。HDFS中引入了一个模块：MapReduce（基于磁盘计算）。MapReduce：提供了一个任务并行的框架，通过它的Api抽象让用户把这个并行程序分成两个阶段，即Map阶段（分工），Reduce阶段（汇总）。Hive：在Had
小白兔奶糖ovo·2024-01-29 07:22

记一次Flink自带jar包与第三方jar包依赖冲突解决

flink版本1.14.5hadoop2.6.0为了实现flink读取hive数据写入第三方的数据库，写入数据库需要调用数据库的SDK，当前SDK依赖的protobuf-java-3.11.0.jar，
一枚小刺猬·2024-01-29 06:10

Hadoop面试题及参考答案

目录1、什么是Hadoop及其组件2、Hadoop的守护进程3、Hadoop的YARN/HDFS/MapReduce分别包含哪些组件，每个组件的职能是什么？
zuolixiangfisher·2024-01-29 06:02

hadoop面试题

0.思维导图1.HDFS1.HDFS的架构♥♥  HDFS主要包括三个部分，namenode,datanode以及secondarynamenode。这里主要讲一下他们的作用：namenode主要负责存储数据的元数据信息，不存储实际的数据块，而datanode就是存储实际的数据块，secondarynamenode主要是定期合并FsImage和edits文件（这里可以进行扩展，讲一下为什么有他们的
韩顺平的小迷弟·2024-01-29 06:27

大数据之Hadoop-MapReduce（1）

第1章MapReduce概述1.1MapReduce定义MapReduce是一个分布式运算程序的编程框架，是用户开发“基于Hadoop的数据分析应用”的核心框架。
jackyan163·2024-01-29 04:18

Hive初体验

首先，确保启动了Metastore服务{runjar就是metastore；hadoop要先启动}可以执行：bin/hive进入到HiveShell环境中，可以直接执行SQL的语句；·创建表（hive里面的字符串就是
%HelloWorld%·2024-01-29 03:09

[m1pro ] ssh: connect to host localhost port 22: Connection refused

在学习Hadoop的时候，使用sshlocalhost遇到以下问题原因：本地没有打开远程登录解决办法：打开远程登录成功结果
程序员三木·2024-01-29 03:33

spark shuffle

这个就是spark和hadoop的主要区别，基于内存进行运算。
流砂月歌·2024-01-29 01:13

被一位读者赶超，手摸手 Docker 部署 ELK Stack

支持离线环境部署ELK。支持安装ESik分词器。支持离
程序员xysam·2024-01-29 01:19

docker-compose离线安装

1.官网下载docker-compose文件，要用uname-r看一下自己安装哪个版本docker-composegithub下载地址2.上传到/usr/local/bin目录下3.给予访问权限chmod+x/usr/local/bin/docker-compose4.查看版本号docker-composeversion
LuckyXiaoFan666·2024-01-29 00:34

Spark运行原理

无论是性能，还是方案的统一性，对比传统的Hadoop，优势都非常明显。
hellozhxy·2024-01-28 23:41

数仓-数据安全

文章内容参考：数仓建设实践路线-第十一讲-数据安全_哔哩哔哩_bilibili经过一段时间打磨开启全新篇章《数仓建设实践路线》，从0-1搭建数据体系，让大家更有体感，并将《数仓建设学习路线》课程内容落地
爱吃辣条byte·2024-01-28 23:41

数仓治理-小文件治理

：文章参考:数据治理实践|小文件治理本文中将介绍Hive中小文件治理的方法和技巧，希望对大家有所帮助https://mp.weixin.qq.com/s/HDxAGhGIPvXF38wPiXZ7xg[离线计算
爱吃辣条byte·2024-01-28 23:40

数仓-数据质量

文章内容参考：数仓建设实践路线-第八讲-数据质量_哔哩哔哩_bilibili经过一段时间打磨开启全新篇章《数仓建设实践路线》，从0-1搭建数据体系，让大家更有体感，并将《数仓建设学习路线》课程内容落地。
爱吃辣条byte·2024-01-28 23:10

数仓治理-数据质量治理

注：文章参考：语数-数据质量治理本期语兴从数据质量治理角度出发，与大家一起探讨数据质量治理最佳实践，之前的数据治理文章在网易有数官方公众号，数据治理课程讲解在B站（搜索：语兴呀）https://mp.weixin.qq.com/s/uoHlA64q1K_WHVYLPRucHQ目录一、数据质量治理的背景1.1BUG工单较多1.2DQC（数据质量监控）常触发1.3基线/SLA经常破线二、数据质量治理识
爱吃辣条byte·2024-01-28 23:10

数仓治理-计算资源治理

mp.weixin.qq.com/s/w6d5zhDaaavNhW_DMEkPsQ目录一、计算资源治理的背景二、计算资源问题复盘三、计算资源治理前的思考与行动3.1治理前的思考3.2治理行动四、治理效果五、小结前言业务成熟期，数仓经常会收到集
爱吃辣条byte·2024-01-28 23:10

数仓治理-数据安全治理

一、数据安全治理的背景存在敏感数据泄露、数据安全审批节点过长、风险数据对外暴露、数据使用权限（库、表年、字段）闲置情况。二、数据安全治理前评估2.1数据安全问题评估存在安全隐患的评估角度：审批流程缺少数据使用说明次数、被业务方发现数据安全问题次数等。2.2数据表审批链路评估基于每个节点的审批时间去做整个链路的评估，必要时需要进行链路缩短。数据表的内容一般包括申请人，审批人，节点层级，工单处理内容等
爱吃辣条byte·2024-01-28 23:10

2021-08-10 HDFS Web报错Couldn‘t preview the file.

添加配置信息dfs.webhdfs.enabledtrue第二步：配置浏览器所在系统的hosts文件windows：在C:\Windows\System32\drivers\etc\hosts末尾增加内容（Hadoop
学习是一种信仰_zdy·2024-01-28 21:28

HDFS文件系统的根目录和用户主目录解析

HDFS文件系统的根目录是/，用户主目录是/user/[hadoop用户名]根据上面的截图，所有的文件都放在根目录及其子目录下。
问君何能尔？心远地自偏·2024-01-28 21:57

Name node is in safe mode

相信hadoop用户经常为安全模式头痛，但是又是难以避免的。安全模式开启通常是由于hdfs文件系统数据完整性缺失造成。所以核心就是想办法让hdfs文件系统数据变得完整，相对没有损坏。
大数据东哥(Aidon)·2024-01-28 21:27

记一次HDFS Web报错Couldn‘t preview the file. NetworkError: Failed to execute ‘send‘ on ‘XMLHttpRequest‘

tpreviewthefile.NetworkError:Failedtoexecute‘send’on‘XMLHttpRequest’:Failedtoload‘http://slave1:9864/webhdfs/v1/HelloHadoop.txt
一花一世界~·2024-01-28 21:55

Java技术栈 —— Hadoop入门（二）

Java技术栈——Hadoop入门（二）一、用MapReduce对统计单词个数1.1项目流程1.2可能遇到的问题1.3代码勘误1.4总结一、用MapReduce对统计单词个数1.1项目流程(1)上传jar
键盘国治理专家·2024-01-28 21:51
上一页 18 19 20 21 22 23 24 25 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他