spark集群部署yarn

win10 spark scala 本地运行wordcount

hadoopcommon，可以从github下载zip，解包以后设置HADOOP_HOME环境变量指向它，然后在PATH里加上HADOOP_HOME\bin，特别注意，hadoopcommon的版本要和spark
疯琴·2024-02-07 06:06

Scala与java

目录Scala简介Scala和java的区别Spark选择Scala的原因Scala：Object与Class的区别Scala样例类和普通类的区别Scala中的None,Nothing,Null,NilScala
K. Bob·2024-02-07 06:05

Spark scala如何本地运行

Sparkscala如何本地运行Spark任务调试太费时间啦SparkScala本地运行Spark任务调试太费时间啦ApacheSpark是一个开源的大数据处理框架，它提供了一个接口用于编程大规模分布式计算
HanhahnaH·2024-02-07 06:03

Zeppelin结合Flink查询hudi数据

目前ApacheZeppelin支持ApacheSpark、ApacheFlink、Python、R、JDBC、
BigDataToAI·2024-02-07 05:38

Nacos的集群配置、NacosRule负载均衡、权重设置、namespace

，有8081、8082、8083端口三个实例），我们在同一个机房部署所有的服务很不安全，应对突发状况时，就像鸡蛋放在一个篮子里；很不安全，很不友好，所有我们需要分开部署机房与服务器；一个服务可以分多个集群部署
茂桑·2024-02-07 05:05

Apache Zeppelin 整合 Spark 和 Hudi

一环境信息1.1组件版本组件版本Spark3.2.3Hudi0.14.0Zeppelin0.11.0-SNAPSHOT1.2环境准备Zeppelin整合Spark参考：ApacheZeppelin一文打尽
大数据AI·2024-02-07 05:03

一篇带你了解私有仓库 Harbor 的搭建

Harbor是由VMware公司开源的企业级的DockerRegistry管理项目，相比docker官方拥有更丰富的权限权利和完善的架构设计，适用大规模docker集群部署提供仓库服务。
AAA小肥杨·2024-02-07 05:32

spark sql上线前的调试工作实现

背景每个公司应该都有大数据的平台的吧，平台的作用就是可以在上面执行各种sparksql以及定时任务，不过一般来说，由于这些sparksql的上线不经过测试，所以可能会影响到生产的数据，这种情况下大数据平台提供一个上线前的调试功能也就非常好了
lixia0417mul2·2024-02-07 05:22

zookeeper集群部署

第一步下载、配置找到官网地址快速部署zk的文档：http://zookeeper.apache.org/doc/r3.4.14/zookeeperStarted.html主要是对conf/zoo.cfg文件的配置这里配置还没有完成，需要制定myid文件，来指定当前机器所属集群的节点编号注意这里的myid文件一定要在每个zk节点机器的dataDir文件夹下myid文件的内容第一台机器myid文件内容
机灵鬼鬼·2024-02-07 05:05

Kuberntes DNS

kubectlgetendpointsNAMEENDPOINTSAGEdocker-registry172.17.0.10:500019dkubernetes10.0.2.41:844319drouter10.0.2.41:1936,10.0.2.41:80,10.0.2.41:44319dsparkthrift-headless172.17.0.12
zhixingheyi_tian·2024-02-07 03:02

Spark RDD的学习(JAVA)

注：本文是跟着《Spark快速大数据分析》一书学习的笔记式总结，不喜勿喷。RDD(ResilientDistributedDataset)弹性分布式数据集是Spark对数据的核心抽象。
啊其11·2024-02-07 02:47

Spark Chapter 8 Spark SQL

【参考以慕课网日志分析为例进入大数据Sparksql】0导读SQL：MySQL，Oracle，DB2，SQLServer在大数据平台上实现大数据计算：Hive/SparkSQL/SparkCore直接使用
深海suke·2024-02-07 01:34

Spark大数据分析与实战笔记（第三章 Spark RDD弹性分布式数据集-01）

文章目录每日一句正能量第3章SparkRDD弹性分布式数据集章节概要3.1RDD简介3.2RDD的创建方式3.2.1从文件系统加载数据创建RDD3.2.2通过并行集合创建RDD每日一句正能量学如积薪，后来者居上
想你依然心痛·2024-02-07 01:53

kubeadm部署kubernetes1.29.0版本集群

使用Kubeadm工具快速部署，部署过程分为四个部分，第一部分,kubernetes集群节点准备，第二部分docker-ce及cri-docker准备，第三部分,kubernetes1.29.0集群部署
运维潇哥·2024-02-06 23:17

StarRocks入门

目录一、连接StarRocks二、建表1.创建非分区表2.创建动态分区表3.修改表字段类型三、数据导入1.Sparkload2.Brokerload3.Streamload4.Routineload5.
jingyu鲸鱼·2024-02-06 22:42

Vue3状态管理——Pinia

官网：https://pinia.vuejs.org/0.初始化配置//创建项目yarncreatevite//安装pinianpminstallpinia1.创建Pinia实例并挂载//src/main.jsimport
135e606a0926·2024-02-06 20:34

spark的数据倾斜和解决方案

#数据倾斜##4.1.什么是数据倾斜，现象是什么？所谓数据倾斜(dataskew)，其实说白了，由于数据分布不均匀造成计算时间差异很大，产生了一些列异常现象。常见的现象有两种：1.个别task作业运行缓慢大多数的task运行都很快速，但是极个别的task运行非常缓慢，甚至是正常task运行时间好多倍。莫名其妙的OOM异常这是一种相对比较少见的现象，正常运行的task作业，突发发生了一个OOM异常。
XLMN·2024-02-06 18:32

Spark简介

Spark作为第二代大数据处理工具，跟hadoop对比，它是基于内存的，所以在迭代计算方便速度有了很大提升。我用到的主要是SparkCore,SparkSQL,SparkStreaming。
麦克阿瑟99·2024-02-06 18:07

执行npm run build时报错from UglifyJs Unexpected token: name «_fs», expected: punc «；»

jsfromUglifyJsUnexpectedtoken:name«_fs»,expected:punc«;»[js/chunk-7586894f.1110e9a8.js:3187,4]截图如下分析其实这里上面已经提示了，要更新yarn
Jack_David·2024-02-06 16:32

Vue3富文本组件UEditor ，[email protected]

vue-ueditor-wrap-Vue+UEditor+v-model双向绑定二、安装流程1.安装#vue-ueditor-wrapv3仅支持[email protected]#oryarnaddvue-ueditor-wrap
天马3798·2024-02-06 16:51

Spark编程实现简例

对于两个输入文件A和B，编写Spark独立应用程序，对两个文件进行合并，并剔除其中重复的内容，得到一个新文件C。下面是输入文件和输出文件的一个样例，供参考。
哲子带你学编程·2024-02-06 16:34

linux etcd,etcd集群部署详解

简介Etcd是一个高可用的Key/Value存储系统，主要用于分享配置和服务发现。●简单：支持curl方式的用户API(HTTP+JSON)●安全：可选SSL客户端证书认证●快速：单实例可达每秒1000次写操作●可靠：使用Raft实现分布式环境：nodeIPOSetcd_versionetcd010.1.2.61etcd3.0.14etcd110.1.2.172centos7.0etcd3.0.1
突驰·2024-02-06 15:16

h2数据库集群部署,备份及恢复

h2数据库集群部署一.环境准备准备两台机器,分别为Server1,Server2二.h2数据库安装下载地址http://h2database.com/html/download.html将下载的压缩包解压到指定目录
运维那些事儿·2024-02-06 14:43

rocketMQ集群部署

rocketMQ集群部署rocketMQ安装包下载wgethttps://github.com/alibaba/RocketMQ/archive/v3.5.8.tar.gz//注：到github下载为未编译的包
戏 剧·2024-02-06 14:04

flink学习记录

6123jobmanager.heap.size:512mtaskmanager.heap.size:512mtaskmanager.numberOfTaskSlots:4parallelism.default:2yarn.application-attemp
戏 剧·2024-02-06 14:34

使用father打包发布前端工具库

father库说明GitHub：https://github.com/umijs/father升级迁移教程使用fatherv1，版本较老，可参考下面的教程升级father4升级教程安装yarnaddfather
ZTao-z·2024-02-06 13:27

kafka-splunk数据通路实践

目的：鉴于目前网络上没有完整的kafka数据投递至splunk教程，通过本文操作步骤，您将实现kafka数据投递至splunk日志系统实现思路：创建kafka集群部署splunk，设置HTTP事件收集器部署
exp1997·2024-02-06 12:17

k8s部署zk集群

k8s部署zk集群1.环境介绍使用helm进行部署zookeeper：3.72.zk集群部署helmrepoaddbitnamihttps://charts.bitnami.com/bitnami3.创建
包泽旭·2024-02-06 12:34

HbuilderX打包成apk安卓安装包并装到手机上

打包命令：yarnbuild2.下载HbuilderX本次分享需要用到非常重要的工具HbuilderX，这是dcloud.io出口的一款非常有用的前端开发工具，内置发布成为app的功能
ANnianStriver·2024-02-06 10:55

决胜大数据时代：Hadoop&Yarn&Spark企业级最佳实践（8天完整版脱产式培训版本）...

Hadoop、Yarn、Spark是企业构建生产环境下大数据中心的关键技术，也是大数据处理的核心技术，是每个云计算大数据工程师必修课。
weixin_30273931·2024-02-06 09:08

Spark视频第5期：Spark SQL架构和案例深入实战

SparkSQL架构和案例深入实战视频下载：http://pan.baidu.com/share/link?
Rocky_wangjialin·2024-02-06 09:35

RDD 依赖关系

packagecom.atguigu.bigdata.spark.core.rdd.depimportorg.apache.spark.
zmx_messi·2024-02-06 09:08

转换算子小案例

2)需求描述统计出每一个省份每个广告被点击数量排行的Top33)需求分析4)功能实现整体思路代码实现packagecom.atguigu.bigdata.spark.core.rdd.operator.transformimportorg.apache.spark
zmx_messi·2024-02-06 09:37

Spark SQL调优实战

1、新添参数说明//Driver和Executor内存和CPU资源相关配置--是否开启executor动态分配，开启时spark.executor.instances不生效spark.dynamicAllocation.enabled
sighting_info·2024-02-06 09:06

Python学习路线 - Python高阶技巧 - PySpark案例实战

Python学习路线-Python高阶技巧-PySpark案例实战前言介绍Spark是什么PythonOnSparkPySparkWhyPySpark基础准备PySpark库的安装构建PySpark执行环境入口对象
mry6·2024-02-06 09:34

FlinkCDC-Hudi:Mysql数据实时入湖全攻略五：FlinkSQL同时输出到kafka与hudi的几种实现

前序：FlinkCDC-Hudi系列文章：FlinkCDC-Hudi:Mysql数据实时入湖全攻略一：初试风云FlinkCDC-Hudi:Mysql数据实时入湖全攻略二：Hudi与Spark整合时所遇异常与解决方案
大数据点灯人·2024-02-06 08:25

【Flink入门修炼】1-1 为什么要学习 Flink？

一、批处理和流处理早些年，大数据处理还主要为批处理，一般按天或小时定时处理数据，代表性的框架为MapReduce、Hive、Spark等。
大数据王小皮·2024-02-06 07:29

Flink面试准备

Standlone模式Standlone是Flink自带的一个分布式集群，它不依赖其他的资源调度框架、不依赖yarn等。充当Master角色的是JobManager。
大数据左右手·2024-02-06 07:25

MSR架构：推动数据中台进入2.0时代

语义层基于业务对象视图面向业务端用户提供语义化的业务逻辑表达式，支持业务端用户自助开发业务逻辑，业务端的开发者只关注于业务逻辑本身，不需要考虑后台是何种数据计算处理框架（MR、SPARK、FLINK、SQL
Trident敏捷数据开发平台·2024-02-06 07:54

PiflowX新增Apache Beam引擎支持

参考资料：ApacheBeam架构原理及应用实践-腾讯云开发者社区-腾讯云(tencent.com)在之前的文章中有介绍过，PiflowX是支持spark和flink计算引擎，其架构图如下所示：在piflow
PiflowX·2024-02-06 07:54

Hadoop-Yarn-启动篇

一、源码下载下面是hadoop官方源码下载地址，我下载的是hadoop-3.2.4，那就一起来看下吧Indexof/dist/hadoop/core二、脚本部分1、start-yarn.sh如果我们想单独启动
隔着天花板看星星·2024-02-06 07:16

Spark大数据分析与实战笔记（第二章 Spark基础-06）

文章目录每日一句正能量2.6IDEA开发WordCount程序2.6.1本地模式执行Spark程序2.6.2集群模式执行Spark程序每日一句正能量我们全都要从前辈和同辈学习到一些东西。
想你依然心痛·2024-02-06 07:38

开源大数据集群部署（十）Ranger usersync部署

作者：櫰木rangerusersync部署解压包[[email protected]]#pwd/opt/ranger[[email protected]]#tar-zxvfranger-2.3.0-usersync.tar.gz-C/opt/[[email protected]]#cdranger-2.3.0-usersync修改配置insta
云掣YUNCHE·2024-02-06 07:05

想学大数据？先看完这几本书再说

除了这些技术领域，还有一些特定的技术和语言需要你继续研究：Hadoop，Spark，Python，和R等等，还有无数实现自动化的工具等等，这些工具几乎每天都会用到，这就需要你不断的学习。
yoku酱·2024-02-06 06:55

SparkSQL on K8s 在网易传媒的落地实践

网易传媒在2021年成功将SparkSQL部署到了K8s集群，并实现与部分在线业务的混合部署，到目前已经稳定运行了一年多。
wangyishufan·2024-02-06 06:02

Apache Hadoop

ApacheHadoop_狭义上说，Hadoop指Apache一款java语言开发的开源框架，它的核心组件有：HDFS（分布式文件系统）：解决海量数据存储YARN（作业调度和集群资源管理的框架）：解决资源任务调度
VincentLeon·2024-02-06 05:28

yarn create umi 初始脚手架报错error An unexpected error occurred: “https://registry.npm.taobao.org/create-u

errorAnunexpectederroroccurred:"https://registry.npm.taobao.org/create-umi:certificatehasexpired".这个错误是由于你正在使用的npm镜像（https://registry.npm.taobao.org）的SSL证书已经过期，导致无法正常访问。更换npm镜像源。你可以使用npmconfigsetregis
Jim-zf·2024-02-06 04:29

PySpark（四）PySpark SQL、Catalyst优化器、Spark SQL的执行流程

目录PySparkSQL基础SparkSession对象DataFrame入门DataFrame构建DataFrame代码风格DSLSQLSparkSQLShuffle分区数目DataFrame数据写出
独憩·2024-02-06 03:14

Spark Shuffle模块详解

Shuffle，具有某种共同特征的一类数据需要最终汇聚（aggregate）到一个计算节点上进行计算。这些数据分布在各个存储节点上并且由不同节点的计算单元处理。以最简单的WordCount为例，其中数据保存在Node1、Node2和Node3；经过处理后，这些数据最终会汇聚到Nodea、Nodeb处理。这个数据重新打乱然后汇聚到不同节点的过程就是Shuffle。但是实际上，Shuffle过程可能会
晓之以理的喵~~·2024-02-06 03:14

PySpark（三）RDD持久化、共享变量、Spark内核制度，Spark Shuffle

目录RDD持久化RDD的数据是过程数据RDD缓存RDDCheckPoint共享变量广播变量累加器Spark内核调度DAGDAG的宽窄依赖和阶段划分内存迭代计算Spark是怎么做内存计算的?
独憩·2024-02-06 03:43
上一页 8 9 10 11 12 13 14 15 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他