spark环境搭建

Python 教程（八）：高级特性【高逼格代码】

目录专栏列表前言1.列表推导式2.生成器3.装饰器4.上下文管理器5.类和对象6.类型注解7.异步编程8.属性装饰器9.元类10.模块和包11.异常处理12.多线程和多进程总结专栏列表Python教程（一）：环境搭建及
子羽bro·2024-08-21 18:17

Azkaban各种类型的Job编写

command：Linuxshell命令行任务gobblin：通用数据采集工具hadoopJava：运行hadoopMR任务java：原生java任务hive：支持执行hiveSQLpig：pig脚本任务spark
__元昊__·2024-03-28 21:00

关于HDP的20道高级运维面试题

HDP（HortonworksDataPlatform）的主要组件包括Hadoop框架、HDFS、MapReduce、YARN以及Hadoop生态系统中的其他关键工具，如Spark、Flink、Hive
编织幻境的妖·2024-03-26 15:34

【Hadoop】使用Scala与Spark连接ClickHouse进行数据处理

风不懂不懂得叶的梦月不听不听闻窗里琴声意难穷水不见不曾见绿消红霜不知不知晓将别人怎道珍重落叶有风才敢做一个会飞的梦孤窗有月才敢登高在夜里从容桃花有水才怕身是客身是客此景不能久TieYann(铁阳)、薄彩生《不知晓》在大数据分析和处理领域，ApacheSpark
音乐学家方大刚·2024-03-26 09:56

Spark面试整理-Spark是什么？

ApacheSpark是一个开源的分布式计算系统，它提供了一个用于大规模数据处理的快速、通用、易于使用的平台。它最初是在加州大学伯克利分校的AMPLab开发的，并于2010年开源。
不务正业的猿·2024-03-24 13:02

Android app专项测试之耗电量测试

前言耗电量指标待机时间成关注目标提升用户体验通过不同的测试场景，找出app高耗电的场景并解决01、需要的环境准备1、python2.7(必须是2.7，3.X版本是不支持的)2、golang语言的开发环境3、AndroidSDK此三个的环境搭建这里就不详细说了
咖啡加剁椒⑤·2024-03-24 03:50

Ubuntu系统下C语言开发环境搭建与使用教程

洛可可白：个人主页个人专栏：✅前端技术✅后端技术个人博客：洛可可白博客代码获取：bestwishes0203封面壁纸：洛可可白wallpaper文章目录Ubuntu系统下C语言开发环境搭建与使用教程教程内容
洛可可白·2024-03-20 05:14

Apache Tomcat环境搭建

ApacheTomcat是一个开源的Servlet容器，用于运行JavaWeb应用程序。本文将详细介绍在Linux和Windows系统下如何搭建ApacheTomcat环境。一、Linux系统下搭建ApacheTomcat1.下载Tomcat首先，你需要从ApacheTomcat的官方网站下载适合Linux系统的Tomcat安装包。通常，你可以下载到.tar.gz格式的压缩包。2.解压Tomcat
R0ot·2024-03-19 03:42

Spark Q&A

A:从Spark2.1开始，你可以通过启用spark.sql.files.ignoreCorruptFiles选项来忽略损毁的文件。
耐心的农夫2020·2024-03-19 00:12

Spring（概念）

企业级应用Spring之所以称为容器，就是由于BeanFactory的自动装配和注入Spring3开始把jar拆分成了多个：spring2及Spring2之前只有一个jar包2、SpringIOC简介和环境搭建责任链缺点
lvpflv·2024-03-18 15:25

linux安装单机版spark3.5.0

一、spark介绍是一种通用的大数据计算框架，正如传统大数据技术Hadoop的MapReduce、Hive引擎，以及Storm流式实时计算引擎等.Spark主要用于大数据的计算二、spark下载spark3.5.0
爱上雪茄·2024-03-17 18:57

App自动化测试之Appium 环境搭建保姆级教程（全网最全）

前言APP自动化测试运行环境比较复杂，稍微不注意安装就会失败。我见过不少朋友，装了1个星期，Appium的运行环境还没有搭好的。搭建环境本身不是一个有难度的工作，但是Appium安装过程中确实存在不少隐藏的比较深的坑，如果一不小心踩中了其中的一个，那可能会花费比较长的时间来解决。今天出一个Appium安装的详细教程，只要你照着这个做，并且注意我标出来的每一个注意事项，就可以轻松地装好Appium运
程序员勋勋·2024-03-16 13:19

Spark的数据结构——RDD

RDD的5个特征下面来说一下RDD这东西，它是ResilientDistributedDatasets的简写。咱们来看看RDD在源码的解释。Alistofpartitions:在大数据领域，大数据都是分割成若干个部分，放到多个服务器上，这样就能做到多线程的处理数据，这对处理大数据量是非常重要的。分区意味着，可以使用多个线程了处理。Afunctionforcomputingeachsplit：作用在
bluedraam_pp·2024-03-14 08:32

TypeScript基本类型和语法

TypeScript安装环境搭建1.下载node.js（下载LTS稳定版、Current最近版不稳定）2.安装node.js3.使用npm全局安装TypeScript：npmi-gtypescript4
卷心菜007·2024-03-14 04:56

大数据开发（Spark面试真题-卷一）

大数据开发（Spark面试真题）1、什么是SparkStreaming？简要描述其工作原理。2、什么是Spark内存管理机制？请解释其中的主要概念，并说明其作用。
Key-Key·2024-03-13 07:58

基于HBase和Spark构建企业级数据处理平台

摘要：在中国HBase技术社区第十届Meetup杭州站上，阿里云数据库技术专家李伟为大家分享了如何基于当下流行的HBase和Spark体系构建企业级数据处理平台，并且针对于一些具体落地场景进行了介绍。
weixin_34071713·2024-03-12 22:44

linux测试环境搭建教程,linux下gtest测试环境搭建步骤

Step1：下载gtest1.解压后进入gtest目录，如下：继续make，又出错，原因同上。解决路径：googlemock/CMakeFiles/gmock_main.dir/flags.make继续make，又出错，原因同上。解决路径：googletest/gtest/CMakeFiles/gtest.dir/flags.make继续make，又出错，原因同上。解决路径：googletest/
魔屋·2024-03-12 15:04

lightGBM专题4:pyspark平台下lightgbm模型保存

之前的文章（pysparklightGBM1和pysparklightGBM2）介绍了pyspark下lightGBM算法的实现，本文将重点介绍下如何保存训练好的模型，直接上代码：frompyspark.sqlimportSparkSessionfrompyspark.ml.featureimportStringIndexer
I_belong_to_jesus·2024-03-12 12:30

大数据开发（Spark面试真题-卷六）

大数据开发（Spark面试真题）1、SparkHashPartitioner和RangePartitioner的实现？
Key-Key·2024-03-12 02:16

大数据开发（Hadoop面试真题-卷二）

6、Spark为什么比MapReduce更快？7、详细描述一
Key-Key·2024-03-12 02:15

Spark从入门到精通29:Spark SQL：工作原理剖析以及性能优化

SparkSQL工作原理剖析1.编写SQL语句只要是在数据库类型的技术里面，例如MySQL、Oracle等，包括现在大数据领域的数据仓库，例如Hive。
勇于自信·2024-03-11 00:20

如何用Jekyll搭建属于自己的个人博客网站?

环境搭建Linux环境：通过RVM安装Ruby环境1、安装gpg密钥$gpg2--recv-keys409B6B1796C275462A1703113804BB82D39D
十yiyi·2024-03-09 15:26

大数据开发（Hadoop面试真题-卷九）

3、Sparkmapjoin的实现原理？4、Spark的stage如何划分？在源码中是怎么判断属于ShuffleMapStage或ResultStage的？5、SparkreduceByKe
Key-Key·2024-03-09 10:06

Spark Streaming（二）：DStream数据源

1、输入DStream和Receiver输入（Receiver）DStream代表了来自数据源的输入数据流，在之前的wordcount例子中，lines就是一个输入DStream（JavaReceiverInputDStream），代表了从netcat（nc）服务接收到的数据流。除了文件数据流之外，所有的输入DStream都会绑定一个Receiver对象，该对象是一个关键的组件，用来从数据源接收数
雪飘千里·2024-03-09 01:28

R语言简介，R语言开发环境搭建步骤，R基础语法以及注释详解

R语言是一种用于统计计算与绘图的编程语言，由新西兰奥克兰大学的统计学家罗斯·伊哈卡和罗伯特·杰特曼于1993年发明。R语言是一种自由、免费、源代码开放的软件，属于GNU系统的一个分支，如今被广泛地应用于统计分析、数据挖掘等领域。R语言的特点包括：是一套完整的数据处理、计算和制图软件系统，具有数据存储和处理、数组运算、数学建模、统计检验以及统计制图等功能。提供了丰富的数学计算、统计计算的函数，用户可
黑夜照亮前行的路·2024-03-08 20:47

java必知必会-java抽象类与接口

系列文章目录java必知必会-java环境搭建java必知必会-java开发工具安装与使用java必知必会-java关键字、变量和常量java必知必会-java数据类型和变量定义java必知必会-java
柠檬分解者·2024-03-08 17:41

Spark常见问题汇总

注意：如果Driver写好了代码，eclipse或者程序上传后，没有开始处理数据，或者快速结束任务，也没有在控制台中打印错误，那么请进入spark的web页面，查看一下你的任务，找到每个分区日志的stderr
midNightParis·2024-03-08 03:25

day1-python基础语法总结

1、未来五个月需要学习的东西（1）学会自己解决实际中遇到的问题（2）学会怎么更好的表达自己（3）学会怎么整理好文档资料2、学习python的环境搭建和辅助软件的学习（1）python安装（2）pycharm
未醒的梦_19b0·2024-03-07 23:53

sprintboot集成flink快速入门demo

二、环境搭建安装flinkhttps://nightlies.apache.org
AskHarries·2024-03-07 04:55

SparkShop开源可商用，匹配小程序H5和PC端带分销功能！

SparkShop(星火商城)B2C商城是基于thinkphp6+elementui的开源免费可商用的高性能商城系统；包含小程序商城、H5商城、公众号商城、PC商城、App，支持页面diy、秒杀、优惠券
行动之上·2024-03-05 15:09

QT MinGW64编译vlc源码

编译环境搭建参考文章《QTMingw32/64编译ffmpeg源码生成32/64bit库以及测试》，搭建msys64环境；运行msys.exe,运行：pacman-Sgitsubversioncvsautomakeautoconflibtoolm4makegettextpkg-configmingw-w64
小条小杂鱼·2024-03-03 19:11

《探索数据结构之美：如何高效实现哈希表》

此外，我们还将介绍项目开发前的环境搭建和bash命令，帮助您轻松上手哈希表项目。一、分析1.哈希表简介哈希表是一种数据结构，它使用哈希函数将键映射到表中一个位置，以实现快速的插入、删除和查找操作。
GT开发算法工程师·2024-03-03 12:32

【Hadoop】在spark读取clickhouse中数据

clickhouse数据库数据importscala.collection.mutable.ArrayBufferimportjava.util.Propertiesimportorg.apache.spark.sql.SaveModeimportorg.apache.spark.sql.SparkSessiondefgetCKJdbcProperties
方大刚233·2024-03-03 06:54

Spark-sql Adaptive Execution动态调整分区数量，调整输出文件数

有时间为了解决小文件问题，我们把spark.sql.shuffle.partitions这个参数调整的很小，但是随着时间的推移，数据量越来越大，当初设置的参数就不合适了，那有没有一个可以自我伸缩的参数呢
不想起的昵称·2024-03-02 15:03

hive join中出现的数据暴增（数据重复）

我们来看一下案例：spark-sql>withtest1as>(select'10001'asuid,'xiaomi'asqid>unionall>select'10002'asuid,'huawei'asqid
不想起的昵称·2024-03-02 15:03

hive四种常见的join

1.左连接leftjoinspark-sql>withtest1as(>select1asuser_id,'xiaoming'asname>unionall>select2asuser_id,'xiaolan'asname
不想起的昵称·2024-03-02 15:33

【超详细】Python入门到放弃指南

大家如果看了我写的这篇文章《盲目自学只会毁了你》就大概知道怎么自学了，那接下来就跟大家说下学习路线，不一定适合每一个人，可以作为参考Python环境搭建Python介绍编译器和解释器Python环境搭建
居7然·2024-03-02 12:58

自动化搭建---环境搭建与配置

1.确定所需环境与项目团队和开发人员详细沟通，了解项目的具体环境需求。这可能包括操作系统版本、数据库类型（如MySQL、PostgreSQL等）、Web服务器（如Apache、Nginx等）以及其他依赖软件。2.安装操作系统根据项目需求，选择合适的操作系统版本，并在测试机器上进行安装。可以通过官方提供的安装介质（如ISO镜像文件）或从云提供商处获取虚拟机镜像来安装操作系统。3.安装依赖库和软件3.
测试也是会开发的·2024-03-02 05:48

eBPF实践篇之环境搭建

文章目录前言实验环境前置知识配置开发环境最后前言你好，我是醉墨居士，本次我们学习一下eBPF，我们基于libbpf-bootstrap来进行我们的eBPF程序开发实验环境一台Debian12操作系统的计算机，我使用的是Debian12.2.0-amd64其它Linux发行版的环境也可以，Linux内核不低于5.4版本前置知识c语言，linux系统基本操作配置开发环境在Ubuntu/Debian系统
醉墨居士·2024-03-01 22:38

Django学习笔记----数据库操作实例

上上篇>Django学习笔记----环境搭建基于Windows上一篇>Django学习笔记----快速入门修改settings.py配置在环境搭建篇,我们已经安装了mysql-client包安装好后,在
weixin_34315485·2024-03-01 07:45

Mac上安装安卓环境步骤

MAC环境搭建javaJDK下载网址：[http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html
Queen_BJ·2024-03-01 04:37

Spark整合hive（保姆级教程）

准备工作：1、需要安装配置好hive，如果不会安装可以跳转到Linux下编写脚本自动安装hive2、需要安装配置好spark，如果不会安装可以跳转到Spark安装与配置（单机版）3、需要安装配置好Hadoop
万家林·2024-02-29 09:47

go环境配置

GO环境搭建:go的环境变量exportGO111MODULE=onexportGOSUMDB=sum.golang.orgexportGOPROXY=https://goproxy.cn,direct
心怀梦想·2024-02-28 08:48

在 Spark 数据导入中的一些实践细节

best-practices-import-data-spark-nebula-graph本文由合合信息大数据团队柳佳浩撰写1.前言图谱业务随着时间的推移愈发的复杂化，逐渐体现出了性能上的瓶颈：单机不足以支持更大的图谱
NebulaGraph·2024-02-27 07:53

Spark开发_简单DataFrame判空赋值逻辑

valtable1="实时转存数据"valtable2="历史存hdf数据"valdfin1=inputRDD(table1).asInstanceOf[org.apache.spark.sql.DataFrame
Matrix70·2024-02-26 22:06

Python+Selenium4环境搭建

很久没有了解自动化了，最近发现项目中沉淀了很多东西，回归测试效率很低，所以必须要考虑构建自动化来提供各个环节的小效率。由于忙于需求以及产品的流程规范，现在对于测试技术方面的研究也相对少了很多。不过不管做什么，做好最重要！自动化几年前研究过一套框架，由于各方面原因一直没有推广起来，也导致我的自动化发展之路还没出生就胎死腹中。现在搞自动化主要是出于团队建设考虑，一方面为了提供测试部门的工作效率，保障产
软件测试媛·2024-02-26 22:05

Spark SQL编程指南

SparkSQL编程指南SparkSQL是用于结构化数据处理的一个模块。同SparkRDD不同地方在于SparkSQL的API可以给Spark计算引擎提供更多地信息，例如:数据结构、计算算子等。
<>=·2024-02-26 05:46

一些关于Java课程学习下来的心得

Python两种语言的我，对于Java的总结基本可以浓缩成：比C语言丰富，但是比Python格式要求高，但是多种语言容易混淆，这次总结作业我将大体按照书本，结合上课习题进行分别总结，课本上基本安装内容之类的环境搭建以及程序设计基础部就不多加赘述
lolo230·2024-02-20 21:11

Ubuntu22.04.1 C/C++环境搭建

1、更新源updatesudoapt-getupdate2、C/C++开发环境搭建sudoaptinstallbuild-essentialgdb3、查看版本号，检验是否安装成功。
R·熊猫·2024-02-20 20:55

Ubuntu环境搭建TeslaMate，特斯拉车友必备，可视化数据仪表！使用极空间Z4虚拟机

能点进来的大概率都是特斯拉车友~~本篇记录一下使用极空间Z4家庭NAS搭建TeslaMate的全过程，使用极空间最近更新的虚拟机功能，在虚拟机中安装Ubuntu部署Docker。当然大家用PC虚拟机搭建也可以啦！至于为什么不用极空间自带的Docker功能，emmm并不好用。要是想要使用自带的docker来搭建，可以参照这个https://post.smzdm.com/p/az59px95/本人自学
喵不是白养的·2024-02-20 20:16
上一页 2 3 4 5 6 7 8 9 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他