wordCount

2023_Spark_实验二十四：SparkStreaming读取Kafka数据源：使用Direct方式

读取Kafka数据源：使用Direct方式一、前提工作安装了zookeeper安装了Kafka实验环境：kafka+zookeeper+spark实验流程二、实验内容实验要求：实现的从kafka读取实现wordcount
pblh123·2023-12-02 09:02

Flink代码初学记录

Flink代码初学记录第一次使用markdown编辑器言归正传，Flink代码学习Flink的架构和执行流程从WordCount开始分解代码设计算子拓扑总结第一次使用markdown编辑器哈哈哈，还挺有意思的嘛
AEsun·2023-12-01 16:53

Hadoop入门学习笔记-第四天（wordCount实例代码编写笔记）

1.新建一个maven项目2.pom文件中引入以下jar包org.apache.hadoophadoop-client2.7.3org.apache.hadoophadoop-common2.7.3org.apache.hadoophadoop-hdfs2.7.3org.apache.hadoophadoop-client2.7.33.可以装一个hadoop-eclipse插件，不是必须，插件装成
渣男程序员007·2023-11-30 05:43

idea对spark程序进行远程提交和调试

第一部分远程提交本文以WordCount程序来实现idea对spark程序进行远程提交和调试环境利用虚拟机搭建拥有3台主机的spark集群hadoop102hadoop103hadoop104IntelliJIDEA2020.3.2
akenseren·2023-11-30 02:06

SparkStreaming-----第一个wordcount,算子，Driver HA

1.sparkStreaming流式处理框架，是SparkAPI的扩展，RDD最终封装到DStream中2.第一个wordcountpom依赖org.apache.sparkspark-streaming
计算机界的小学生·2023-11-29 12:41

MapReduce计算任务的步骤

Split//设置读取数据的路径TextInputFormat.addInputPath(job,newPath("C:\\bbb.txt"));//3、设置Mapjob.setMapperClass(WordCountMap.class
未烬丶·2023-11-29 06:47

配置MapReduce的历史服务器查看MR运行日志

一、如果我们仅仅在map和reduce的函数中加入以下代码去查看执行过程，会发现日志文件中并没有输出我们所希望的数据map函数packagecom.sun.wordcount;//map阶段(部分计算)
Mekeater·2023-11-26 16:42

mapreducer 分布式计算框架

mapreducer是经典的计算框架，是学习大数据处理的基础，请带着这句话“化大为小，分而治之”点击下面连接按笔记顺序进行学习mapreducer原理hadoop的Windows伪分布式环境部署Windows开发wordcountmapreducer
海牛大数据_青牛老师·2023-11-25 14:21

guava的拓展Collection,Multiset,Multimap,BiMap,Table的简单理解和案例代码

官方文档说明/***Multiset类似Map,*比如存储一个wordcount,某个对象和个数*count(k):返回该对象的个数，不存在返回0*size()：总个数*/@Testvoidtest0(
ing X·2023-11-25 03:04

什么是spark，spark运行模式，local模式，使用spark-shell，Standalone模式，Yarn模式，案例实操WordCount程序

目录第1部分Spark基础第1章Spark概述1.1什么是Spark1.2.1快速1.2.2易用1.3.1集群管理器(ClusterManager)第2章Spark运行模式2.1Local模式2.1.1解压Spark安装包2.1.2运行官方求PI的案例2.1.3使用Spark-shell步骤1:创建2个文本文件步骤2:打开Spark-shell步骤3:查看进程和通过web查看应用程序运行情况步骤4
长岛山没有雪·2023-11-25 01:45

Flink-WordCount

本文基于Flink1.14pom.xmlUTF-81.14.32.19.0org.apache.flinkflink-java${flink.version}org.apache.flinkflink-streaming-java_2.12${flink.version}org.apache.flinkflink-clients_2.12${flink.version}org.apache.fli
hopyGreat·2023-11-24 15:11

Flink运行wordcount——读写hdfs

packagecom.test;importorg.apache.flink.api.common.functions.FlatMapFunction;importorg.apache.flink.api.java.tuple.Tuple2;importorg.apache.flink.streaming.api.datastream.DataStream;importorg.apache.fli
雷神乐乐·2023-11-24 15:05

Spark算子综合应用案例

一.WordCount数据hadoopmapreduceyarnhdfshadoopmapreducemapreduceyarnlagoulagoulagou案例:Scala版defmain(args:
谷应泰·2023-11-24 07:24

Mapreduce实现Wordcount

Mapreduce实现Wordcount一、程序实现1.1mapper类：1.2reducer类：1.3main类：二、操作实例2.1打包2.2数据操作一、程序实现1.1mapper类：//Mapper
青岛City·2023-11-24 05:05

Hadoop学习笔记：运行wordcount对文件字符串进行统计案例

文/朱季谦我最近使用四台Centos虚拟机搭建了一套分布式hadoop环境，简单模拟了线上上的hadoop真实分布式集群，主要用于业余学习大数据相关体系。其中，一台服务器作为NameNode，一台作为SecondaryNameNode，剩下两台当做DataNodes节点服务器，类似下面这样一个架构——NameNodeSecondaryNameNodeDataNodesmaster1(192.168
朱季谦·2023-11-23 13:38

Spark-用IDEA写wordcount程序时(scala语言)，上传到集群中运行出错：java.lang.ClassNotFoundException: WordCount

1.出错信息：java.lang.ClassNotFoundException:WordCountatjava.net.URLClassLoader.findClass(URLClassLoader.java
Movle·2023-11-23 08:02

Flink基础（七）：状态的使用

比如WordCount程序来说，需要不断的对word进行计数，来一个计数一次，那么这个计数的值（count）我们就需要一直在处理过程中存着，那么，这个count就是一个状态。
Hello Guava·2023-11-22 09:52

LeetCode-2423. 删除字符使频率相同

-2423.删除字符使频率相同题目描述题解题解一（Java）作者：@仲景classSolution{publicbooleanequalFrequency(Stringword){//mapint[]wordCount
仲景·2023-11-21 14:50

Scala---WordCount

二、Spark-Scala版本的WordCount1.valconf=newSparkConf()2.conf.setMaster("local")3.conf.setAppName("scala-wc
30岁老阿姨·2023-11-21 08:25

Spark版wordCount

*/objectWordCount{defmain(args:Array[String]){/***第1步；创建Spark的配置对象SparkConf，设置Spark程序运行时的配置信息*例如setAppName
夜空最亮的9星·2023-11-21 07:13

从flink-example分析flink组件(3)WordCount 流式实战及源码分析

前面介绍了批量处理的WorkCount是如何执行的这篇从WordCount的流式处理开始/***Implementsthe"WordCount"programthatcomputesasimplewordoccurrence
aebdm757009·2023-11-20 23:59

Scala编程实战 —— 一文学会编码大数据基础案例wordcount

SSM专栏（更新中…）本期文章：Scala编程实战——一文学会编码大数据基础案例wordcount如果对您有帮助还请三连支持，定会一一回访！‍
it春和·2023-11-20 13:43

IDEA+Maven构建scala项目【一篇就够】

一、新建项目输入项目名称：SparkDemo_WordCount，点击“完成”项目创建成功，如下所示："C:\ProgramFiles\Java\jdk1.8.0_45\bin\java"-Dmaven.multiModuleProjectDirectory
sjmz30071360·2023-11-20 03:48

Hadoop词频统计

2.已安装JAVA语言编译软件Eclipse3.新建一个txt文本文件用来存放单词制作JAR包创建一个Projectname为“WordCount”的JavaPr
weixin_49670340·2023-11-19 16:29

Hadoop自带WordCount进行词频统计（mapreduce）

Hadoop自带WordCount进行词频统计准备：安装好的Hadoop需要统计词频txt文件（用jieba分过词的链接:pycharm分词jieba结巴分词输出txt.step1启动Hadoopcd/
摸仙小蓝是人机·2023-11-19 16:57

Hadoop学习总结（MapRdeuce的词频统计）

MapRdeuce编程示例——词频统计一、MapRdeuce的词频统计的过程二、编程过程1、Mapper组件WordcountMapper.javapackagecom.itcast.mrdemo;importorg.apache.hadoop.io.IntWritable
Qinqin.J·2023-11-19 16:12

1.Apache Flink 1.12.0 wordcount

ApacheFlinkwordcountjava案例，scala案例，python案例版本操作系统：win10JDK：1.8Scala：2.11Python：3.7.4Flink：1.12.0一、BatchJob
终回首·2023-11-19 14:17

大数据基础设施搭建 - Hadoop

文章目录一、下载安装包二、上传压缩包三、解压压缩包四、配置环境变量五、测试Hadoop5.1测试hadoop命令5.2测试wordcount案例5.2.1创建wordcount输入文本信息5.2.2执行程序
m0_46218511·2023-11-19 10:33

spark算子简单案例 - Python

第1关：WordCount-词频统计#-*-coding:UTF-8-*-frompysparkimportSparkContextif__name__=="__main__":"""需求：对本地文件系统
垫脚摸太阳·2023-11-19 07:35

spark学习笔记（十一）——sparkStreaming-概述/特点/构架/DStream入门程序wordcount

目录SparkStreamingsparkStreamingDStreamsparkStreaming特点sparkStreaming构架背压机制DStream入门SparkStreamingsparkStreamingSparkStreaming用于流式数据的处理。SparkStreaming支持的数据输入源很多：Kafka、Flume、Twitter、ZeroMQ和简单的TCP套接字等等。数据
一个人的牛牛·2023-11-19 00:12

搭建Hadoop伪分布式集群

2.在Linux环境下完成伪分布式环境的搭建，并运行Hadoop自带的WordCount实例检测是否运行正常。【实验目的】1.掌握Linux虚拟机安装方法。
m0_58540923·2023-11-15 05:13

大数据Spark学习笔记—sparkcore

目录Spark概述核心模块Spark编程配置IDEA配置scala环境WordCount案例Spark-Standalone运行环境Local配置步骤集群分工解压文件修改配置启动集群配置历史服务器Spark-Yarn
Int mian[]·2023-11-15 03:12

HADOOP学习_grep和wordcount的例子

两个小例子目录操作文件操作追加文件目录操作首先检查一下自己的hdfs是不是有/user路径http://localhost:50070/explorer.html#/没有就新建一个[email protected]%./bin/hdfsdfs-mkdir-p/user/hadoop22/05/0215:43:54WARNutil.NativeCodeLoader:Unabletoload
kkkAloha·2023-11-14 23:16

mapreduce--单词分析

WCDriverpackagecom.atguigu.mr.wordcount;importorg.apache.hadoop.conf.Configuration;importorg.apache.hadoop.fs.Path
芝士小熊饼干·2023-11-14 23:44

【Hadoop】MapReduce详解

目录一、MapReduce概述1.1MapReduce介绍1.2MapReduce定义1.3MapReduce优缺点1.2.1.优点1.2.2.缺点1.4MapReduce框架结构二、WordCount
阿龙先生啊·2023-11-14 21:56

Linux的wc

它的名称代表“wordcount”，但实际上它可以提供更多的信息，包括文件的行数、字节数以及字数的统计。
IDIOT___IDIOT·2023-11-13 21:16

Haddoop大数据教程笔记_09_HIVEsql复杂用法举例

目录HIVEsql复杂用法举例1.保存select查询结果的几种方式：2.行转列,根据主键对某列进行合并3.列转行,将某列数据拆分成多行4.hive实现wordcount5.级联查询实现累积报表(笨办法
Snowing_inhope·2023-11-13 12:02

MapReduce分布式编程实验报告

MapReduce分布式编程一、分布式编程的介绍二、什么是MapReduce三、运行wordcount程序WordCountMapper类WordCountReduce类WordCountDriver类导出
JackZhao666·2023-11-13 03:21

Hadoop之实战WordCount

大致流程如下：第一步：开发Map阶段代码第二步：开发Reduce阶段代码第三步：组装Job在idea中创建WordCountJob类添加注释，梳理一下需求：需求：读取hdfs上的hello.txt文件，
hhhecker·2023-11-10 20:23

hadoop MapReduce 实战（java）：单词计数

在WordCount项目里新建class，名称为WordCount，代码如下：packagetest;importjava.io.IOException;importorg.apache.hadoop.conf.Configur
柯努力·2023-11-10 20:51

Hadoop实战 一 WordCount

Hadoop实战一WordCount准备工作启动虚拟机HadoopWindowsHadoop环境配置准备数据文本修改Mavenpom文件Hadoop配置文件编码环节Mapper文件Reduce文件Mian
Tzyy皮皮·2023-11-10 20:18

IntelliJ IDEA使用笔记—— 创建Maven Scala项目

IntelliJIDEA使用笔记——创建MavenScala项目IDEAMavenScala项目pow.xml文件配置删除java包，新建scala包新建Scalaclass编写代码编写SparkWordCount
qq_44813644·2023-11-09 21:49

【Flink---02】Flink开发环境：IDEA

文章目录第一步：创建项目第二步：编辑pom.xml文件第三步：配置日志第四步：编写代码(1)数据准备(2)方式一：批处理(3)方式二：流处理*以有界流的方式*以无界流的方式以WordCount为例，进行演示第一步
ElegantCodingWH·2023-11-09 06:34

【面经】字节大数据开发面经

1.wordcount的实现过程Map阶段：按行读取要统计的文本文件；按空格拆分每行的单词将单词转换成kv键值对，格式为（单词，1）将所有的kv键值对中的单词按照单词首字母分区，比如分两个区，那么分区1
和风与影·2023-11-09 03:36

Spark提交代码到集群中运行

将代码打成jar包并上传4、构建提交命令(使用的是cluster)：spark-submit--masteryarn--deploy-modecluster--classcom.spark.core.WordCountDemo01spark
新手小农·2023-11-08 09:23

Hadoop知识点全面总结

SecondaryNameNode介绍DataNode介绍DataNode总结MapReduce介绍分布式计算介绍MapReduce原理剖析MapReduce之Map阶段MapReduce之Reduce阶段实战WordCount
小崔的技术博客·2023-11-07 08:40

【大数据Flink】入门案例 -- WordCount（DataStream）

Flink经典入门案例--WordCount1.环境准备2.数据加载3.数据处理3.1切割3.2标记3.3分组3.4聚合4.数据输出源码下面主要是使用DataStream的方式去实现，在Flink1.14
Buffedon·2023-11-07 07:47

flink入门（wordcount）

Flink快速上手1.在IDEA创建maven工程FlinkTutorial2.在pom.xml中添加依赖和maven插件org.apache.flinkflink-scala_2.111.10.2org.apache.flinkflink-streaming-scala_2.111.10.2org.apache.flinkflink-connector-kafka-0.11_2.121.10.1
sgxmr·2023-11-06 20:30

Flink java wordcount

Flnkjavawordcount前言项目的目录结构pom文件WindowWordCount.javahelloword.txt文件运行结果注意前言各位好，欢迎浏览我的博客，后面将持续更新小编在flink
柳牧之·2023-11-06 20:59

Flink入门案例WordCount

FLINK大数据领域避不可谈的就是实时流数据处理了，Flink作为流处理的中坚力量，有着广泛的应用，下面来结合WordCount来简单理解如何使用Flink吧流程Flink处理数据流程如下WordCount
BirdMan98·2023-11-06 20:59
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他