Hadoop分布式

hive学习记录

一、Hive的基本概念定义：Hive是基于Hadoop的一个数据仓库工具，可以将结构化的数据文件映射为一张表，并提供类SQL查询功能。
2302_80695227·2024-09-03 12:46

CityHash、FarmHash

它们在数据中心和大规模分布式系统中尤其有用，用于任务如数据分区、查找优化、数据校验等。这两种哈希函数都以其高效的性能和良好的分布特性而著称。
秋夫人·2024-09-03 11:43

利用Spring Boot的@Transactional注解保障业务数据的一致性

在现代软件开发中，特别是在分布式系统和微服务架构中，确保数据的一致性是一项至关重要的任务。
潘多编程·2024-09-03 10:39

消息中间件概述

什么是JMSJava消息服务（JavaMessageService）即JMS，是一个Java平台中关于面向消息中间件的API，用于在两个应用程序之间，或分布式系统中发送消息，进行异步通信。
小孩真笨·2024-09-03 08:36

计算机毕业设计hadoop+spark知识图谱房源推荐系统 房价预测系统 房源数据分析 房源可视化 房源大数据大屏 大数据毕业设计 机器学习

创新点：1.支付宝沙箱支付2.支付邮箱通知(JavaMail)3.短信验证码修改密码4.知识图谱5.四种推荐算法(协同过滤基于用户、物品、SVD混合神经网络、MLP深度学习模型)6.线性回归算法预测房价7.Python爬虫采集链家数据8.AI短信识别9.百度地图API10.lstm情感分析11.spark大屏可视化开发技术：springbootvue.jspythonechartssparkmys
计算机毕业设计大全·2024-09-03 07:05

【Kafka】怎么解决Kafka消费者消费堆积问题？

文章目录一、引言二、Kafka消费堆积原因分析三、解决方案1.重制消费点位2.增加消费者数量3.优化消费能力四、重制消费点位五、增加消费者数量六、优化消费能力七、总结八、参考文献九、附录摘要：在分布式系统中
程序者王大川·2024-09-03 07:47

聊聊 OceanBase 资源管理

OceanBase是分布式多租户架构数据库，其分布式集群从资源角度看可以分成集群、Zone、OBServer、资源池和租户等几个层次。
数据最前线·2024-09-03 04:56

基于分布式计算的电商系统设计与实现【系统设计、模型预测、大屏设计、海量数据、Hadoop集群】

=有需要本项目的代码或文档以及全部资源，或者部署调试可以私信博主==项目展示项目介绍目录摘要Abstract1引言1.1研究背景1.2国内外研究现状1.3研究目的1.4研究意义2关键技术理论介绍2.1Hadoop
王小王-123·2024-09-03 04:54

大数据技术之Flume 企业开发案例——自定义 Interceptor（8）

编辑flume配置文件分别在hadoop12，hadoop13，hadoop14上启动flume进程，注意先后顺序。在hadoop12使用netcat向localhost:44444发送字母和数字。
大数据深度洞察·2024-09-03 03:50

大数据基础之Flume——Flume基础及Flume agent配置以及自定义拦截器

Flume简介Flume用于将多种来源的日志以流的方式传输至Hadoop或者其他目的地 -一种可靠、可用的高效分布式数据收集服务Flume拥有基于数据流上的简单灵活架构，支持容错、故障转移与恢复由Cloudera2009
Clozzz·2024-09-03 03:17

2024SpringCloud学习笔记

远程调用RestTemplate服务注册与发现&分布式配置管理Consul下载安装官网https:/ldeveloper.hashicorp.com/consul/downloads开发者模式启动consulagennt-dev
wang__n·2024-09-03 02:11

Mapreduce是什么

HadoopMapReduce是一个软件框架，基于该框架能够容易地编写应用程序，这些应用程序能够运行在由上千个商用机器组成的大集群上，并以一种可靠的，具有容错能力的方式并行地处理上TB级别的海量数据集。
whisky丶·2024-09-03 01:07

Hadoop之MapReduce

1.MapReduce解决的问题1)数据问题：10G的TXT文件2)生活问题：统计分类上海市的图书馆的书2.MapReduce是什么MapReduce是一种分布式的离线计算框架，是一种编程模型，用于大规模数据集
qq_43198449·2024-09-03 01:07

Flume介绍及调优

一、概述Flume是Cloudera提供的一个高可用的，高可靠的，分布式的海量日志采集、聚合和传输的系统，Flume支持在日志系统中定制各类数据发送方，用于收集数据；同时，Flume提供对数据进行简单处理
桓桓桓桓·2024-09-03 01:04

大数据技术之Flume 数据流监控——Ganglia 的安装与部署（11）

目录Flume数据流监控Ganglia的安装与部署Ganglia组件介绍1）安装Ganglia2）在hadoop12修改配置文件/etc/httpd/conf.d/ganglia.conf3）在hadoop12
大数据深度洞察·2024-09-03 00:33

Hadoop 中的大数据技术：调优篇（3）

故障模拟终止NameNode进程[lzl@hadoop12current]$kill-919886删除NameNode存储的数据[lzl@hadoop12hadoop-3.1.3]$rm-rf/opt/
大数据深度洞察·2024-09-03 00:33

大数据技术之Flume

第1章Flume概述1.1Flume定义Flume是Cloudera提供的一个高可用的，高可靠的，分布式的海量日志采集、聚合和传输的系统。Flume基于流式架构，灵活简单。
okbin1991·2024-09-03 00:32

SkyWalking：⼀款用于分布式系统的应用程序性能监视工具

⼀款用于分布式系统的应用程序性能监视工具，尤其是面向微服务、云原生和基于容器(Kubernetes)架构设计。
学博成·2024-09-02 23:23

【HBase之轨迹】（1）使用 Docker 搭建 HBase 集群

——目录——0.前置准备1.下载安装2.配置（重）3.启动与关闭4.搭建高可用HBase前言（贫穷使我见多识广）前边经历了Hadoop，Zookeeper，Kafka，他们的集群，全都是使用Docker
寒冰小澈IceClean·2024-09-02 22:49

Spark-submit提交任务的常用参数

#参数名称#含义--clusterc3prc-hadoop#--masterMASTER_URL#可以是spark://host:port,mesos://host:port,yarn,yarn-cluster
liuzx32·2024-09-02 20:22

Elasticsearch 查询和聚合查询：基本语法和统计数量

摘要：Elasticsearch是一个强大的分布式搜索和分析引擎，提供了丰富的查询和聚合功能。本文将介绍Elasticsearch的基本查询语法，包括预发查询和聚合查询，以及如何使用聚合功能统计数量。
zybsjn·2024-09-02 20:40

hadoopsdk使用_使用 .NET SDK 管理 HDInsight 中的 Apache Hadoop 群集

全球版技术文档网站，若需要访问由世纪互联运营的MICROSOFTAZURE中国区技术文档网站，请访问https://docs.azure.cn.使用.NETSDK管理HDInsight中的ApacheHadoop
weixin_39862484·2024-09-02 20:39

Hive 运行在 Tez 上

Tez下载Tez官网Tez在Hive上的运用前提要有Hadoop集群上传Tez压缩包到Hive节点上tar-zxvfapache-tez-0.9.1-bin.tar.gz-C/opt/module/tez
爱吃酸梨·2024-09-02 20:07

分布式搜索引擎Elasticsearch——基础

文章目录一、Lucene与Solr与Elasticsearch二、ES核心术语三、ES核心概念四、倒排索引五、ES的安装（centos7）1、下载地址（这里安装linux版本）2、解压压缩包3、修改配置文件(1)修改核心配置文件(2)修改JVM配置文件4、启动ES(1)添加系统用户并授权(2)ES启动(3)修改配置文件(4)再次启动ES六、安装ES-head插件（可视化管理插件）1、使用谷歌市场安
敲代码的旺财·2024-09-02 16:17

分布式基础——谷粒商城【一章节】

前期配置：虚拟机安装VirtyalBox管理器vagrant安装centos7的虚拟机可以使用镜像科大镜像：https://docker.mirrors.ustc.edu.cn/网易：https://hub-mirror.c.163.com/阿里云镜像获取地址：https://cr.console.aliyun.com/cn-hangzhou/instances/mirrors登录后#中科大的镜像
杳杳博客·2024-09-02 16:47

Spring中间件 - 什么是中间件

因此开始陆续出现应用与数据库分离、Nginx反向代理、缓存组件、分组部署、RPC分布式应用、网关服务、监控系统等等。在这些系统的架构
宋同学shl·2024-09-02 15:12

分布式组件-SpringCloud-OpenFeign远程调用

想要远程调用别的服务(必须在注册中心开启才能使用远程调用，否则会调用失败)1、先在想要调用别的服务的模块内引入open-feign依赖org.springframework.cloudspring-cloud-starter-openfeign2、再编写一个接口，告诉SpringCloud这个接口需要远程服务然后在接口的上方添加注解@FeignClient("被调用的服务名称"),如@FeignC
敲代码的程序员·2024-09-02 15:10

大数据技术之Zookeeper概述（1）

工作机制Zookeeper数据结构Znode（ZookeeperNode）Znode的类型Znode路径Znode属性Watcher监听器使用示例总结Zookeeper入门概述Zookeeper是一个分布式的
大数据深度洞察·2024-09-02 14:02

大数据开发技术HBase优化与特点分析

关闭HBase集群（如果没有开启则跳过此步）[atguigu@hadoop102hbase]$bin/stop-hbase.sh在con
at小白在线中·2024-09-02 13:32

缓存读写策略 Cache Aside Pattern，开发必备

我们在前面讲到了当我们业务面临大量写并发的时候，将数据库开发成分布式存储系统，然后又介绍了NoSql数据库与关系型数据库互相配合，以用来更好的服务与我们的业务发展。
架构师修炼·2024-09-02 12:20

142. Go操作Kafka（confluent-kafka-go库）

如何操作kafka28.windows安装kafka，Go操作kafka示例（sarama库）51.Go操作kafka示例（kafka-go库）Apachekafka简介ApacheKafka是一个开源分布式事件流平台
百里守约学编程·2024-09-02 11:45

rpc详解rpc框架

调用异常一般怎么处理rpc和http的区别为什么RPC要比HTTP更快一些Dubbo和openfeign区别远程调用RPC框架传输协议传输速度概述在互联网应用开发中，随着业务的复杂度增加，一般都会采用分布式架构
思静语·2024-09-02 08:29

Memcached append 命令

Memcachedappend命令Memcached是一种高性能的分布式内存对象缓存系统，常用于缓存数据库调用、API响应等，以减少服务器负载和提高访问速度。
wjs2024·2024-09-02 08:57

如何防范ddos 攻击

防护DDoS（分布式拒绝服务）攻击是一个复杂且多方面的任务，需要综合考虑网络架构、硬件设备、软件配置以及安全策略等多个方面。
ajax_beijing_java·2024-09-02 07:49

Git基本使用

Git简介Git是一个免费的、开源的分布式版本控制系统，可以快速高效地处理从小型到大型的各种项目。
unhurried人生——冕临·2024-09-02 05:34

【GaussDB】分布式性能分析常用的SQL

--查看连接数selectcoorname,usename,application_name,substr(query,1,50)asquery,statefrompgxc_stat_activitywherestate='active'andusename='xxx';selectcoorname,count()frompgxc_stat_activitywhereusename='cbsprd
俊男无期·2024-09-02 04:30

浅谈安科瑞系能源配套产品在美特新材料光储充一体化项目上的应用

建设内容:本项目拟建设光储充一体项目，配置一套直流侧装机容量为533.6kWp、交流侧容量0.44MW分布式光伏发电系统，光伏板分布在办
AcrelMyy1·2024-09-02 03:27

经验笔记：Hadoop

Hadoop经验笔记一、Hadoop概述Hadoop是一个开源软件框架，用于分布式存储和处理大规模数据集。其设计目的是为了在商用硬件上运行，具备高容错性和可扩展性。
漆黑的莫莫·2024-09-02 03:54

传播行为、事务回滚、分布式事务（CAP理论和BASE理论）

文章目录1、事务回顾2、传播行为：3、事务回滚4、分布式事务4.1、分布式事务理论4.1.1、CAP理论4.1.1.1、CAP理论的基本概念4.1.1.2、CAP理论的权衡4.1.1.3、CAP理论的应用场景
小丁学Java·2024-09-02 03:22

Kafka【二】关于消费者组（Consumer Group）、分区（partition）和副本（replica）的理解

【1】概述ApacheKafka是一个分布式流处理平台，它允许你发布和订阅记录流，存储记录流，并且可以对这些记录流进行处理。
流烟默·2024-09-02 02:20

计算机网络经典选择题20道

计算机网络可以被理解为（B）执行计算机数据处理的软件模块由自治的计算机互联起来的集合体多个处理器通过共享内存实现的紧耦合系统用于共同完成一项任务的分布式系统计算机网络最基本的功能是（A）A.数据通信B.
李不知道我知道·2024-09-02 02:45

Spring Boot/Cloud实现多服务Session共享

背景最近公司承接的某项目里，随着用户量的递增，单服务渐渐不能满足客户的需求了，客户方希望我们对原有的服务进行扩展，采用分布式集群部署的方式实现对高并发和负载均衡的支持。
雷袭月启·2024-09-02 01:12

分布式锁 RedisSon

文章目录1.什么是分布式锁2.分布式锁应该具备哪些条件3.分布式锁主流的实现方案4.未添加分布式锁存在的问题4.1测试未添加分布式锁的代码通过jmeter发送请求4.2添加线程同步锁集群部署配置nginx
北执南念·2024-09-02 00:08

什么是中间件，常用的中间件有哪些？

主要解决异构网络环境下分布式应用软件的互连与互操作问题，提供标准接口、协议，屏蔽实现细节，提高应用系统易移植性（北京大学梅宏）。常见的中间
渔jy·2024-09-01 23:28

对BBC 的 DDoS 攻击可能是历史上最大的

上周针对BBC网站的分布式拒绝服务攻击可能是历史上规模最大的一次。一个自称为NewWorldHacking的组织表示，攻击达到了602Gbps。
Eliza_卓云·2024-09-01 22:50

使用Petals和LangChain运行大型语言模型：入门指南

Petals项目提供了一种创新的解决方案，让用户能够以分布式方式在家中运行100B+参数的语言模型。本文将介绍如何结合使用Petals和LangChain来轻松部署和使用大型语言模型。
qq_37836323·2024-09-01 20:40

4.Redis 持久化机制 分布式锁

1.持久化尽管Redis是一个内存数据库，但它支持两种持久化机制：RDB（快照持久化）和AOF（追加文件），这两种机制可以将数据写入磁盘，从而避免因进程退出而导致的数据丢失。1.1RDB（快照持久化）RDB持久化是将当前内存中的数据生成快照并保存到硬盘的过程。就像拍照一样，RDB记录的是某一时刻内存中数据的状态。RDB的特点全量快照：RDB会将内存中的所有数据记录到磁盘中。生成方式：SAVE：在主
拾柒mm·2024-09-01 19:38

折腾 Quickwit，Rust 编写的分布式搜索引擎-官方配置详解

Nodeconfiguration(节点配置)节点配置允许您为集群中的各个节点自定义和优化设置。它被分为几个部分：常规配置设置：共享的顶级属性Storage(存储)设置：在storage部分定义https://quickwit.io/docs/configuration/node-config#storage-configurationMetastore(元存储)设置：在metastore部分定义
为为少·2024-09-01 18:30

链动时代区块链存证系统丨陀螺研究院×FISCO BCOS案例专辑

区块链，一种由多方共同维护、分布式储存的记账技术，可通过信任机制的重构拓宽协作关系的纵深度，在推动产业变革、创建数字经济等方面有着关键作用。
陀螺财经·2024-09-01 17:19

一份秀出新天际的SpringCloudAlibaba笔记，把微服务玩的出神入化

此项目包含开发分布式应用微服务的必需组件，依托SpringCloudAlibaba，只需要添加一些注解和少量配置，就可以将SpringCloud应用接入阿里微服务解决方案，通过阿里中间件来迅速搭建分布式应用系统
程序员小北·2024-09-01 16:44
上一页 4 5 6 7 8 9 10 11 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他