CDH大数据平台

日调用量超千万，超低查询延迟！跨越速运基于Flink + OceanBase的实时分析解决方案与实践

跨越速运内部有超过100位BI分析师，日常工作需要借助大数据平台中的服务项目进行数据研发。跨越速运的数据服务场景中有一万余数据接口，日调用量超过1000万次，并保持99%查
OceanBase数据库官方博客·2024-02-03 23:48

CDH-CM资源下载

http://ro-bucharest-repo.bigstepcloud.com/cloudera-repos/CDH-6.3.2 链接: https://pan.baidu.com/s/1Vd9ZaXcKG0JDCDszTtasjQoycpCDH
0X码上链·2024-02-03 21:12

2019-10-08 大数据开发进阶之路

HBase/Flume等掌握Spark生态核心技术，如Spark架构/RDD转换算子/行动算子/持久化算子/任务调度/SparkStreaming等能够对崭新的问题进行建模分析，使用一直只是进行解决掌握大数据平台调优技能
红瓦李·2024-02-03 20:39

Flink实时数仓同步：拉链表实战详解

然而，为满足日常分析和报表等需求，大数据平台采用多种同步方式，以适应这些业务数据的不同存储需求。这些同步存储方式包括离线仓库和实时仓库等，选择取决于业务需求和数据特性。
Light Gao·2024-02-03 10:15

Flink实时数仓同步：流水表实战详解

然而，为满足日常分析和报表等需求，大数据平台采用多种同步方式，以适应这些业务数据的不同存储需求。这些同步存储方式包括离线仓库和实时仓库等，选择取决于业务需求和数据特性。
Light Gao·2024-02-03 10:15

深入数仓离线数据同步：问题分析与优化措施

二、场景在大数据平台中，业
Light Gao·2024-02-03 10:14

Flink实时数仓同步：快照表实战详解

然而，为满足日常分析和报表等需求，大数据平台采用多种同步方式，以适应这些业务数据的不同存储需求。这些同步存储方式包括离线仓库和实时仓库等，选择取决于业务需求和数据特性。
Light Gao·2024-02-03 10:38

第十一章 金融大数据解决方案

金融信息化1.全球金融信息化发展历程2.我国金融信息化发展趋势金融大数据综述1.金融大数据特征2.金融大数据的机遇和挑战金融大数据平台总体架构数据应用-数据计算-数据管理-数据源1.建设原则和目标2.金融大数据业务架构数据才基层
etheon·2024-02-03 00:36

测试环境搭建整套大数据系统（二：安装jdk，mysql）

一：安装JDK参考https://blog.csdn.net/weixin_43446246/article/details/123328558二：安装mysql1.因为我们安装cdh6.3.2。
宇智波云·2024-02-02 23:44

CDH6.3.2安装

、ClouderaManager的功能3、ClouderaManager的架构二、准备清单1、部署步骤2、集群规划3、软件环境准备三、安装清单1、操作系统iso包2、JDK包3、MySQL包4、CM和CDH
烟雨话浮生·2024-02-02 14:09

精益开发——税务大数据平台建设效能提升的倍增器

2020年阿里巴巴的研发效能峰会上，阿里资深技术专家何勉做了“ALPD——阿里创新能力背后的精益产品开发体系”的分享，它是阿里正在实践和持续打造的产品开发方法，目的是帮助组织提升精益的交付和创新能力，实现十倍效能提升（包括：响应速度、过程质量、有效价值交付等）。或许大家会有怀疑，采用精益开发真有这么大的提升吗？答案是肯定的。这种巨大的提升来自于精益软件开发的理念和方法，它更精准地把握了软件开发过程
悬臂星云·2024-02-02 10:36

珠宝的新模式分析

最新的一轮融资将用来建设珠宝首饰全行业大数据平台，应该是要更好地对珠宝行业的发展把脉。“每月花100元上下成为会员，用户会收到一个‘小蓝盒’，盒子里面有三件总价值在200
三锦囊的猫·2024-02-02 08:15

基于PLC远程网关的智慧农业远程监控系统解决方案

政府大力推动农业科技创新，并通过政策扶持和社会资本投入促进智能农机设备、农业大数据平台、无人农场等新型模式广泛应用。
蓝蜂物联网·2024-02-02 03:48

大数据信用报告应该去哪里查询比较好呢?

本文将为您详细介绍征信和大数据的区别，并推荐一个可靠的大数据平台。
2401_82630523·2024-02-02 01:03

【具身智能】Habitat挑战赛2023环境搭建

Habitat挑战赛2023环境搭建安装步骤拉取源码gitclonehttps://github.com/facebookresearch/habitat-challenge.gitcdhabitat-challengeNvidia
Moresweet猫甜·2024-02-01 22:35

Flink 读取 Kafka 消息写入 Hudi 表无报错但没有写入任何记录的解决方法

博主历时三年精心创作的《大数据平台架构与原型实现：数据中台建设实战》一书现已由知名IT图书品牌电子工业出版社博文视点出版发行，点击《重磅推荐：建大数据平台太难了！给我发个工程原型吧！》
　Laurence·2024-02-01 15:24

【大数据安全】数据管理安全&安全分析&隐私保护

大数据安全分析架构（二）大数据防DDoS攻击（三）攻击可视化与安全业务定制三、隐私保护（一）隐私保护面临的挑战（二）内容关联密钥（三）华为大数据隐私保护方案一、数据管理安全（一）数据溯源数据溯源技术对大数据平台中的明细数据
Francek Chen·2024-02-01 13:48

利用 Cloudera Manager下安装kafka

文章目录前言一、基于CDH版本选择安装1.1基于CDH版本选择安装1.2选择依赖项1.3角色分配1.4设置KafkaBroker配置1.5查看命令详请1.6安装概要1.7主页查看/启动前言本文章是是利用
914 JJ·2024-02-01 13:28

CDH5部署三部曲之二：部署和设置

GitHubhttps://github.com/zq2599/blog_demos内容：所有原创文章分类汇总及配套源码，涉及Java、Docker、Kubernetes、DevOPS等；本篇概览本文是《CDH5
程序员欣宸·2024-01-31 23:19

数据湖技术Iceberg0.12预研文档

预研本次预研场景主要为kafka=>flinksql=>iceberg=>hive=>hdfs=>trino(presto)本次预研使用组件如下：名称版本描述flink1.12.1通过parcel包部署于cdh6.3.2
我去探险了·2024-01-31 15:36

Intelj IDEA 配置Hadoop 远程调试环境

远程hadoop版本：Hadoop3.0.0+cdh6.3.2一、设置本地hadoop环境1、下载hadoop下载hadoop-3.0.0.tar.gz，并解压到D:\BigData\并重命名为hadoop
跟着大数据和AI去旅行·2024-01-31 12:34

【大数据安全】大数据安全的挑战与对策&基础设施安全

目录一、大数据安全的挑战与对策（一）数据加密技术（二）大数据安全与隐私（三）大数据安全保障体系（四）华为大数据安全解决方案二、基础设施安全（一）认证技术（二）访问控制（三）公钥基础设施（四）华为大数据平台大数据安全是指在大数据环境下
Francek Chen·2024-01-31 10:49

Linux自动备份MySQL数据库

目录1.创建备份目录2.创建自动化备份脚本3.执行备份脚本测试4.设置每天凌晨两点自动执行1.创建备份目录cdhomemkdirbackup2.创建自动化备份脚本vimbackup.sh编辑脚本内容主机
数据艺术家.·2024-01-31 01:05

Spark 读取、写入时序数据库TDengine以及TDengine概述

除核心的时序数据库功能外，TDengine还提供缓存、数据订阅、流式计算等大数据平台所需要的系列功能，最大程度减少研发和运维的复杂度。1.TDengine总结出了物联网
Alex_81D·2024-01-30 18:10

奇富科技：大数据任务从诊断到自愈的实践之路

整个大数据平台有1000+机器、70P数据量，每日新增200T数据。每天在毓数工作流上运
DolphinScheduler社区·2024-01-30 11:08

103.Flume对Kafka数据采集并写入HBase

103.1演示环境介绍CM版本：5.12.1CDH版本：5.12.1Flume，HBase服务已安装且正常运行root用户操作103.2操作演示1.HBaseSink开发示例开发HBaseSink需要添加
大勇任卷舒·2024-01-29 21:54

Pytorch学习记录-Pytorch可视化使用tensorboardX

https://www.jianshu.com/p/23205a7921cdhttps://www.jianshu.com/p/6235c1ecde67https://www.jianshu.com/p
我的昵称违规了·2024-01-29 11:20

基于大数据平台的kylin安装部署手册

目录一.单例Kylin部署1.环境准备1.1软件要求1.2硬件要求1.3Hadoop环境1.4安装前环境检查1.4.1开启时钟同步1.4.2安装net-tools1.4.3检查hbase是否可用1.4.4检查hive是否可用（etl用户,控制台输入）1.4.5检查Hive配置文件2.Kylin安装2.1配置环境变量2.2修改tomcat的配置文件2.3检查tomcat依赖包4.4检查Kylin权限
猿来孺词·2024-01-29 10:26

产业需求大数据平台

产业需求大数据平台，依托大数据、NLP等技术，全面采集区域产业人才需求数据，从宏观、中观、微观三个层面对产业需求进行分析，并匹配学校自身的办学定位、专业布局、人才培养目标、培养规格和课程设置，进行专业设置匹配度
单眼皮的老虎·2024-01-29 09:24

【cdh】hive执行SQL提示缺少3.0.0-cdh6.3.2-mr-framework.tar.gz文件

问题：执行SQL报错提示缺少文件异常信息如下在hdfs上查看的时候连文件夹都没有，所以这个异常会抛出，但是我是基于CDH搭建的，可以直接基于下面操作执行完成之后查看HDFS文件重新执行SQL发现可以正常执行了
谷新龙001·2024-01-29 07:46

使用 create-react-app 创建 react 应用

创建项目并启动第一步：全局安装：npminstall-gcreate-react-app第二步：切换到想创建项目的目录，使用命令create-react-apphello-react第三步：进入项目目录，cdhello-react
hsdjhaiwhdnjw·2024-01-29 05:42

在CDH6.3中单独升级Impala到Apache Impala 3.4

１.实验环境一个CDH6.3.3集群，部署在三台Ubuntu16.04机器上一台同样环境的Ubuntu16.04机器用来编译ApacheImpala3.4CDH6.3.3对应的Impala基础版本是ApacheImpala3.2
stiga-huang·2024-01-28 12:06

如何对CDH集群中的Impala打印线程堆栈

如何对CDH集群中的Impala打印线程堆栈上一篇文章《Impala查询卡顿分析案例》介绍了怎么对Impala进程打印线程堆栈，JVM部分直接用jstack比较直接，但C++部分由于要使用gdb或breakpad
stiga-huang·2024-01-28 12:05

Impala依赖组件的客户端源码下载

Impala编译时默认依赖CDH/CDP组件，这些组件跟开源Apache组件的源码可能有差异，但对应的客户端源码也是开源的，可以从S3下载。
stiga-huang·2024-01-28 12:04

66.管理Hive外部表——Sentry

66.1演示环境介绍操作系统：CentOS6.5CM和CDH版本：5.12.1采用root用户操作集群运行正常，Kerberos/HDFS/Hive/Impala/Hue服务已与Sentry集成，Hive
大勇任卷舒·2024-01-28 11:57

我们的大数据平台项目之所以很实惠是因为有套路可循

我们的大数据平台项目之所以很实惠是因为有套路可循大数据已经成为企业决策的关键因素。然而，许多企业在实施大数据项目时，常常面临成本高昂、技术复杂等挑战。
UI设计前端开发一线员工·2024-01-27 19:00

搭建大数据平台常用的端口号

50070：HDFSwebUI的端口号8485:journalnode默认的端口号9000：非高可用访问数rpc端口8020：高可用访问数据rpc8088：yarn的webUI的端口号8080：master的webUI，Tomcat的端口号7077：spark基于standalone的提交任务的端口号8081：worker的webUI的端口号18080：historyServer的webUI的端口
修勾勾L·2024-01-27 13:51

linux 查看zookeeper server运行版本号

zookeeper版本查看运行命令：echostat|nclocalhost2181显示如下图所示：Zookeeperversion:3.4.5-cdh6.3.2--1,builton11/08/201913
qq_21480329·2024-01-27 08:25

大数据平台红蓝对抗 - 磨利刃，淬精兵！

随着平台业务越来越复杂，红蓝对抗的作用愈来愈明显，下面将详细介绍大数据平台在大促备战工作中是如何开展红蓝对抗的。首先我们先了解一下什么是红蓝对抗，它都有哪些好处？
京东云技术团队·2024-01-27 07:02

Cloudera5 安装 CDH 卡住 报 Failure due to stall on seeded torrent

Failureduetostallonseededtorrent屏幕快照2017-12-1021.47.53.png可以用curl-vhttp://localhost:7180/cmf/parcel/download/CDH
TreviD·2024-01-27 06:21

Flink 集成 Debezium Confluent Avro ( format=debezium-avro-confluent )

博主历时三年精心创作的《大数据平台架构与原型实现：数据中台建设实战》一书现已由知名IT图书品牌电子工业出版社博文视点出版发行，点击《重磅推荐：建大数据平台太难了！给我发个工程原型吧！》
　Laurence·2024-01-27 06:54

37.Java连接Kafka

37.1实验环境Intellij已安装且正常运行Maven环境正常RedHat7.2CM和CDH版本为5.11.2Kafka2.2.0-0.10.2创建topic，test3有3个replication
大勇任卷舒·2024-01-27 06:40

怎么在手机上怎么查大数据信用报告?大数据信用平台哪个好？

无论你是在手机浏览器搜索还是电脑上搜索，搜索结果排在最前面的几个一定是其他平台投放的广告，我们拿几个关键词搜索举例子：搜索“大数据报告查询”“小易大数据平台”“大数据信用怎么查”搜索
2401_82630523·2024-01-27 00:57

CDH 6.3.2 Parcel 包安装 Apache Flink 1.10.2

CDH6.3.2Parcel包安装ApacheFlink1.10.2文档材料介质路径调整Maven配置文件编译Flink1.创建服务目录2.下载介质3.编译FlinkShaded制作Pacel包配置FlinkParcel1
JP.Hu·2024-01-26 19:37

用户画像项目背景

1,用户画像项目介绍大数据平台简介数据仓库+用户画像+推荐系统（1）数据仓库：加快数据的分析和查询数据仓库分层：ODS层(映射HDFS的数据)—DW(数据仓库层)–APP(层)—BI(层)DW:DWD明细数据层
祈愿lucky·2024-01-26 13:20

5. 梳理离线批次spark作业提交脚本

/bin/bash-x#[email protected]_NAME="SparkALS"CDHUSER=adminCDHPASSWORD=adminCDHURL=http:/
赛尔木·2024-01-26 11:47

数字化转型当中数据治理的意义

政府部门通过大数据平台采集防疫信息，各类企业开始将目光投向更多的线上业务处理。据统计，全世界在2020年创建、捕获、复制和消耗执行的数据总量为59泽字节（ZB）。
qingyunliushuiyu·2024-01-26 09:32

教你三步实现CDH到星环TDH的平滑迁移

TranswarpDataHub（TDH）是星环科技自主研发的企业级一站式多模型大数据基础平台，其领先的多模型技术架构提供统一的接口层，统一的计算引擎层，统一的分布式存储管理层，统一的资源调度层，以及异构存储引擎层。8种异构存储引擎可以支持包括关系表、文本、时空地理、图数据、文档、时序等在内的10种数据模型。存算解耦特性支持弹性扩展，让资源配置更灵活。星环一站式多模型大数据基础平台TDH架构图TD
星环科技·2024-01-26 07:08

使用CDH的api接口对cdh服务进行滚动重启

同时cdh的大数据服务对用户都是黑盒。无法直接操作。
Mumunu-·2024-01-26 01:32

CDH浏览器安装流程

1主节点得ip：7180，然后输入账号密码：admin，admin2然后下一步下一步，选择所有得主机列出所有得主机3然后根据自己安装得版本来进行选择选择对应版本4然后等待安装等待配置5出现问题根据提示进行操作进行相关设置（安装得时候，一般做了配置）6然后下一步，然后选择自定义安装，先安装最基本得几个组件：HDFSHbaseZooKeePerYARN7然后就是分配主机安装组件了，分配规则是要均衡，而
PunkP·2024-01-25 23:41
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他