Sqoop列式存储

Apache Doris

核心特性列式存储基于MPP大规模并行处理架构的分析型数据库。PB级数据毫秒/秒级响应支持标准SQL语言兼容MySQL协议高效的聚
wqy19941008·2023-06-19 11:37

大数据hadoop生态技术简介

暂时将其核心技术分为9类：数据采集技术框架：Flume、Logstash、FileBeat；Sqoop和Datax；Cannal和Maxwell数据存储技术框架：HDFS、HBase、Kudu、Kafka
三水写代码·2023-06-18 22:05

Doris面试题二十道

答案：Doris（前身为Palo）是一款开源的分布式列式存储计算引擎，用于快速查询和分析大规模数据。
MIDSUMMER_yy·2023-06-18 01:08

结合Sqoop练习一下columns、where和query参数

1、前期的数据准备1》创建一个学生表createtablestudent(idchar(30),namechar(30),ageint,phonechar(100),addresschar(100));2》插入数据insertintostudentvalues("1001","zhanghuan","21","1111","guiyang");insertintostudentvalues("10
墨染盛夏呀·2023-06-17 17:27

使用sqoop从Hive导出数据到MySQL

1、启动hadoop：start-all.sh。2、启动mysql：support-files/mysql.serverstart。3、启动hive：hive。4、在hive中创建表。（学生信息：学号xh，姓名xm）xsxx：createtablebigdata03.xsxx(xhString,xmString)rowformatdelimitedfieldsterminatedby','stor
墨染盛夏呀·2023-06-17 17:27

NoSQL数据库的四大分类及四大特点

2.Colunmn列式存储HBase将同一列的数据放在一起，查询非常快3.document文档存储MongoDB经典用于web项目中，与KeyValue类似，比如MongoDB主要应用在爬虫4.Graph
leson-xu·2023-06-17 16:31

ClickHouse和MySQL的区别

数据存储结构：ClickHouse是一种列式存储数据库，它以列为单位进行数据存储和处理。这种存储方式在处理大量数据时非常高效，特别适用于分析查询。
SugarPPig·2023-06-17 06:13

Hue:Hadoop 图形化用户界面

特性：一个HDFS的文件浏览器，一个MapReduce/YARN的Job浏览器，一个HBas的浏览器，Hive，Pig，ClouderaImpala和Sqoop2的查询编辑器。
victory0508·2023-06-17 06:07

从hive导出到MySQL中

使用sqoop1.
jwang31496·2023-06-17 05:42

spark 面试题汇总

大数据面试题汇总大数据面试题汇总-简书spark资源调优1、列式存储和行式存储的区别行存储，数据行存储，一个文件可表达一个二维表。
四月天03·2023-06-16 22:44

大数据项目2

通过此项目，回顾并串联前面讲述的离线数据处理相关技术，如：FIune、Sqoop、Hive、Spark等，了解和掌握PB级数据离线处理的一般过程和架构。
彼得潘多·2023-06-16 19:59

Java-Spark系列1-spark概述

2.2Hadoop生态圈中的各种框架2.3Spark2.3.1Spark的优势2.3.2Spark特点2.3.3SPRAK2新特性一.大数据技术栈如下图，当前的一个大数据技术栈:如上所示:数据采集，一般通过Sqoop
只是甲·2023-06-16 18:14

大数据学习记录（hadoop hive flume azkaban sqoop）

大数据学习记录（hadoophiveflumeazkabansqoop）1.hadoop对海量数据进行分布式处理2.核心组件：HDFS（分布式文件系统）、YARN（运算资源调度系统）、MAPREDUCE
左上晨·2023-06-16 10:58

【大数据面试】【项目开发经验】Hadoop、Flume、Kafka、Hive、MySQL、Sqoop、Azkaban、Spark...

主要内容：框架层面的调优、业务经验一、Hadoop1、Hadoop基准测试(HDFS的读写性能、MapReduce的计算能力测试)(1)测试内容：文件上传下载的时间(2)服务器有几个硬盘插槽2/4块问题：2块4T和一块8T的哪个贵2块4T的贵，可靠性更高一些(3)加了磁盘，默认情况下不会直接能够使用需要负载均衡，保证每个目录数据均衡开启数据均衡命令：bin/start-balancer.sh–th
哥们要飞·2023-06-16 10:57

大数据环境搭建 Hadoop+Hive+Flume+Sqoop+Azkaban

目录零：版本说明一、安装CentOS二、Hadoop单机配置三、Hive安装部署零：版本说明Hadoop：3.1.0CentOS：7.6JDK：1.8一、安装CentOS这里网上教程很多，就不贴图了【内存可以尽量大一些，不然Hive运行时内存不够】二、Hadoop单机配置创建tools目录，用于存放文件安装包将Hadoop和JDK的安装包上传上去创建server目录，存放解压后的文件解压jdk配置
JM1307hhh·2023-06-16 10:25

猿创征文｜大数据开发必备的数据采集工具汇总

文章目录前言1、Flume适用场景工作方式2、FlinkCDC适用场景工作方式3、Sqoop适用场景工作方式4、Canal适用场景工作方式5、Kettle适用场景工作方式前言随着大数据近几年的发展，已经在国内外的开发市场积累出一大批大数据开发的技术型人才
chad__chang·2023-06-16 03:23

【大数据之路8】数据迁移工具 Sqoop 的使用

数据迁移工具Sqoop1.Sqoop概述2.Sqoop基本命令1.共有参数2.普通操作命令3.导入导出命令导入1：导入MySQL数据库中的表数据到hdfs中导入2：导入MySQL数据库中的表数据到Hive
程序员胖五·2023-06-15 03:50

Hbase-- 03

4.原理加强4.1数据存储4.1.1行式存储传统的行式数据库将一个个完整的数据行存储在数据页中4.1.2列式存储列式数据库是将同一个数据列的各个值存放在一起传统行式数据库的特性如下：①数据是按行存储的。
All996·2023-06-14 10:53

2.淘宝购买行为分析项目——Hive查询、Sqoop的介绍与使用、SQLyog的安装与使用、Superset的概述与安装使用

1.热卖商品Top10思路：对于表中，需要求最热卖的商品，其实就是对商品的it进行分组，然后求有多少个用户id出现过（同一个用户可以反复购买，所以不需要去重），排序后再取前10个即可。selectitem_id,count(user_id)sale_numfromto_user_loggroupbyitem_idorderbysale_numdesclimit10**查询当前的HiveSQL执行进
想成为数据分析师的开发工程师·2023-06-14 10:14

【基于hadoop+hive的电商用户行为大数据分析（hdfs+hive+sqoop+echart）-哔哩哔哩】 https://b23.tv/U2aYm9v

【基于hadoop+hive的电商用户行为大数据分析（hdfs+hive+sqoop+echart）-哔哩哔哩】https://b23.tv/U2aYm9vhttps://b23.tv/U2aYm9v
源码空间站11·2023-06-14 10:43

Hive学习笔记3

Hive学习笔记3压缩和存储Hadoop压缩配置MR支持的压缩编码压缩参数配置开启Map输出阶段压缩（MR引擎）开启Reduce输出阶段压缩文件存储格式列式存储和行式存储TextFile格式Orc格式Parquet
sheygshsi·2023-06-14 04:45

Hbase安装及简介

什么是hbase1.简介HBase是一个面向列式存储的分布式数据库，其设计思想来源于Google的BigTable论文。HBase底层存储基于HDFS实现，集群的管理基于ZooKeeper实现。
华..·2023-06-13 18:42

一款OLAP数据库ClickHouse

ClickHouse是俄罗斯的Yandex于2016年开源的列式存储数据库（DBMS），使用C++语言编写，主要用于在线分析处理查询（OLAP），能够使用SQL查询实时生成分析数据报告。
高阳很捷迅·2023-06-13 17:04

三种列式存储源代码分析读取差异

三种列式存储源代码分析读取差异tablename:t列信息：A,B,C三列，列数据量相同，类型为string表数据量大小：300G，每列数据100G主要分析两种类型的sql对于不同存储格式的读取数据量大小
君子慎独焉·2023-06-12 21:37

3.完成ODS层数据采集操作

mysql1选中mysql运行脚本2验证结果数据存储格式和压缩方案存储格式分类1.行式存储(textFile)缺点：可读性较好执行select*效率比较高缺点：耗费磁盘资源执行select字段效率比较低2.列式存储
小布先生~噫嘘唏·2023-06-12 20:04

CDC是什么？有没有合适的技术方案？

CDC主要分为基于查询和基于Binlog两种方式，这两种之间的区别：基于查询的CDC基于Binlog的CDC开源技术Datax、Sqoop、KafkaJDBCSourceCa
mylife512·2023-06-12 12:58

『 白话课堂 』详谈 ClickHouse 的 表引擎

我们知道ClickHouse是由俄罗斯的Yandex公司在2016年开源的一个列式存储数据库(DBMS)，它是使用C++语言来编写实现的，C
北慕辰·2023-06-12 10:39

Hbase

#简介HBase是一个**面向列式存储的分布式数据库**，其设计思想来源于Google的BigTable论文。HBase底层存储基于HDFS实现，集群的管理基于ZooKeeper实现。
_泡泡·2023-06-11 19:00

Hadoop和关系型数据库间的数据传输工具——Sqoop

Hadoop和关系型数据库间的数据传输工具——Sqoop一、Sqoop简介以及使用1.1、产生背景基于传统关系型数据库的稳定性，还是有很多企业将数据存储在关系型数据库中；早期由于工具的缺乏，Hadoop
渣渣苏·2023-06-11 16:53

Hbase

Hbase思考环节：1.什么是hbase1.1简介HBase是一个面向列式存储的分布式数据库，其设计思想来源于Google的BigTable论文。
All996·2023-06-11 09:03

pyspark系列--读写dataframe

796734731.连接spark2.创建dataframe2.1.从变量创建2.2.从变量创建2.3.读取json2.4.读取csv2.5.读取MySQL2.6.从pandas.dataframe创建2.7.从列式存储的
antyzhu·2023-06-11 08:03

第一章 数据中台架构总体设计

1、架构设计&业务关系业务关注点：在于DA层技术难点：在于PaaS层1.1、PaaS层：基础设施层数据采集：flume、sqoop、datax、flinkcdc、canel数据计算：MR、Spark、flink
随缘清风殇·2023-06-11 07:17

Sqoop

Sqoop概述Sqoop是基于Hadoop之上的数据传输工具，主要用于Hadoop在关系型数据库，数据仓库，NoSQL系统之间传递数据。
爱过java·2023-06-10 05:51

Sqoop ---- Sqoop一些常用命令及参数

Sqoop----Sqoop一些常用命令及参数1.常用命令列举2.命令&参数详解1.公用参数：数据库连接2.公用参数：import3.公用参数：export4.公用参数：hive5.命令&参数：import6
在人间负债^·2023-06-10 04:05

sqoop系列：sqoop(离线数据同步)采集节点安装

目录1：安装包准备2：添加环境变量3：配置部署3.1)修改sqoop-env.sh3.2)验证安装是否成功3.3)测试Sqoop是否能够成功连接数据库报错：Exceptioninthread"main"java.lang.NoClassDefFoundError
iwester·2023-06-10 00:50

sqoop系列：sqoop(离线数据同步)开发案例

目录ApacheHadoop生态-目录汇总-持续更新1：Mysql(RDBMS)与Hive/HDFS数据传输1.1：列出MySQL数据有哪些数据库：1.2：根据mysql表结构创建hive表1.3:RDBMS导入到hdfs（1）条件导入（2）增量导入（3）查询导入-常用1.4：把mysql数据导入hive1.5：把mysql数据导入hbase2：导出数据1：HIVE/HDFS到RDBMSApach
iwester·2023-06-10 00:14

/bin/sqoop export --connect jdbc:mysql://localhost:3306无法运行的问题

如图，是你没开hadoop，开了就行了【当然也可能是hbase版本对不上，所以jdbc连不了】如图，开了hadoop后就成功运行
ZYT＿庄彦涛·2023-06-09 18:52

基于linux安装部署clickhouse+基本操作

基于linux安装部署clickhouse+基本操作1.clickhouse简介ClickHouse是俄罗斯的Yandex于2016年开源的列式存储数据库（DBMS），使用C++语言编写，主要用于在线分析处理查询
北凉-徐凤年·2023-06-09 09:10

Hbase

什么是hbase1.1简介HBase是一个面向列式存储的分布式数据库，其设计思想来源于Google的BigTable论文。HBase底层存储基于HDFS实现，集群的管理基于ZooKeeper实现。
子非我104·2023-06-09 05:44

大数据的基石Hadoop生态圈——核心组成及解释

大数据的基石Hadoop生态圈——核心组成1、数据收集层：Flume、Sqoop、ython2、数据存储层：HDFS3、数据处理层：Hive、Spark、MapReduce、Storm4、数据缓冲层：Kafka
程崇越·2023-06-08 19:54

Sqoop学习笔记整理

一、Sqoop简介官网介绍：https://sqoop.apache.orgApacheSqoop(TM)isatooldesignedforefficientlytransferringbulkdatabetweenApacheHadoopandstructureddatastoressuchasrelationaldatabases.Sqoopsuccessfullygraduatedfrom
黑大帅AI·2023-06-08 11:18

微服务架构案例(03)：数据库选型简介，业务数据规划设计

列式存储Hbase、ClickHouse等。分布式存储Cassandra、Hbase、MongodDB等。键值存储Memcached、Redis、MemcacheDB等。图形
知了一笑·2023-06-08 02:23

【大数据工具】Flume、Sqoop、Azkaban 安装

修改配置文件cdflume/conf/mvflume-env.sh.templateflume-env.sh#flume-env.sh配置JavaexportJAVA_HOME=/software/jdk2.Sqoop1
程序员胖五·2023-06-08 00:19

DataX

文章目录1、概述1.1什么是DataX1.2DataX的设计1.3支持的数据源1.4框架设计1.5运行原理1.6与Sqoop对比2、快速入门2.1官方地址2.2前置要求2.3安装3、使用案例3.1从stream
李林楠·2023-06-07 18:49

Clickhouse的特点

Clickhouse的特点一，列式存储IdNameAge1张三182李四223王五34采用行式存储时，数据在磁盘上的组织结构为：1张三182李四223王五34行式存储的好处：想查找某个人所有的属性时，可以通过一次磁盘查找加顺序读取就可以
脆弱的天炎·2023-06-07 15:00

大数据套件初识

文章目录HadoophdfsMapReduceYarnHiveSparkSqoopSupersetSupersetHadoophdfs分布式文件存储系统namenode：作为master，负责整个系统的元数据的存储
blissnmx·2023-06-07 07:25

sqoop同步mysql到hive

历史数据用全量同步，之后使用增量同步一、全量同步Sqoop脚本:sync_month.sh#!
fun_huan·2023-06-07 05:26

数仓项目框架

业务数据主要从各个源系统数据库通过数据总线INFA做个数据集成，再通过sqoop、flume、或文本入仓，放在HDFS上存储，在存储层之上，使用hive数据仓库工具去映射并关联文件与表等元数据信息，在hive
February13·2023-06-07 01:35

sqoop

sqoop底层原理是mapreduce，只不过没有聚合过程，故只有map任务sqoop数据导入(mysql->hdfs)功能：全表导入sqoopimport\/*''表示语句没有结束，换行*/–connectjdbc
February13·2023-04-21 19:19

大数据项目实战之数据仓库：电商数据仓库系统——第8章 数仓开发之DIM层

（2）DIM层的数据存储格式为orc列式存储+snappy压缩。（3）DIM层表名的命名规范为dim
yiluohan0307·2023-04-21 07:42
上一页 11 12 13 14 15 16 17 18 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他