SmartBrain
SmartBrain

五层大数据平台的设计思考

  • 针对大数据业务的四个需求：数据统一化（集中），数据资产化（整合），数据业务化（服务），数据生态化（运营）
  • 要考虑的问题：

按需使用

  1. 云用户有自助使用IT资源的自由
  2. 用户对资源或服务可以自助配置并自动化使用

广泛接入

  1. 云服务被广泛访问的能力
  2. 支持多种设备、协议、接口和安全技术

多租户和资源管理

  1. 一个软件程序的实例支持多个用户或租户
  2. 租户隔离
  3. 资源池化

弹性

  1. 根据需求自动透明的扩展IT资源
  2. 降低投资成本和时间成本

用量可度量

  1. 平台精确记录资源的使用情况
  2. 对用户的实际使用或被授予IT资源的时间段来计费

可恢复性

  1. 通过冗余给用户提供故障恢复能力
  2. 服务本身高可用和自愈设计
  • 典型的五层云架构：资源管理，分布式存储，通用计算，业务平台，分析应用

五层大数据平台的设计思考_第1张图片

 

你可能感兴趣的:(大数据平台架构设计,大数据平台架构设计)

  • 大模型和数据要素赋能智慧教育大数据平台解决方案 数智化领地 数字化转型数据治理主数据数据仓库智慧教育智慧校园智慧高校教育大脑校园大脑架构大数据运维安全数据库
    大模型和数据要素赋能智慧教育大数据平台解决方案大模型和数据要素赋能智慧教育大数据平台解决方案引言项目背景与意义解决方案概述预期目标与效果大模型在智慧教育中的应用自然语言处理模型深度学习模型知识图谱模型其他先进模型数据要素在智慧教育中的作用数据采集与整合数据清洗与预处理数据挖掘与分析数据可视化与报告智慧教育大数据平台架构设计整体架构设计思路数据存储与管理层计算处理与分析层应用服务层安全保障体系平台功
  • 2022年第十三届中国数据库技术大会（DTCC2022）-核心PPT资料下载 百家峰会 大数据数据库DTCC数据库DTCC大数据
    一、峰会简介本届大会以“数据智能价值创新”为主题，设置2大主会场，20+技术专场，邀请超百位行业专家，重点围绕时序数据库、图数据技术、实时数仓技术与应用实践、云原生数据库、大数据平台与数据安全等内容展开分享和探讨，为广大数据领域从业人士提供一场年度盛会和交流平台。本次峰会包含：NoSQL数据库技术实践、SQL审计与SQL优化、大数据平台架构设计、大数据应用、分布式数据库技术佳实践、分布式数据库应用
  • 车联网大数据框架_车联网大数据平台架构设计-系统总体架构 weixin_39941262 车联网大数据框架
    车联网海量数据存储与分析是典型的大数据应用场景：车载终端连接车辆内部CAN控制总线，实时收集车辆数据。一部分数据通过无线通讯方式及时传给后台以满足对车辆状态及故障状态实时监控的需求；其余大部分数据将先进行本地存储(如SD卡)，再通过离线导入存储在大数据框架中，以便后续进行深度挖掘。恒润科技针对车联网大数据平台(后称‘大数据平台’)的架构规划请见下图。数据源大数据平台的数据源包括两类数据：•车载终端
  • 大数据平台架构设计探究 浪尖聊大数据-浪尖 数据仓库kylin
    近年来，随着IT技术与大数据、机器学习、算法方向的不断发展，越来越多的企业都意识到了数据存在的价值，将数据作为自身宝贵的资产进行管理，利用大数据和机器学习能力去挖掘、识别、利用数据资产。如果缺乏有效的数据整体架构设计或者部分能力缺失，会导致业务层难以直接利用大数据大数据，大数据和业务产生了巨大的鸿沟，这道鸿沟的出现导致企业在使用大数据的过程中出现数据不可知、需求难实现、数据难共享等一系列问题，本文
  • 大数据期末课设~电商网站日志数据分析 肉肉肉肉肉肉~丸子 大数据大数据spark分布式
    目录一、背景介绍...1二、大数据平台架构设计...2三、大数据平台系统设计...7四、数据分析与达成目标...11五、Spark综合编程与python可视化...33六、总结与体会...50一、背景介绍一般情况下，大数据平台指的是使用了Hadoop、Spark、Storm、Flink、Blink等这些分布式、实时或者离线计算框架，并在上面运行各种计算任务的平台。建设大数据平台的最终目的是服务于业
  • 大数据平台架构设计探究 GOGOYAO
    摘抄自大数据平台架构设计探究本文主要包括以下几个章节:本文第一部分介绍一下大数据基础组件和相关知识。第二部分会介绍lambda架构和kappa架构。第三部分会介绍lambda和kappa架构模式下的一般大数据架构第四部分介绍裸露的数据架构体系下数据端到端难点以及痛点。第五部分介绍优秀的大数据架构整体设计从第五部分以后都是在介绍通过各种数据平台和组件将这些大数据组件结合起来打造一套高效、易用的数据平
  • Smartbi：大数据平台架构设计系统 数据中台数据仓库
    大数据技术是一系列技术的总称，它是集合了数据采集与传输、数据存储、数据处理与分析、数据挖掘、数据可视化等技术，是一个庞大而复杂的技术体系。根据大数据从来源到应用，实现传输的流程，可以将大数据架构设计分为数据收集层、数据存储层、数据处理层、数据治理与建模层、数据应用层。一、数据收集层大数据收集层主要采用了大数据采集技术，实现对数据的ETL操作，ETL，是英文Extract-Transform-Loa
  • TOP100summit：【分享实录-WalmartLabs】利用开源大数据技术构建WMX广告效益分析平台 msup789
    本篇文章内容来自2016年TOP100summitWalmartLabs实验室广告平台首席工程师、架构师粟迪夫的案例分享。编辑：Cynthia粟迪夫：WalmartLabs实验室广告平台首席工程师、架构师在大数据平台架构设计、消息中间件、分布式系统等领域有丰富经验。作为技术负责人，帮助多家企业搭建了大数据平台和分布式系统。目前主导WMX大数据平台、广告效益分析系统和实时数据管道的开发。导读：作为世
  • 大数据平台架构设计探究 vivo互联网技术 实时计算etllambdakappa大数据
    本文首发于vivo互联网技术微信公众号链接：https://mp.weixin.qq.com/s/npRRRDqNUHNjbybliFxOxA作者：刘延江近年来，随着IT技术与大数据、机器学习、算法方向的不断发展，越来越多的企业都意识到了数据存在的价值，将数据作为自身宝贵的资产进行管理，利用大数据和机器学习能力去挖掘、识别、利用数据资产。如果缺乏有效的数据整体架构设计或者部分能力缺失，会导致业务层
  • 大数据平台架构设计探究 vivo互联网技术 实时计算etllambdakappa大数据
    本文首发于vivo互联网技术微信公众号链接：https://mp.weixin.qq.com/s/npRRRDqNUHNjbybliFxOxA作者：刘延江近年来，随着IT技术与大数据、机器学习、算法方向的不断发展，越来越多的企业都意识到了数据存在的价值，将数据作为自身宝贵的资产进行管理，利用大数据和机器学习能力去挖掘、识别、利用数据资产。如果缺乏有效的数据整体架构设计或者部分能力缺失，会导致业务层
  • 常见的大数据平台架构设计思路 过往记忆
    近年来，随着IT技术与大数据、机器学习、算法方向的不断发展，越来越多的企业都意识到了数据存在的价值，将数据作为自身宝贵的资产进行管理，利用大数据和机器学习能力去挖掘、识别、利用数据资产。如果缺乏有效的数据整体架构设计或者部分能力缺失，会导致业务层难以直接利用大数据大数据，大数据和业务产生了巨大的鸿沟，这道鸿沟的出现导致企业在使用大数据的过程中出现数据不可知、需求难实现、数据难共享等一系列问题，本文
  • 大数据平台架构设计探究 vivo互联网技术 数据分析
    本文首发于vivo互联网技术微信公众号链接：https://mp.weixin.qq.com/s/npRRRDqNUHNjbybliFxOxA作者：刘延江近年来，随着IT技术与大数据、机器学习、算法方向的不断发展，越来越多的企业都意识到了数据存在的价值，将数据作为自身宝贵的资产进行管理，利用大数据和机器学习能力去挖掘、识别、利用数据资产。如果缺乏有效的数据整体架构设计或者部分能力缺失，会导致业务层
  • WalmartLabs：利用开源大数据技术构建WMX广告效益分析平台 Cynthia成
    粟迪夫：WalmartLabs实验室广告平台首席工程师、架构师在大数据平台架构设计、消息中间件、分布式系统等领域有丰富经验。作为技术负责人，帮助多家企业搭建了大数据平台和分布式系统。目前主导WMX大数据平台、广告效益分析系统和实时数据管道的开发。导读：作为世界上最大的商品零售商，沃尔玛每天都投放大量的广告、产生大量的商品交易，生成大量数据，需要分析这些数据的关系以衡量广告活动的效果，并以此为依据制
  • 大数据平台架构设计探究 vivo互联网技术 实时计算etllambdakappa大数据
    本文首发于vivo互联网技术微信公众号链接：https://mp.weixin.qq.com/s/npRRRDqNUHNjbybliFxOxA作者：刘延江近年来，随着IT技术与大数据、机器学习、算法方向的不断发展，越来越多的企业都意识到了数据存在的价值，将数据作为自身宝贵的资产进行管理，利用大数据和机器学习能力去挖掘、识别、利用数据资产。如果缺乏有效的数据整体架构设计或者部分能力缺失，会导致业务层
  • 大数据平台架构设计探究 vivo互联网技术
    本文首发于vivo互联网技术微信公众号链接：https://mp.weixin.qq.com/s/npRRRDqNUHNjbybliFxOxA作者：刘延江近年来，随着IT技术与大数据、机器学习、算法方向的不断发展，越来越多的企业都意识到了数据存在的价值，将数据作为自身宝贵的资产进行管理，利用大数据和机器学习能力去挖掘、识别、利用数据资产。如果缺乏有效的数据整体架构设计或者部分能力缺失，会导致业务层
  • 大数据平台架构设计探究 vivo互联网 实时计算lambdakappa原创干货
    本文首发于vivo互联网技术微信公众号链接：https://mp.weixin.qq.com/s/npRRRDqNUHNjbybliFxOxA作者：刘延江近年来，随着IT技术与大数据、机器学习、算法方向的不断发展，越来越多的企业都意识到了数据存在的价值，将数据作为自身宝贵的资产进行管理，利用大数据和机器学习能力去挖掘、识别、利用数据资产。如果缺乏有效的数据整体架构设计或者部分能力缺失，会导致业务层
  • 数据分析学习路径计划 Alien_lily
    大数据方向学习路径基础课程大数据的java基础大数据的linux基础大数据的网络基础python网络程序开发大数据的统计学基础大数据的矩阵计算基础Scala语言入门大数据的C++基础深入JVM内核–原理、诊断与优化深入理解Linux内核大数据平台架构方向搜索引擎构建与爬虫技术高并发大数据平台架构设计Hadoop方向Hadoop数据分析平台Hadoop应用开发实战案例Mahout机器学习平台Hado
  • 金融机构大数据平台架构设计的 10 个考量点 bingdata123
    1、金融企业大数据平台架构设计的关键点有哪些？架构设计的关键首要是要满足业务需求，提炼业务需求的非功能特性，提出针对性的架构设计方案。作业自主研发能力有限的企业，在大数据系统建设中首要是合理的选择技术组件，如果科技力量更强可以考虑参与开源社区对组件的优化完善等工作中。2、针对结构化、半结构化和非结构化的数据，在设计大数据平台中分别有哪些要点？大数据平台最好存储与计算相关的数据，非结构化数据如果不能
  • 基于Hadoop的大数据平台整体架构设计 fengshulin
    阅读更多1.软件架构设计大数据平台架构设计沿袭了分层设计的思想，将平台所需提供的服务按照功能划分成不同的模块层次，每一模块层次只与上层或下层的模块层次进行交互（通过层次边界的接口），避免跨层的交互，这种设计的好处是：各功能模块的内部是高内聚的，而模块与模块之间是松耦合的。这种架构有利于实现平台的高可靠性，高扩展性以及易维护性。比如，当我们需要扩容Hadoop集群时，只需要在基础设施层添加一台新的H
  • 青云大数据平台架构设计---架构图、问题及解决方案 coolsunchen
    http://www.infoq.com/cn/presentations/big-data-cloud-platform-architecture-design?utm_source=infoq&utm_medium=videos_homepage&utm_campaign=videos_row1本次分享的主要内容为基于云计算的大数据平台基础设施建设以及其架构特点。大数据是全球科技现在及未来的长
  • 基础设施建设实战：云之大数据平台架构设计 周小四
    概要本次分享的主要内容为基于云计算的大数据平台基础设施建设以及其架构特点。大数据是全球科技现在及未来的长期热点，而大数据的基础建设则是其重要基石。大数据基础建设当前的趋势是云化与开放，而如何在云上提供弹性、敏捷，却不失稳定和高性能的大数据平台，则是非常有挑战的工作，因为这不仅对IaaS的存储、网络和计算等资源的调度存取能力提出了苛刻的要求，而且还需要认真思考到底该如何高效的利用云计算的特点来开发大
  • Dom 周华华 JavaScripthtml
    <!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd"> <html xmlns="http://www.w3.org/1999/xhtml&q
  • 【Spark九十六】RDD API之combineByKey bit1129 spark
    1. combineByKey函数的运行机制   RDD提供了很多针对元素类型为(K,V)的API，这些API封装在PairRDDFunctions类中，通过Scala隐式转换使用。这些API实现上是借助于combineByKey实现的。combineByKey函数本身也是RDD开放给Spark开发人员使用的API之一   首先看一下combineByKey的方法说明：
  • msyql设置密码报错：ERROR 1372 (HY000): 解决方法详解 daizj mysql设置密码
    MySql给用户设置权限同时指定访问密码时，会提示如下错误： ERROR 1372 (HY000): Password hash should be a 41-digit hexadecimal number；   问题原因：你输入的密码是明文。不允许这么输入。   解决办法：用select password('你想输入的密码');查询出你的密码对应的字符串， 然后
  • 路漫漫其修远兮 吾将上下而求索 周凡杨 学习 思索
    王国维在他的《人间词话》中曾经概括了为学的三种境界古今之成大事业、大学问者，罔不经过三种之境界。“昨夜西风凋碧树。独上高楼，望尽天涯路。”此第一境界也。“衣带渐宽终不悔，为伊消得人憔悴。”此第二境界也。“众里寻他千百度，蓦然回首，那人却在灯火阑珊处。”此第三境界也。学习技术，这也是你必须经历的三种境界。第一层境界是说，学习的路是漫漫的，你必须做好充分的思想准备，如果半途而废还不如不要开始。这里，注
  • Hadoop(二)对话单的操作 朱辉辉33 hadoop
    Debug： 1、 A = LOAD '/user/hue/task.txt' USING PigStorage(' ') AS (col1,col2,col3); DUMP A; //输出结果前几行示例： (>ggsnPDPRecord(21),,) (-->recordType(0),,) (-->networkInitiation(1),,)
  • web报表工具FineReport常用函数的用法总结（日期和时间函数） 老A不折腾 finereport报表工具web开发
    web报表工具FineReport常用函数的用法总结（日期和时间函数）   说明：凡函数中以日期作为参数因子的，其中日期的形式都必须是yy/mm/dd。而且必须用英文环境下双引号(" ")引用。   DATE DATE(year,month,day):返回一个表示某一特定日期的系列数。 Year:代表年，可为一到四位数。 Month:代表月份。
  • c++ 宏定义中的##操作符 墙头上一根草 C++
    #与##在宏定义中的--宏展开 #include <stdio.h> #define f(a,b) a##b #define g(a)   #a #define h(a) g(a) int main() {       &nbs
  • 分析Spring源代码之，DI的实现 aijuans springDI现源代码
    (转) 分析Spring源代码之，DI的实现 2012/1/3 by tony                 接着上次的讲，以下这个sample [java]  view plain copy print
  • for循环的进化 alxw4616 JavaScript
    // for循环的进化 // 菜鸟 for (var i = 0; i < Things.length ; i++) { // Things[i] } // 老鸟 for (var i = 0, len = Things.length; i < len; i++) { // Things[i] } // 大师 for (var i = Things.le
  • 网络编程Socket和ServerSocket简单的使用 百合不是茶 网络编程基础IP地址端口
      网络编程;TCP/IP协议   网络:实现计算机之间的信息共享,数据资源的交换   协议:数据交换需要遵守的一种协议,按照约定的数据格式等写出去   端口:用于计算机之间的通信      每运行一个程序，系统会分配一个编号给该程序，作为和外界交换数据的唯一标识 0~65535   查看被使用的
  • JDK1.5 生产消费者 bijian1013 javathread生产消费者java多线程
    ArrayBlockingQueue：        一个由数组支持的有界阻塞队列。此队列按 FIFO（先进先出）原则对元素进行排序。队列的头部 是在队列中存在时间最长的元素。队列的尾部 是在队列中存在时间最短的元素。新元素插入到队列的尾部，队列检索操作则是从队列头部开始获得元素。 ArrayBlockingQueue的常用方法：
  • JAVA版身份证获取性别、出生日期及年龄 bijian1013 java性别出生日期年龄
            工作中需要根据身份证获取性别、出生日期及年龄，且要还要支持15位长度的身份证号码，网上搜索了一下，经过测试好像多少存在点问题，干脆自已写一个。 CertificateNo.java package com.bijian.study; import java.util.Calendar; import
  • 【Java范型六】范型与枚举 bit1129 java
    首先，枚举类型的定义不能带有类型参数，所以，不能把枚举类型定义为范型枚举类，例如下面的枚举类定义是有编译错的   public enum EnumGenerics<T> { //编译错，提示枚举不能带有范型参数 OK, ERROR; public <T> T get(T type) { return null;
  • 【Nginx五】Nginx常用日志格式含义 bit1129 nginx
    1. log_format 1.1 log_format指令用于指定日志的格式，格式：   log_format name(格式名称) type(格式样式)   1.2 如下是一个常用的Nginx日志格式：   log_format main '[$time_local]|$request_time|$status|$body_bytes
  • Lua 语言 15 分钟快速入门 ronin47 lua 基础
    - - 单行注释 - - [[      [多行注释] - - ]]   - - - - - - - - - - - 1. 变量 & 控制流 - - - - - - - - - - num = 23 - - 数字都是双精度 str = 'aspythonstring'
  • java-35.求一个矩阵中最大的二维矩阵 ( 元素和最大 ) bylijinnan java
    the idea is from: http://blog.csdn.net/zhanxinhang/article/details/6731134 public class MaxSubMatrix { /**see http://blog.csdn.net/zhanxinhang/article/details/6731134 * Q35 求一个矩阵中最大的二维
  • mongoDB文档型数据库特点 开窍的石头 mongoDB文档型数据库特点
    MongoDD: 文档型数据库存储的是Bson文档-->json的二进制 特点：内部是执行引擎是js解释器，把文档转成Bson结构，在查询时转换成js对象。 mongoDB传统型数据库对比    传统类型数据库：结构化数据，定好了表结构后每一个内容符合表结构的。也就是说每一行每一列的数据都是一样的    文档型数据库：不用定好数据结构，
  • [毕业季节]欢迎广大毕业生加入JAVA程序员的行列 comsci java
        一年一度的毕业季来临了。。。。。。。。      正在投简历的学弟学妹们。。。如果觉得学校推荐的单位和公司不适合自己的兴趣和专业，可以考虑来我们软件行业，做一名职业程序员。。。      软件行业的开发工具中，对初学者最友好的就是JAVA语言了，网络上不仅仅有大量的
  • PHP操作Excel – PHPExcel 基本用法详解 cuiyadll PHPExcel
    导出excel属性设置//Include classrequire_once('Classes/PHPExcel.php');require_once('Classes/PHPExcel/Writer/Excel2007.php');$objPHPExcel = new PHPExcel();//Set properties 设置文件属性$objPHPExcel->getProperties
  • IBM Webshpere MQ Client User Issue (MCAUSER) darrenzhu IBMjmsuserMQMCAUSER
    IBM MQ JMS Client去连接远端MQ Server的时候，需要提供User和Password吗？ 答案是根据情况而定，取决于所定义的Channel里面的属性Message channel agent user identifier (MCAUSER)的设置。 http://stackoverflow.com/questions/20209429/how-mca-user-i
  • 网线的接法 dcj3sjt126com
    一、PC连HUB (直连线)A端：（标准568B）：白橙，橙，白绿，蓝，白蓝，绿，白棕，棕。 B端：（标准568B）：白橙，橙，白绿，蓝，白蓝，绿，白棕，棕。 二、PC连PC （交叉线）A端：(568A)： 白绿，绿，白橙，蓝，白蓝，橙，白棕，棕； B端：（标准568B）：白橙，橙，白绿，蓝，白蓝，绿，白棕，棕。 三、HUB连HUB&nb
  • Vimium插件让键盘党像操作Vim一样操作Chrome dcj3sjt126com chromevim
    什么是键盘党？ 键盘党是指尽可能将所有电脑操作用键盘来完成，而不去动鼠标的人。鼠标应该说是新手们的最爱，很直观，指哪点哪，很听话！不过常常使用电脑的人，如果一直使用鼠标的话，手会发酸，因为操作鼠标的时候，手臂不是在一个自然的状态，臂肌会处于绷紧状态。而使用键盘则双手是放松状态，只有手指在动。而且尽量少的从鼠标移动到键盘来回操作，也省不少事。 在chrome里安装 vimium 插件
  • MongoDB查询（2）——数组查询[六] eksliang mongodbMongoDB查询数组
    MongoDB查询数组 转载请出自出处：http://eksliang.iteye.com/blog/2177292 一、概述  MongoDB查询数组与查询标量值是一样的，例如，有一个水果列表，如下所示： > db.food.find() { "_id" : "001", "fruits" : [ "苹
  • cordova读写文件（1） gundumw100 JavaScriptCordova
    使用cordova可以很方便的在手机sdcard中读写文件。 首先需要安装cordova插件：file 命令为： cordova plugin add org.apache.cordova.file 然后就可以读写文件了，这里我先是写入一个文件，具体的JS代码为： var datas=null;//datas need write var directory=&
  • HTML5 FormData 进行文件jquery ajax 上传 到又拍云 ileson jqueryAjaxhtml5FormData
    html5 新东西：FormData  可以提交二进制数据。 页面test.html <!DOCTYPE> <html> <head> <title> formdata file jquery ajax upload</title> </head> <body> <
  • swift appearanceWhenContainedIn:(version1.2 xcode6.4) 啸笑天 version
      swift1.2中没有oc中对应的方法： + (instancetype)appearanceWhenContainedIn:(Class <UIAppearanceContainer>)ContainerClass, ... NS_REQUIRES_NIL_TERMINATION;  解决方法： 在swift项目中新建oc类如下： #import &
  • java实现SMTP邮件服务器 macroli java编程
    电子邮件传递可以由多种协议来实现。目前，在Internet 网上最流行的三种电子邮件协议是SMTP、POP3 和 IMAP，下面分别简单介绍。 　　◆ SMTP 协议 　　简单邮件传输协议(Simple Mail Transfer Protocol,SMTP)是一个运行在TCP/IP之上的协议，用它发送和接收电子邮件。SMTP 服务器在默认端口25上监听。SMTP客户使用一组简单的、基于文本的
  • mongodb group by having where 查询sql qiaolevip 每天进步一点点学习永无止境mongo纵观千象
    SELECT cust_id, SUM(price) as total FROM orders WHERE status = 'A' GROUP BY cust_id HAVING total > 250 db.orders.aggregate( [ { $match: { status: 'A' } }, { $group: {
  • Struts2 Pojo（六） Luob. POJOstrust2
    注意：附件中有完整案例 1.采用POJO对象的方法进行赋值和传值 2.web配置 <?xml version="1.0" encoding="UTF-8"?> <web-app version="2.5" xmlns="http://java.sun.com/xml/ns/javaee&q
  • struts2步骤 wuai struts
    1、添加jar包 2、在web.xml中配置过滤器 <filter>        <filter-name>struts2</filter-name>        <filter-class>org.apache.st
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他