- 开源的Trafodion如何实现事务与分析一体化?
weixin_34006965
大数据数据库操作系统
Trafodion是Apache基金会的一个开源项目,提供了一个成熟的企业级SQL-on-HBase解决方案。Trafodion的主要设计思想是处理operational类型的工作负载,或者是传统的OLTP应用。此外,对于需要保证数据一致性、需要标准SQL开发接口,或者需要实时数据读写分析的应用,Trafodion也是一个十分合适的解决方案。Trafodion的前世今生Trafodion的渊源可以
- Trafodion Troubleshooting-failed because A clone should not have regions to restore
post_yuan
HBase
现象在HBase中做RESTORE_SNAPSHOT时报错,hbase(main):022:0*restore_snapshot'RLZYGLXT_FILE_snapshot'ERROR:org.apache.hadoop.hbase.snapshot.RestoreSnapshotException:clonesnapshot={ss=RLZYGLXT_FILE_snapshottable=RL
- Trafodion ETL工具odb进行数据load方法及性能
屠龙宝刀一秒刷爆
odbcetltrafodion
简介odb是Apache孵化项目Trafodion自带的ETL工具,主要可完成数据表的导入、导出和两个数据库之间的复制功能。是一个小巧实用、linux/windows双平台的工具。当环境安装配置好odbc驱动后,就可使用odb对Trafodion、oracle等数据库进行导入、导出、复制操作。指令及参数说明指令如下:./odb64luo-uUSERNAME-pPASSWD-dDSN-lsrc=FI
- 源码编译-Build Source
李东岳
Trafodion
1.环境准备想要更进一步了解和使用Trafodion,难免不得不自己尝试一番编译源码,此为之前做的一个小任务,踩过一些坑,现分享出来并做个总结。[参考](https://cwiki.apache.org/confluence/display/TRAFODION/Build+Source)1.1虚拟机源码编译准备搭建自己的一个虚拟机,系统CentOS6.X即可,7版本会编译错误不支持。配置参考:硬盘
- SQL数据分析概览——Hive、Impala、Spark SQL、Drill、HAWQ 以及Presto+druid
djph26741
转自infoQ!根据O’Reilly2016年数据科学薪资调查显示,SQL是数据科学领域使用最广泛的语言。大部分项目都需要一些SQL操作,甚至有一些只需要SQL。本文涵盖了6个开源领导者:Hive、Impala、SparkSQL、Drill、HAWQ以及Presto,还加上Calcite、Kylin、Phoenix、Tajo和Trafodion。以及2个商业化选择OracleBigDataSQL和
- 主流开源SQL(on Hadoop)总结,不断改进的Hive始终遥遥领先
HAOXUAN168
大数据学习
本文涵盖了6个开源领导者:Hive、Impala、SparkSQL、Drill、HAWQ以及Presto,还加上Calcite、Kylin、Phoenix、Tajo和Trafodion。以及2个商业化选择OracleBigDataSQL和IBMBigSQL,IBM尚未将后者更名为“WatsonSQL”。(有读者问:Druid呢?我的回答是:检查后,我同意Druid属于这一类别。)更多精彩内容学习点
- 修改集群ip
佑熙
1停止CDHManager相应的管理进程(Server进程及所有节点的Agent进程)servicecloudera-scm-agentstopservicecloudera-scm-serverstop2查看对应数据库的scm用户密码[root@esg06trafodion]#greppassword/etc/cloudera-scm-server/db.propertiescom.cloude
- Trafodion之DTM介绍
post_yuan
DTM,全称DistributedTransactionManagement,即分布式事务管理器,是Trafodion支持事务的重要组件部分。DTM是一个进程,每个数据库节点一个,可以通过sqcheck查看到DTM进程,个数与节点数一致,如下输出,[trafodion@p08~]$sqcheck***CheckingTrafodionEnvironment***Checkingifprocesse
- 用Kettle从MySQL迁移数据到Trafodion牛刀小试
post_yuan
众所周知,Kettle(PentahoDataIntegration,PDL)是市场上一款领头的开源的ETL工具,可以高效稳定的抽取、转换和迁移数据。Kettle提供了基于Java的图形化界面,是一款易于上手的、无需安装的绿色软件。Kettle支持几乎所有的数据源和数据库,当然也支持Trafodion数据库。本文概述如何通过配置并使用Kettle将数据从MySQL加载到Trafodion数据库。(
- Trafodion ALTER USER语法
zheyuan_xing
Trafodion
ALTERUSER语句可以修改与数据库中注册的用户相关连的属性。ALTERUSER语句用法ALTERUSERdatabase-usernamealter-actiondatabase-username是已经在数据库中注册的用户,一般包含DB__ROOT和DB__ADMIN。alter-action包括:SETEXTERNALNAMEdirectory-service-usernameSET{ONL
- 记一次OBJECTS元数据表处于RIT的解决办法
post_yuan
TrafodionTroubleshoot
最近一客户环境由于Hadoop故障,恢复时出现“_MD_".OBJECTS处于RIT状态,且长期不能恢复。使用Trafodion用户执行HBCHECK输出如下,HBaseisavailable!HBaseversion:1.1.2.2.4.3.0-227HMaster:namenode-2.esg.local,16000,1568772195966NumberofRegionServersavai
- 记一次OBJECTS元数据表处于RIT的解决办法
post_yuan
TrafodionTroubleshoot
最近一客户环境由于Hadoop故障,恢复时出现“_MD_".OBJECTS处于RIT状态,且长期不能恢复。使用Trafodion用户执行HBCHECK输出如下,HBaseisavailable!HBaseversion:1.1.2.2.4.3.0-227HMaster:namenode-2.esg.local,16000,1568772195966NumberofRegionServersavai
- Trafodion 从元数据表中获取字段信息的相关总结
post_yuan
Trafodion中所有对象的元数据信息都保存在schema"_MD_"下面,对象的信息、字段的属性等。这里我们描述几种常用的和获取字段信息有关的SQL方法。测试表如下,--创建测试表DROPTABLEIFEXISTSaaa;CREATETABLEaaa(aNUMERIC(18,8),bvarchar2(10),cINT,dlargeint,eCLOB,fDATE,gTIMESTAMP(6),hN
- Trafodion 修改默认的ssh通信端口
post_yuan
默认情况下,Trafodion每个节点之间的ssh通信是用默认的22端口,但有时候基于一些网络安全考虑我们可能会禁用22端口而使用其他端口来做为ssh通信的端口,如20022。修改方法为:修改trafodion的~/.ssh/config配置文件,增加Port=20022,xxx为非默认的端口号即可,config文件权限为600。即,//切换trafodion用户cdwcd.sshsed-i'$a
- Trafodion 查看表的创建时间与修改时间
post_yuan
大数据
Trafodion中每个对象(如表、索引等)创建后,会在元数据表中增加相应的记录,主要元数据表为"_MD_".objects。以下是"_MD_".objects的表结构,SQL>showddl"_MD_".objects;CREATETABLETRAFODION."_MD_".OBJECTS(CATALOG_NAMEVARCHAR(256BYTES)CHARACTERSETUTF8COLLATED
- EsgynDB 替换License步骤
post_yuan
本文简要描述如何更新EsgynDB的License。1检查当前License状态这可以通过多种方式实现(以下任何一种方法即可),(1)decoder命令使用trafodion用户在其中一台EsgynDB节点上执行以下命令输出License状态[trafodion@dev02~]$decoder-f/etc/trafodion/esgyndb_license-aLicensedTo:XXXXLice
- 使用sqoop迁移Oracle中blob到Trafodion
post_yuan
大数据
在前面文章中,我们介绍了使用sqoop把blob迁移到Hive,具体可参考博客使用sqoop迁移blob到Hive表。由于Hive本身不支持LOB类型,我们使用String来存储BLOB数据,sqoop导入到HDFS中BLOB字段被存储为16进制的字符串形式。数据在Hive中之后,我们便可以直接使用Trafodion自带的LOADINTO命令把数据直接从Hive表加载到Trafodion表,如下(
- 使用sqoop迁移Oracle中blob到Trafodion
post_yuan
大数据
在前面文章中,我们介绍了使用sqoop把blob迁移到Hive,具体可参考博客使用sqoop迁移blob到Hive表。由于Hive本身不支持LOB类型,我们使用String来存储BLOB数据,sqoop导入到HDFS中BLOB字段被存储为16进制的字符串形式。数据在Hive中之后,我们便可以直接使用Trafodion自带的LOADINTO命令把数据直接从Hive表加载到Trafodion表,如下(
- Apache Zeppelin在Apache Trafodion上的可视化
EsgynChina
可视化大数据
介绍ApacheTrafodion和EsgynDB(Esgyn的商业版)支持数据可视化工具(例如,ApacheZeppelin和Tableau),具有标准JDBC/ODBC连接。本文重点介绍如何实现ApacheZeppelin在Trafodion上的可视化。ApacheZeppelin基于web,数据专家可以通过该工具进行大规模数据挖掘和可视化的协作。大规模数据分析的工作流包括多个步骤,例如数据获
- 【Trafodion使用技巧篇】Trafodion数据加载介绍
EsgynChina
数据库大数据处理
Trafodion的数据加载主要包括两种方法,即TrickleLoad(持续加载)和BulkLoad(批量加载)。下表介绍了两种加载方法的区别:类型描述方法/工具TrickleLoad数据量较小,立即插入ODB工具(性能通常较第三方ETL工具更好);ETL工具如kettle、Informatica等;自主开发的ODBC/JDBC应用。BulkLoad数据量较大;阶段性数据并且是批量加载的方式Bul
- Hibernate的Trafodion方言
EsgynChina
ormhibernate
对象-关系映射(ORM)提供了一个框架,应用程序可以使用一个对象范例,查询并操作数据库中的数据。该框架以多种语言实现,封装了数据操作所需的代码。这样,您无需了解SQL,即可使用一个对象访问数据,该对象隐藏了每个数据库查询语言的变化。假设有以下的Employees表:IDNameAddressDepartmentSalary1JohnMilpitas,CAEngineer$100,0002TomCu
- 如何在EsgynDB中使用机器学习库(ML library)
EsgynChina
大数据hadoop机器学习tensorflow
机器学习(ML)库正变得越来越流行,现在有各种各样的这类库-维基百科中提及了49个[1]。这些机器学习库需要庞大的数据,通常此类数据是存储在关系型数据库中的业务数据,比如存放在EsgynDB或以其他形式存储在Hadoop数据湖中。备注:EsgynDB为易鲸捷公司基于Trafodion提供的企业版。简单的集成-JDBC和HDFS有多种方法连接机器学习库和EsgynDB。其中一种方法是使用JDBC,这
- 基于SQL-on-HBase产品的一种有趣的触发器实现
凯文徐
springboottriggerantlrhbasesql
背景现在市面上有不少的SQonHBase的产品:Trafodion、Impala、Greplum等等,但是很少有支持触发器功能的产品,也许是因为在这种应用场景下很少使用到触发器,但不可否认触发器是一项非常有用的功能,本文主要针对一些缺少触发器功能的产品提供一种有趣实现的思路。概览如下图所示:当有数据插入到SQEngine中时,数据会存储至HBase.在HBase中借助Observer,当有数据触发
- Trafodion值得放入工具箱,因为有以下优点
EsgynChina
开源软件apache数据库
Trafodion是Apache基金会的一个开源项目,提供了一个成熟的企业级SQL-on-HBase解决方案。Trafodion的主要设计思想是处理operational类型的工作负载,或者是传统的OLTP应用。此外,对于需要保证数据一致性、需要标准SQL开发接口,或者需要实时数据读写分析的应用,Trafodion也是一个十分合适的解决方案。Trafodion的前世今生Trafodion的渊源可以
- Trafodion 数据类型
post_yuan
Trafodion支持的数据类型有:数值类型、字符类型、日期类型、Interval类型、LOB类型,如下表格,数据类型描述数值类型精确数值类型(int,largeint,smallint,numeric,decimal)或近似数值类型(float,doubleprecision,real)字符类型固定长度字符(char)或变长字符(varchar)日期类型date(年月日,如2018-06-27)
- Trafodion 使用BLOB存储非结构化/半结构化数据
post_yuan
Trafodion目前支持LOB类型,包括BLOB/CLOB,BLOB(BinaryLargeObject),主要用于存储非结构化数据,如图片、音频等,CLOB(CharacterLargeObject),主要用于半结构化数据,如大文本,大字符串等。参考ApacheTrafodion官网http://trafodion.apache.org/docs/lob_guide/index.html,可以
- Linux配置Oracle ODBC驱动并使用odb工具测试连接
post_yuan
前面多篇文章我们介绍了Trafodion的odb工具,包括如何配置Trafodion的ODBC驱动,如何使用odb数据进行数据的加载、抽取、转换。odb可以在不同的关系型数据库之间进行数据传输而不用数据落地。由于odb是基于ODBC,使用odb从关系型数据库A迁移数据到关系型数据库B之前,需要提前配置好A和B的ODBC连接。本文我们主要描述如何配置Oracle的ODBC并使用odb测试是否可以正常
- 易鲸捷数据库常用优化方法
freedom_824
trafodion
1.整理每个字段的长度,尽量保证长度不浪费。2.没有中文字段的字符集不要设置成utf8。3.字段长度小余100的设置成char类型。4.STOREBY后面的字段尽量设置成UEC>100*partitions(uec字段唯一值的数量)5.从hiveload数据到trafodion表的时候把CQDHIVE_NUM_ESPS_PER_DATANODE'10';这个CQD打开。6.表数据量大于1000万条
- Trafodion集成Sentry实现Hive权限控制
post_yuan
本文主要描述如何在CDH上安装并配置Hive使用Sentry,并介绍如何使用trafodion用户实现Hive对象的权限控制。主要步骤及描述如下,一、安装并配置使用Sentry1CDHManager添加Sentry服务2配置Hive使用Sentry(1)打开Hive的Sentry服务(2)关闭hiveserver2impersonation(3)配置hadoop.proxyuser.hive.gr
- Trafodion 使用DATEDIFF计算两个时间差
post_yuan
在Trafodion中,我们使用DATEDIFF内嵌函数来计算两个时间差值,计算的时间差可以包括多种粒度,如YEAR、MONTH、DAY、HOUR、MINUTE、SECOND、QUARTER、WEEK。DATEDIFF的用法如下,DATEDIFF(datepart,startdate,enddate)其中,以上datepart即上述YEAR、MONTH、DAY等这些不同的粒度,startdate和
- Algorithm
香水浓
javaAlgorithm
冒泡排序
public static void sort(Integer[] param) {
for (int i = param.length - 1; i > 0; i--) {
for (int j = 0; j < i; j++) {
int current = param[j];
int next = param[j + 1];
- mongoDB 复杂查询表达式
开窍的石头
mongodb
1:count
Pg: db.user.find().count();
统计多少条数据
2:不等于$ne
Pg: db.user.find({_id:{$ne:3}},{name:1,sex:1,_id:0});
查询id不等于3的数据。
3:大于$gt $gte(大于等于)
&n
- Jboss Java heap space异常解决方法, jboss OutOfMemoryError : PermGen space
0624chenhong
jvmjboss
转自
http://blog.csdn.net/zou274/article/details/5552630
解决办法:
window->preferences->java->installed jres->edit jre
把default vm arguments 的参数设为-Xms64m -Xmx512m
----------------
- 文件上传 下载 解析 相对路径
不懂事的小屁孩
文件上传
有点坑吧,弄这么一个简单的东西弄了一天多,身边还有大神指导着,网上各种百度着。
下面总结一下遇到的问题:
文件上传,在页面上传的时候,不要想着去操作绝对路径,浏览器会对客户端的信息进行保护,避免用户信息收到攻击。
在上传图片,或者文件时,使用form表单来操作。
前台通过form表单传输一个流到后台,而不是ajax传递参数到后台,代码如下:
<form action=&
- 怎么实现qq空间批量点赞
换个号韩国红果果
qq
纯粹为了好玩!!
逻辑很简单
1 打开浏览器console;输入以下代码。
先上添加赞的代码
var tools={};
//添加所有赞
function init(){
document.body.scrollTop=10000;
setTimeout(function(){document.body.scrollTop=0;},2000);//加
- 判断是否为中文
灵静志远
中文
方法一:
public class Zhidao {
public static void main(String args[]) {
String s = "sdf灭礌 kjl d{';\fdsjlk是";
int n=0;
for(int i=0; i<s.length(); i++) {
n = (int)s.charAt(i);
if((
- 一个电话面试后总结
a-john
面试
今天,接了一个电话面试,对于还是初学者的我来说,紧张了半天。
面试的问题分了层次,对于一类问题,由简到难。自己觉得回答不好的地方作了一下总结:
在谈到集合类的时候,举几个常用的集合类,想都没想,直接说了list,map。
然后对list和map分别举几个类型:
list方面:ArrayList,LinkedList。在谈到他们的区别时,愣住了
- MSSQL中Escape转义的使用
aijuans
MSSQL
IF OBJECT_ID('tempdb..#ABC') is not null
drop table tempdb..#ABC
create table #ABC
(
PATHNAME NVARCHAR(50)
)
insert into #ABC
SELECT N'/ABCDEFGHI'
UNION ALL SELECT N'/ABCDGAFGASASSDFA'
UNION ALL
- 一个简单的存储过程
asialee
mysql存储过程构造数据批量插入
今天要批量的生成一批测试数据,其中中间有部分数据是变化的,本来想写个程序来生成的,后来想到存储过程就可以搞定,所以随手写了一个,记录在此:
DELIMITER $$
DROP PROCEDURE IF EXISTS inse
- annot convert from HomeFragment_1 to Fragment
百合不是茶
android导包错误
创建了几个类继承Fragment, 需要将创建的类存储在ArrayList<Fragment>中; 出现不能将new 出来的对象放到队列中,原因很简单;
创建类时引入包是:import android.app.Fragment;
创建队列和对象时使用的包是:import android.support.v4.ap
- Weblogic10两种修改端口的方法
bijian1013
weblogic端口号配置管理config.xml
一.进入控制台进行修改 1.进入控制台: http://127.0.0.1:7001/console 2.展开左边树菜单 域结构->环境->服务器-->点击AdminServer(管理) &
- mysql 操作指令
征客丶
mysql
一、连接mysql
进入 mysql 的安装目录;
$ bin/mysql -p [host IP 如果是登录本地的mysql 可以不写 -p 直接 -u] -u [userName] -p
输入密码,回车,接连;
二、权限操作[如果你很了解mysql数据库后,你可以直接去修改系统表,然后用 mysql> flush privileges; 指令让权限生效]
1、赋权
mys
- 【Hive一】Hive入门
bit1129
hive
Hive安装与配置
Hive的运行需要依赖于Hadoop,因此需要首先安装Hadoop2.5.2,并且Hive的启动前需要首先启动Hadoop。
Hive安装和配置的步骤
1. 从如下地址下载Hive0.14.0
http://mirror.bit.edu.cn/apache/hive/
2.解压hive,在系统变
- ajax 三种提交请求的方法
BlueSkator
Ajaxjqery
1、ajax 提交请求
$.ajax({
type:"post",
url : "${ctx}/front/Hotel/getAllHotelByAjax.do",
dataType : "json",
success : function(result) {
try {
for(v
- mongodb开发环境下的搭建入门
braveCS
运维
linux下安装mongodb
1)官网下载mongodb-linux-x86_64-rhel62-3.0.4.gz
2)linux 解压
gzip -d mongodb-linux-x86_64-rhel62-3.0.4.gz;
mv mongodb-linux-x86_64-rhel62-3.0.4 mongodb-linux-x86_64-rhel62-
- 编程之美-最短摘要的生成
bylijinnan
java数据结构算法编程之美
import java.util.HashMap;
import java.util.Map;
import java.util.Map.Entry;
public class ShortestAbstract {
/**
* 编程之美 最短摘要的生成
* 扫描过程始终保持一个[pBegin,pEnd]的range,初始化确保[pBegin,pEnd]的ran
- json数据解析及typeof
chengxuyuancsdn
jstypeofjson解析
// json格式
var people='{"authors": [{"firstName": "AAA","lastName": "BBB"},'
+' {"firstName": "CCC&
- 流程系统设计的层次和目标
comsci
设计模式数据结构sql框架脚本
流程系统设计的层次和目标
 
- RMAN List和report 命令
daizj
oraclelistreportrman
LIST 命令
使用RMAN LIST 命令显示有关资料档案库中记录的备份集、代理副本和映像副本的
信息。使用此命令可列出:
• RMAN 资料档案库中状态不是AVAILABLE 的备份和副本
• 可用的且可以用于还原操作的数据文件备份和副本
• 备份集和副本,其中包含指定数据文件列表或指定表空间的备份
• 包含指定名称或范围的所有归档日志备份的备份集和副本
• 由标记、完成时间、可
- 二叉树:红黑树
dieslrae
二叉树
红黑树是一种自平衡的二叉树,它的查找,插入,删除操作时间复杂度皆为O(logN),不会出现普通二叉搜索树在最差情况时时间复杂度会变为O(N)的问题.
红黑树必须遵循红黑规则,规则如下
1、每个节点不是红就是黑。 2、根总是黑的 &
- C语言homework3,7个小题目的代码
dcj3sjt126com
c
1、打印100以内的所有奇数。
# include <stdio.h>
int main(void)
{
int i;
for (i=1; i<=100; i++)
{
if (i%2 != 0)
printf("%d ", i);
}
return 0;
}
2、从键盘上输入10个整数,
- 自定义按钮, 图片在上, 文字在下, 居中显示
dcj3sjt126com
自定义
#import <UIKit/UIKit.h>
@interface MyButton : UIButton
-(void)setFrame:(CGRect)frame ImageName:(NSString*)imageName Target:(id)target Action:(SEL)action Title:(NSString*)title Font:(CGFloa
- MySQL查询语句练习题,测试足够用了
flyvszhb
sqlmysql
http://blog.sina.com.cn/s/blog_767d65530101861c.html
1.创建student和score表
CREATE TABLE student (
id INT(10) NOT NULL UNIQUE PRIMARY KEY ,
name VARCHAR
- 转:MyBatis Generator 详解
happyqing
mybatis
MyBatis Generator 详解
http://blog.csdn.net/isea533/article/details/42102297
MyBatis Generator详解
http://git.oschina.net/free/Mybatis_Utils/blob/master/MybatisGeneator/MybatisGeneator.
- 让程序员少走弯路的14个忠告
jingjing0907
工作计划学习
无论是谁,在刚进入某个领域之时,有再大的雄心壮志也敌不过眼前的迷茫:不知道应该怎么做,不知道应该做什么。下面是一名软件开发人员所学到的经验,希望能对大家有所帮助
1.不要害怕在工作中学习。
只要有电脑,就可以通过电子阅读器阅读报纸和大多数书籍。如果你只是做好自己的本职工作以及分配的任务,那是学不到很多东西的。如果你盲目地要求更多的工作,也是不可能提升自己的。放
- nginx和NetScaler区别
流浪鱼
nginx
NetScaler是一个完整的包含操作系统和应用交付功能的产品,Nginx并不包含操作系统,在处理连接方面,需要依赖于操作系统,所以在并发连接数方面和防DoS攻击方面,Nginx不具备优势。
2.易用性方面差别也比较大。Nginx对管理员的水平要求比较高,参数比较多,不确定性给运营带来隐患。在NetScaler常见的配置如健康检查,HA等,在Nginx上的配置的实现相对复杂。
3.策略灵活度方
- 第11章 动画效果(下)
onestopweb
动画
index.html
<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd">
<html xmlns="http://www.w3.org/
- FAQ - SAP BW BO roadmap
blueoxygen
BOBW
http://www.sdn.sap.com/irj/boc/business-objects-for-sap-faq
Besides, I care that how to integrate tightly.
By the way, for BW consultants, please just focus on Query Designer which i
- 关于java堆内存溢出的几种情况
tomcat_oracle
javajvmjdkthread
【情况一】:
java.lang.OutOfMemoryError: Java heap space:这种是java堆内存不够,一个原因是真不够,另一个原因是程序中有死循环; 如果是java堆内存不够的话,可以通过调整JVM下面的配置来解决: <jvm-arg>-Xms3062m</jvm-arg> <jvm-arg>-Xmx
- Manifest.permission_group权限组
阿尔萨斯
Permission
结构
继承关系
public static final class Manifest.permission_group extends Object
java.lang.Object
android. Manifest.permission_group 常量
ACCOUNTS 直接通过统计管理器访问管理的统计
COST_MONEY可以用来让用户花钱但不需要通过与他们直接牵涉的权限
D