- 开源的Trafodion如何实现事务与分析一体化?
weixin_34006965
大数据数据库操作系统
Trafodion是Apache基金会的一个开源项目,提供了一个成熟的企业级SQL-on-HBase解决方案。Trafodion的主要设计思想是处理operational类型的工作负载,或者是传统的OLTP应用。此外,对于需要保证数据一致性、需要标准SQL开发接口,或者需要实时数据读写分析的应用,Trafodion也是一个十分合适的解决方案。Trafodion的前世今生Trafodion的渊源可以
- Trafodion Troubleshooting-failed because A clone should not have regions to restore
post_yuan
HBase
现象在HBase中做RESTORE_SNAPSHOT时报错,hbase(main):022:0*restore_snapshot'RLZYGLXT_FILE_snapshot'ERROR:org.apache.hadoop.hbase.snapshot.RestoreSnapshotException:clonesnapshot={ss=RLZYGLXT_FILE_snapshottable=RL
- Trafodion ETL工具odb进行数据load方法及性能
屠龙宝刀一秒刷爆
odbcetltrafodion
简介odb是Apache孵化项目Trafodion自带的ETL工具,主要可完成数据表的导入、导出和两个数据库之间的复制功能。是一个小巧实用、linux/windows双平台的工具。当环境安装配置好odbc驱动后,就可使用odb对Trafodion、oracle等数据库进行导入、导出、复制操作。指令及参数说明指令如下:./odb64luo-uUSERNAME-pPASSWD-dDSN-lsrc=FI
- 源码编译-Build Source
李东岳
Trafodion
1.环境准备想要更进一步了解和使用Trafodion,难免不得不自己尝试一番编译源码,此为之前做的一个小任务,踩过一些坑,现分享出来并做个总结。[参考](https://cwiki.apache.org/confluence/display/TRAFODION/Build+Source)1.1虚拟机源码编译准备搭建自己的一个虚拟机,系统CentOS6.X即可,7版本会编译错误不支持。配置参考:硬盘
- SQL数据分析概览——Hive、Impala、Spark SQL、Drill、HAWQ 以及Presto+druid
djph26741
转自infoQ!根据O’Reilly2016年数据科学薪资调查显示,SQL是数据科学领域使用最广泛的语言。大部分项目都需要一些SQL操作,甚至有一些只需要SQL。本文涵盖了6个开源领导者:Hive、Impala、SparkSQL、Drill、HAWQ以及Presto,还加上Calcite、Kylin、Phoenix、Tajo和Trafodion。以及2个商业化选择OracleBigDataSQL和
- 主流开源SQL(on Hadoop)总结,不断改进的Hive始终遥遥领先
HAOXUAN168
大数据学习
本文涵盖了6个开源领导者:Hive、Impala、SparkSQL、Drill、HAWQ以及Presto,还加上Calcite、Kylin、Phoenix、Tajo和Trafodion。以及2个商业化选择OracleBigDataSQL和IBMBigSQL,IBM尚未将后者更名为“WatsonSQL”。(有读者问:Druid呢?我的回答是:检查后,我同意Druid属于这一类别。)更多精彩内容学习点
- 修改集群ip
佑熙
1停止CDHManager相应的管理进程(Server进程及所有节点的Agent进程)servicecloudera-scm-agentstopservicecloudera-scm-serverstop2查看对应数据库的scm用户密码[root@esg06trafodion]#greppassword/etc/cloudera-scm-server/db.propertiescom.cloude
- Trafodion之DTM介绍
post_yuan
DTM,全称DistributedTransactionManagement,即分布式事务管理器,是Trafodion支持事务的重要组件部分。DTM是一个进程,每个数据库节点一个,可以通过sqcheck查看到DTM进程,个数与节点数一致,如下输出,[trafodion@p08~]$sqcheck***CheckingTrafodionEnvironment***Checkingifprocesse
- 用Kettle从MySQL迁移数据到Trafodion牛刀小试
post_yuan
众所周知,Kettle(PentahoDataIntegration,PDL)是市场上一款领头的开源的ETL工具,可以高效稳定的抽取、转换和迁移数据。Kettle提供了基于Java的图形化界面,是一款易于上手的、无需安装的绿色软件。Kettle支持几乎所有的数据源和数据库,当然也支持Trafodion数据库。本文概述如何通过配置并使用Kettle将数据从MySQL加载到Trafodion数据库。(
- Trafodion ALTER USER语法
zheyuan_xing
Trafodion
ALTERUSER语句可以修改与数据库中注册的用户相关连的属性。ALTERUSER语句用法ALTERUSERdatabase-usernamealter-actiondatabase-username是已经在数据库中注册的用户,一般包含DB__ROOT和DB__ADMIN。alter-action包括:SETEXTERNALNAMEdirectory-service-usernameSET{ONL
- 记一次OBJECTS元数据表处于RIT的解决办法
post_yuan
TrafodionTroubleshoot
最近一客户环境由于Hadoop故障,恢复时出现“_MD_".OBJECTS处于RIT状态,且长期不能恢复。使用Trafodion用户执行HBCHECK输出如下,HBaseisavailable!HBaseversion:1.1.2.2.4.3.0-227HMaster:namenode-2.esg.local,16000,1568772195966NumberofRegionServersavai
- 记一次OBJECTS元数据表处于RIT的解决办法
post_yuan
TrafodionTroubleshoot
最近一客户环境由于Hadoop故障,恢复时出现“_MD_".OBJECTS处于RIT状态,且长期不能恢复。使用Trafodion用户执行HBCHECK输出如下,HBaseisavailable!HBaseversion:1.1.2.2.4.3.0-227HMaster:namenode-2.esg.local,16000,1568772195966NumberofRegionServersavai
- Trafodion 从元数据表中获取字段信息的相关总结
post_yuan
Trafodion中所有对象的元数据信息都保存在schema"_MD_"下面,对象的信息、字段的属性等。这里我们描述几种常用的和获取字段信息有关的SQL方法。测试表如下,--创建测试表DROPTABLEIFEXISTSaaa;CREATETABLEaaa(aNUMERIC(18,8),bvarchar2(10),cINT,dlargeint,eCLOB,fDATE,gTIMESTAMP(6),hN
- Trafodion 修改默认的ssh通信端口
post_yuan
默认情况下,Trafodion每个节点之间的ssh通信是用默认的22端口,但有时候基于一些网络安全考虑我们可能会禁用22端口而使用其他端口来做为ssh通信的端口,如20022。修改方法为:修改trafodion的~/.ssh/config配置文件,增加Port=20022,xxx为非默认的端口号即可,config文件权限为600。即,//切换trafodion用户cdwcd.sshsed-i'$a
- Trafodion 查看表的创建时间与修改时间
post_yuan
大数据
Trafodion中每个对象(如表、索引等)创建后,会在元数据表中增加相应的记录,主要元数据表为"_MD_".objects。以下是"_MD_".objects的表结构,SQL>showddl"_MD_".objects;CREATETABLETRAFODION."_MD_".OBJECTS(CATALOG_NAMEVARCHAR(256BYTES)CHARACTERSETUTF8COLLATED
- EsgynDB 替换License步骤
post_yuan
本文简要描述如何更新EsgynDB的License。1检查当前License状态这可以通过多种方式实现(以下任何一种方法即可),(1)decoder命令使用trafodion用户在其中一台EsgynDB节点上执行以下命令输出License状态[trafodion@dev02~]$decoder-f/etc/trafodion/esgyndb_license-aLicensedTo:XXXXLice
- 使用sqoop迁移Oracle中blob到Trafodion
post_yuan
大数据
在前面文章中,我们介绍了使用sqoop把blob迁移到Hive,具体可参考博客使用sqoop迁移blob到Hive表。由于Hive本身不支持LOB类型,我们使用String来存储BLOB数据,sqoop导入到HDFS中BLOB字段被存储为16进制的字符串形式。数据在Hive中之后,我们便可以直接使用Trafodion自带的LOADINTO命令把数据直接从Hive表加载到Trafodion表,如下(
- 使用sqoop迁移Oracle中blob到Trafodion
post_yuan
大数据
在前面文章中,我们介绍了使用sqoop把blob迁移到Hive,具体可参考博客使用sqoop迁移blob到Hive表。由于Hive本身不支持LOB类型,我们使用String来存储BLOB数据,sqoop导入到HDFS中BLOB字段被存储为16进制的字符串形式。数据在Hive中之后,我们便可以直接使用Trafodion自带的LOADINTO命令把数据直接从Hive表加载到Trafodion表,如下(
- Apache Zeppelin在Apache Trafodion上的可视化
EsgynChina
可视化大数据
介绍ApacheTrafodion和EsgynDB(Esgyn的商业版)支持数据可视化工具(例如,ApacheZeppelin和Tableau),具有标准JDBC/ODBC连接。本文重点介绍如何实现ApacheZeppelin在Trafodion上的可视化。ApacheZeppelin基于web,数据专家可以通过该工具进行大规模数据挖掘和可视化的协作。大规模数据分析的工作流包括多个步骤,例如数据获
- 【Trafodion使用技巧篇】Trafodion数据加载介绍
EsgynChina
数据库大数据处理
Trafodion的数据加载主要包括两种方法,即TrickleLoad(持续加载)和BulkLoad(批量加载)。下表介绍了两种加载方法的区别:类型描述方法/工具TrickleLoad数据量较小,立即插入ODB工具(性能通常较第三方ETL工具更好);ETL工具如kettle、Informatica等;自主开发的ODBC/JDBC应用。BulkLoad数据量较大;阶段性数据并且是批量加载的方式Bul
- Hibernate的Trafodion方言
EsgynChina
ormhibernate
对象-关系映射(ORM)提供了一个框架,应用程序可以使用一个对象范例,查询并操作数据库中的数据。该框架以多种语言实现,封装了数据操作所需的代码。这样,您无需了解SQL,即可使用一个对象访问数据,该对象隐藏了每个数据库查询语言的变化。假设有以下的Employees表:IDNameAddressDepartmentSalary1JohnMilpitas,CAEngineer$100,0002TomCu
- 如何在EsgynDB中使用机器学习库(ML library)
EsgynChina
大数据hadoop机器学习tensorflow
机器学习(ML)库正变得越来越流行,现在有各种各样的这类库-维基百科中提及了49个[1]。这些机器学习库需要庞大的数据,通常此类数据是存储在关系型数据库中的业务数据,比如存放在EsgynDB或以其他形式存储在Hadoop数据湖中。备注:EsgynDB为易鲸捷公司基于Trafodion提供的企业版。简单的集成-JDBC和HDFS有多种方法连接机器学习库和EsgynDB。其中一种方法是使用JDBC,这
- 基于SQL-on-HBase产品的一种有趣的触发器实现
凯文徐
springboottriggerantlrhbasesql
背景现在市面上有不少的SQonHBase的产品:Trafodion、Impala、Greplum等等,但是很少有支持触发器功能的产品,也许是因为在这种应用场景下很少使用到触发器,但不可否认触发器是一项非常有用的功能,本文主要针对一些缺少触发器功能的产品提供一种有趣实现的思路。概览如下图所示:当有数据插入到SQEngine中时,数据会存储至HBase.在HBase中借助Observer,当有数据触发
- Trafodion值得放入工具箱,因为有以下优点
EsgynChina
开源软件apache数据库
Trafodion是Apache基金会的一个开源项目,提供了一个成熟的企业级SQL-on-HBase解决方案。Trafodion的主要设计思想是处理operational类型的工作负载,或者是传统的OLTP应用。此外,对于需要保证数据一致性、需要标准SQL开发接口,或者需要实时数据读写分析的应用,Trafodion也是一个十分合适的解决方案。Trafodion的前世今生Trafodion的渊源可以
- Trafodion 数据类型
post_yuan
Trafodion支持的数据类型有:数值类型、字符类型、日期类型、Interval类型、LOB类型,如下表格,数据类型描述数值类型精确数值类型(int,largeint,smallint,numeric,decimal)或近似数值类型(float,doubleprecision,real)字符类型固定长度字符(char)或变长字符(varchar)日期类型date(年月日,如2018-06-27)
- Trafodion 使用BLOB存储非结构化/半结构化数据
post_yuan
Trafodion目前支持LOB类型,包括BLOB/CLOB,BLOB(BinaryLargeObject),主要用于存储非结构化数据,如图片、音频等,CLOB(CharacterLargeObject),主要用于半结构化数据,如大文本,大字符串等。参考ApacheTrafodion官网http://trafodion.apache.org/docs/lob_guide/index.html,可以
- Linux配置Oracle ODBC驱动并使用odb工具测试连接
post_yuan
前面多篇文章我们介绍了Trafodion的odb工具,包括如何配置Trafodion的ODBC驱动,如何使用odb数据进行数据的加载、抽取、转换。odb可以在不同的关系型数据库之间进行数据传输而不用数据落地。由于odb是基于ODBC,使用odb从关系型数据库A迁移数据到关系型数据库B之前,需要提前配置好A和B的ODBC连接。本文我们主要描述如何配置Oracle的ODBC并使用odb测试是否可以正常
- 易鲸捷数据库常用优化方法
freedom_824
trafodion
1.整理每个字段的长度,尽量保证长度不浪费。2.没有中文字段的字符集不要设置成utf8。3.字段长度小余100的设置成char类型。4.STOREBY后面的字段尽量设置成UEC>100*partitions(uec字段唯一值的数量)5.从hiveload数据到trafodion表的时候把CQDHIVE_NUM_ESPS_PER_DATANODE'10';这个CQD打开。6.表数据量大于1000万条
- Trafodion集成Sentry实现Hive权限控制
post_yuan
本文主要描述如何在CDH上安装并配置Hive使用Sentry,并介绍如何使用trafodion用户实现Hive对象的权限控制。主要步骤及描述如下,一、安装并配置使用Sentry1CDHManager添加Sentry服务2配置Hive使用Sentry(1)打开Hive的Sentry服务(2)关闭hiveserver2impersonation(3)配置hadoop.proxyuser.hive.gr
- Trafodion 使用DATEDIFF计算两个时间差
post_yuan
在Trafodion中,我们使用DATEDIFF内嵌函数来计算两个时间差值,计算的时间差可以包括多种粒度,如YEAR、MONTH、DAY、HOUR、MINUTE、SECOND、QUARTER、WEEK。DATEDIFF的用法如下,DATEDIFF(datepart,startdate,enddate)其中,以上datepart即上述YEAR、MONTH、DAY等这些不同的粒度,startdate和
- 基本数据类型和引用类型的初始值
3213213333332132
java基础
package com.array;
/**
* @Description 测试初始值
* @author FuJianyong
* 2015-1-22上午10:31:53
*/
public class ArrayTest {
ArrayTest at;
String str;
byte bt;
short s;
int i;
long
- 摘抄笔记--《编写高质量代码:改善Java程序的151个建议》
白糖_
高质量代码
记得3年前刚到公司,同桌同事见我无事可做就借我看《编写高质量代码:改善Java程序的151个建议》这本书,当时看了几页没上心就没研究了。到上个月在公司偶然看到,于是乎又找来看看,我的天,真是非常多的干货,对于我这种静不下心的人真是帮助莫大呀。
看完整本书,也记了不少笔记
- 【备忘】Django 常用命令及最佳实践
dongwei_6688
django
注意:本文基于 Django 1.8.2 版本
生成数据库迁移脚本(python 脚本)
python manage.py makemigrations polls
说明:polls 是你的应用名字,运行该命令时需要根据你的应用名字进行调整
查看该次迁移需要执行的 SQL 语句(只查看语句,并不应用到数据库上):
python manage.p
- 阶乘算法之一N! 末尾有多少个零
周凡杨
java算法阶乘面试效率
&n
- spring注入servlet
g21121
Spring注入
传统的配置方法是无法将bean或属性直接注入到servlet中的,配置代理servlet亦比较麻烦,这里其实有比较简单的方法,其实就是在servlet的init()方法中加入要注入的内容:
ServletContext application = getServletContext();
WebApplicationContext wac = WebApplicationContextUtil
- Jenkins 命令行操作说明文档
510888780
centos
假设Jenkins的URL为http://22.11.140.38:9080/jenkins/
基本的格式为
java
基本的格式为
java -jar jenkins-cli.jar [-s JENKINS_URL] command [options][args]
下面具体介绍各个命令的作用及基本使用方法
1. &nb
- UnicodeBlock检测中文用法
布衣凌宇
UnicodeBlock
/** * 判断输入的是汉字 */ public static boolean isChinese(char c) { Character.UnicodeBlock ub = Character.UnicodeBlock.of(c);
- java下实现调用oracle的存储过程和函数
aijuans
javaorale
1.创建表:STOCK_PRICES
2.插入测试数据:
3.建立一个返回游标:
PKG_PUB_UTILS
4.创建和存储过程:P_GET_PRICE
5.创建函数:
6.JAVA调用存储过程返回结果集
JDBCoracle10G_INVO
- Velocity Toolbox
antlove
模板toolboxvelocity
velocity.VelocityUtil
package velocity;
import org.apache.velocity.Template;
import org.apache.velocity.app.Velocity;
import org.apache.velocity.app.VelocityEngine;
import org.apache.velocity.c
- JAVA正则表达式匹配基础
百合不是茶
java正则表达式的匹配
正则表达式;提高程序的性能,简化代码,提高代码的可读性,简化对字符串的操作
正则表达式的用途;
字符串的匹配
字符串的分割
字符串的查找
字符串的替换
正则表达式的验证语法
[a] //[]表示这个字符只出现一次 ,[a] 表示a只出现一
- 是否使用EL表达式的配置
bijian1013
jspweb.xmlELEasyTemplate
今天在开发过程中发现一个细节问题,由于前端采用EasyTemplate模板方法实现数据展示,但老是不能正常显示出来。后来发现竟是EL将我的EasyTemplate的${...}解释执行了,导致我的模板不能正常展示后台数据。
网
- 精通Oracle10编程SQL(1-3)PLSQL基础
bijian1013
oracle数据库plsql
--只包含执行部分的PL/SQL块
--set serveroutput off
begin
dbms_output.put_line('Hello,everyone!');
end;
select * from emp;
--包含定义部分和执行部分的PL/SQL块
declare
v_ename varchar2(5);
begin
select
- 【Nginx三】Nginx作为反向代理服务器
bit1129
nginx
Nginx一个常用的功能是作为代理服务器。代理服务器通常完成如下的功能:
接受客户端请求
将请求转发给被代理的服务器
从被代理的服务器获得响应结果
把响应结果返回给客户端
实例
本文把Nginx配置成一个简单的代理服务器
对于静态的html和图片,直接从Nginx获取
对于动态的页面,例如JSP或者Servlet,Nginx则将请求转发给Res
- Plugin execution not covered by lifecycle configuration: org.apache.maven.plugin
blackproof
maven报错
转:http://stackoverflow.com/questions/6352208/how-to-solve-plugin-execution-not-covered-by-lifecycle-configuration-for-sprin
maven报错:
Plugin execution not covered by lifecycle configuration:
- 发布docker程序到marathon
ronin47
docker 发布应用
1 发布docker程序到marathon 1.1 搭建私有docker registry 1.1.1 安装docker regisry
docker pull docker-registry
docker run -t -p 5000:5000 docker-registry
下载docker镜像并发布到私有registry
docker pull consol/tomcat-8.0
- java-57-用两个栈实现队列&&用两个队列实现一个栈
bylijinnan
java
import java.util.ArrayList;
import java.util.List;
import java.util.Stack;
/*
* Q 57 用两个栈实现队列
*/
public class QueueImplementByTwoStacks {
private Stack<Integer> stack1;
pr
- Nginx配置性能优化
cfyme
nginx
转载地址:http://blog.csdn.net/xifeijian/article/details/20956605
大多数的Nginx安装指南告诉你如下基础知识——通过apt-get安装,修改这里或那里的几行配置,好了,你已经有了一个Web服务器了。而且,在大多数情况下,一个常规安装的nginx对你的网站来说已经能很好地工作了。然而,如果你真的想挤压出Nginx的性能,你必
- [JAVA图形图像]JAVA体系需要稳扎稳打,逐步推进图像图形处理技术
comsci
java
对图形图像进行精确处理,需要大量的数学工具,即使是从底层硬件模拟层开始设计,也离不开大量的数学工具包,因为我认为,JAVA语言体系在图形图像处理模块上面的研发工作,需要从开发一些基础的,类似实时数学函数构造器和解析器的软件包入手,而不是急于利用第三方代码工具来实现一个不严格的图形图像处理软件......
&nb
- MonkeyRunner的使用
dai_lm
androidMonkeyRunner
要使用MonkeyRunner,就要学习使用Python,哎
先抄一段官方doc里的代码
作用是启动一个程序(应该是启动程序默认的Activity),然后按MENU键,并截屏
# Imports the monkeyrunner modules used by this program
from com.android.monkeyrunner import MonkeyRun
- Hadoop-- 海量文件的分布式计算处理方案
datamachine
mapreducehadoop分布式计算
csdn的一个关于hadoop的分布式处理方案,存档。
原帖:http://blog.csdn.net/calvinxiu/article/details/1506112。
Hadoop 是Google MapReduce的一个Java实现。MapReduce是一种简化的分布式编程模式,让程序自动分布到一个由普通机器组成的超大集群上并发执行。就如同ja
- 以資料庫驗證登入
dcj3sjt126com
yii
以資料庫驗證登入
由於 Yii 內定的原始框架程式, 採用綁定在UserIdentity.php 的 demo 與 admin 帳號密碼: public function authenticate() { $users=array( &nbs
- github做webhooks:[2]php版本自动触发更新
dcj3sjt126com
githubgitwebhooks
上次已经说过了如何在github控制面板做查看url的返回信息了。这次就到了直接贴钩子代码的时候了。
工具/原料
git
github
方法/步骤
在github的setting里面的webhooks里把我们的url地址填进去。
钩子更新的代码如下: error_reportin
- Eos开发常用表达式
蕃薯耀
Eos开发Eos入门Eos开发常用表达式
Eos开发常用表达式
>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>
蕃薯耀 2014年8月18日 15:03:35 星期一
&
- SpringSecurity3.X--SpEL 表达式
hanqunfeng
SpringSecurity
使用 Spring 表达式语言配置访问控制,要实现这一功能的直接方式是在<http>配置元素上添加 use-expressions 属性:
<http auto-config="true" use-expressions="true">
这样就会在投票器中自动增加一个投票器:org.springframework
- Redis vs Memcache
IXHONG
redis
1. Redis中,并不是所有的数据都一直存储在内存中的,这是和Memcached相比一个最大的区别。
2. Redis不仅仅支持简单的k/v类型的数据,同时还提供list,set,hash等数据结构的存储。
3. Redis支持数据的备份,即master-slave模式的数据备份。
4. Redis支持数据的持久化,可以将内存中的数据保持在磁盘中,重启的时候可以再次加载进行使用。
Red
- Python - 装饰器使用过程中的误区解读
kvhur
JavaScriptjqueryhtml5css
大家都知道装饰器是一个很著名的设计模式,经常被用于AOP(面向切面编程)的场景,较为经典的有插入日志,性能测试,事务处理,Web权限校验, Cache等。
原文链接:http://www.gbtags.com/gb/share/5563.htm
Python语言本身提供了装饰器语法(@),典型的装饰器实现如下:
@function_wrapper
de
- 架构师之mybatis-----update 带case when 针对多种情况更新
nannan408
case when
1.前言.
如题.
2. 代码.
<update id="batchUpdate" parameterType="java.util.List">
<foreach collection="list" item="list" index=&
- Algorithm算法视频教程
栏目记者
Algorithm算法
课程:Algorithm算法视频教程
百度网盘下载地址: http://pan.baidu.com/s/1qWFjjQW 密码: 2mji
程序写的好不好,还得看算法屌不屌!Algorithm算法博大精深。
一、课程内容:
课时1、算法的基本概念 + Sequential search
课时2、Binary search
课时3、Hash table
课时4、Algor
- C语言算法之冒泡排序
qiufeihu
c算法
任意输入10个数字由小到大进行排序。
代码:
#include <stdio.h>
int main()
{
int i,j,t,a[11]; /*定义变量及数组为基本类型*/
for(i = 1;i < 11;i++){
scanf("%d",&a[i]); /*从键盘中输入10个数*/
}
for
- JSP异常处理
wyzuomumu
Webjsp
1.在可能发生异常的网页中通过指令将HTTP请求转发给另一个专门处理异常的网页中:
<%@ page errorPage="errors.jsp"%>
2.在处理异常的网页中做如下声明:
errors.jsp:
<%@ page isErrorPage="true"%>,这样设置完后就可以在网页中直接访问exc