- hive初始化mysql失败_hive 未初始化元数据库报错
润姐姐Samantha
hive初始化mysql失败
启动hive-metastore和hive-server2用beeline连接hive报错[root@node04hive]#beelineBeelineversion0.13.1-cdh5.3.0byApacheHivebeeline>!connectjdbc:hive2://172.16.145.114:10000hivescancompletein3msConnectingtojdbc:hi
- Java调用Hive-metastore接口
twalk
需求:对hive的元数据进行查询,之前师姐的实现方法是通过对MySql的hive元数据数据库操作,进而实现查询。但是该方法太过于麻烦和复杂,在网上查询之后发现,hive提供Hive-metastoreservice,能比较完美的解决这一需求。1.为什么有Hive-metastoreservice许多第三方框架需要使用hive的元数据如spark,所有hive需要开发Hive-metastorese
- 不同集群的 Hive 迁移方案
houzhizhen
hivehive数据库hadoop
不同集群的Hive迁移方案本文档描述了怎样把Hive数据库从一个Hadoop集群迁移到另一个Hadoop集群。本文档假定新集群的Hive元数据库的内容可以清空。1.停止老集群hive集群的hive-metastore和hive-server2停止方法:使用命令systemctlstophive-metastore或者通过ambari操作。systemctlstophive-metastoresys
- SparkSQL查询iceberg出现大量小task问题
问题描述在测试环境下,使用SparkSQL3.1.1查询存放在hive-metastore和oss之上的iceberg表,会发现存在很多数据量非常小的task。查询的query模式如下:SELECT*FROMhive_prod.iceberg_db.store_salesWHEREss_customer_sk=10702517;在spark的dashboard上查看这个query的详细情况如下:这
- Hive--MetaException(message:Required table missing : “`DBS`“ in Catalog ““ Schema ““. DataNucleus re
Erase Me
大数据
在开启Hive-metastore的时候报错:MetaException(message:Requiredtablemissing:“DBS”inCatalog“”Schema“”.DataNucleusrequiresthistabletoperformitspersistenceoperations.EitheryourMetaDataisincorrect,oryouneedtoenable
- hive-metastore结构
花泽啸
Hive
HiveMetaStore数据库表结构图整体概括DBSColumns:DB_ID、DESC、DB_LOCATION_URI、NAME、OWNER_NAME、OWNER_TYPEDBS表记录基本的db信息,其中DB_ID为其主键,同时也是FUNC_RU、FUNCS、DB_PRIVS、DATABASE_PARAMS、以及TBLS的外键。一般来说,在hivemeta初始化时都会自动创建一个名叫defau
- Hive环境配置
平凡的思想者
hadoophive
1、安装rpm包1)包选择:hive、hive-metastore、hive-server22)安装:sudoyuminstallhivesudoyuminstallhive-metastoresudoyuminstallhive-server23)hive-server版本有点老,推荐使用hive-server2。2、安装MySQL因为公司的MySQL由运维部门统一管理,因此此步骤可以略过。3、
- 使用linux脚本shell检查大数据各节点服务是否运行正常
白开水v5
大数据hadoophbasezookeeper
脚本通过ssh检查大数据环境中各节点的相关实例是否运行正常,包括:zk、hadoop-ha、hdfs、yarn、hbase、hive-metastore、hiveserver2、kafka。注意修改成自己的集群节点名称及kafka版本#!/bin/bash#定义机器名前缀HN_PREFIX="hadoop.test"KFK_NAME="kafka_2.12-1.1.0"#各服务对应节点#zk节点Z
- hive 未初始化元数据库报错
weixin_33834075
启动hive-metastore和hive-server2用beeline连接hive报错[root@node04hive]#beelineBeelineversion0.13.1-cdh5.3.0byApacheHivebeeline>!connectjdbc:hive2://172.16.145.114:10000hivescancompletein3msConnectingtojdbc:hi
- 解决 Failed to get schema version when starting Hive Metastore Service
sh0308
hive
1.启动HiveMetastore时,报错信息如下resource_management.core.exceptions.Fail:Executionof'exportHIVE_CONF_DIR=/usr/hdp/current/hive-metastore/conf/conf.server;/usr/hdp/current/hive-metastore/bin/schematool-initSc
- Java调用Hive-metastore接口
天天乐见
大数据组件
需求:对hive的元数据进行查询,之前师姐的实现方法是通过对MySql的hive元数据数据库操作,进而实现查询。但是该方法太过于麻烦和复杂,在网上查询之后发现,hive提供Hive-metastoreservice,能比较完美的解决这一需求。1.为什么有Hive-metastoreservice许多第三方框架需要使用hive的元数据如spark,所有hive需要开发Hive-metastorese
- 搭建两个节点的大数据集群-1.hdfs集群
正在战斗中
0.规划两个节点:ip部署的程序备注192.168.56.2/bigdata.lzfnamenode,datanode,NodeManager,hive,presto,mysql,hive-metastore,presto-cli主节点192.168.56.3/bigdata.dn1.lzfsecondarynode,resourceManager,NodeManager,hive,presto,
- hiveserver2启动:javax.jdo.JDODataStoreException: Error executing SQL query "select "DB_ID" from "DBS""
nana-li
Hadoop
原文链接:http://www.cnblogs.com/zwgblog/p/6063993.html启动hive-metastore和hive-server2用beeline连接hive报错12345678[root@node04hive]#beelineBeelineversion0.13.1-cdh5.3.0byApacheHivebeeline>!connectjdbc:hive2://17
- 安装和部署Presto
ronin47
安装presto
安装和部署Presto1.安装环境操作系统:CentOs6.5Hadoop集群:CDH5.3JDK版本:jdk1.8.0_31为了测试简单,我是将Presto的coordinator和worker都部署在 cdh1 节点上,并且该节点上部署了hive-metastore服务。下面的安装和部署过程参考自 http://prestodb.io/docs/current/installation.htm
- 【原】Centos6.5下cdh4.6 hive安装部署
centos6
1、前提条件: 只需要选择一台服务器即可,这里选择安装在namenode上;安装用户为cloud-user 2、安装包: sudo yum install -y hive hive-metastore hive-server2 3、安装mysql: sudo y
- spark笔记2-spark-sql 程序
greemranqq
serverversionipcresources9havespark-sqlsufficient1.4.1hive-metastore
一.序言 这里介绍用idea跑程序去连接spark-sql->hive-metastore的小例子,关于服务器上得保证spark-sql/spark-shell正确执行,然后再用本地的程序去实现,我这里版本用的spark1.4.1+hive1.2.1+hadoop2.7.1. 二.连接代码 结合笔记1的代码 2.1maven配置:
org.apache.spark
spark
- spark笔记2-spark-sql 程序
greemranqq
spark-sql1.4.1hive-metastoreServerIPCversion9havesufficientresources
阅读更多一.序言这里介绍用idea跑程序去连接spark-sql->hive-metastore的小例子,关于服务器上得保证spark-sql/spark-shell正确执行,然后再用本地的程序去实现,我这里版本用的spark1.4.1+hive1.2.1+hadoop2.7.1.二.连接代码结合笔记1的代码2.1maven配置:org.apache.sparkspark-core_2.101.4
- 整合spark和hive
u012432611
sparkhive
参考1参考2事先启动了hive-metastore服务启动了hadoop启动了spark集群(若不启动集群,下面不要指定master也是可以的)接着启动spark-shellbin/spark-shell--masterspark://moon:7077--driver-class-path/usr/local/hive/lib/mysql-connector-java-5.1.18-bin.ja
- 安装和部署Presto
JavaChen
presto
1.安装环境操作系统:CentOs6.5Hadoop集群:CDH5.3JDK版本:jdk1.8.0_31为了测试简单,我是将Presto的coordinator和worker都部署在cdh1节点上,并且该节点上部署了hive-metastore服务。下面的安装和部署过程参考自http://prestodb.io/docs/current/installation.html。2.安装Presto下载
- 安装和部署Presto
presto
1.安装环境操作系统:CentOs6.5Hadoop集群:CDH5.3JDK版本:jdk1.8.0_31为了测试简单,我是将Presto的coordinator和worker都部署在cdh1节点上,并且该节点上部署了hive-metastore服务。下面的安装和部署过程参考自http://prestodb.io/docs/current/installation.html。2.安装Presto下载
- hive-metastore
十一月不远
EmbeddedMetastore嵌入式metastore主要用于单元测试。同一时刻只有一个进程可以连接到metastore,所以它不是一个事实上的解决方案,但是可以很好的用于单元测试。Derby是嵌入式metastore默认的数据库。ConfigParamConfigValueCommentjavax.jdo.option.ConnectionURLjdbc:derby:;databaseNam
- Hadoop CDH4.5 Hive部署
China_OS
hivecdh
Hive的部署,Hive是啥呢?Hive部署的节点信息如下:1 安装Hive包 与Hive相关的包有四个: hive–基础安装包,提供了运行时完整的语言支持,必须安装的 hive-metastore–在作为单独的服务运行时提供了存储元数据的脚本,可选的。 hive-server–在作为单独的HiveServer服务运行时
- Hive环境配置
forever_feng
1、安装rpm包 1)包选择:hive、hive-metastore、hive-server2 2)安装: sudoyuminstallhive sudoyuminstallhive-metastore sudoyuminstallhive-server2 3)hive-server版本有点老,推荐使用hive-server2。 2、安装MySQL 因为公司
- jQuery 跨域访问的三种方式 No 'Access-Control-Allow-Origin' header is present on the reque
qiaolevip
每天进步一点点学习永无止境跨域众观千象
XMLHttpRequest cannot load http://v.xxx.com. No 'Access-Control-Allow-Origin' header is present on the requested resource. Origin 'http://localhost:63342' is therefore not allowed access. test.html:1
- mysql 分区查询优化
annan211
java分区优化mysql
分区查询优化
引入分区可以给查询带来一定的优势,但同时也会引入一些bug.
分区最大的优点就是优化器可以根据分区函数来过滤掉一些分区,通过分区过滤可以让查询扫描更少的数据。
所以,对于访问分区表来说,很重要的一点是要在where 条件中带入分区,让优化器过滤掉无需访问的分区。
可以通过查看explain执行计划,是否携带 partitions
- MYSQL存储过程中使用游标
chicony
Mysql存储过程
DELIMITER $$
DROP PROCEDURE IF EXISTS getUserInfo $$
CREATE PROCEDURE getUserInfo(in date_day datetime)-- -- 实例-- 存储过程名为:getUserInfo-- 参数为:date_day日期格式:2008-03-08-- BEGINdecla
- mysql 和 sqlite 区别
Array_06
sqlite
转载:
http://www.cnblogs.com/ygm900/p/3460663.html
mysql 和 sqlite 区别
SQLITE是单机数据库。功能简约,小型化,追求最大磁盘效率
MYSQL是完善的服务器数据库。功能全面,综合化,追求最大并发效率
MYSQL、Sybase、Oracle等这些都是试用于服务器数据量大功能多需要安装,例如网站访问量比较大的。而sq
- pinyin4j使用
oloz
pinyin4j
首先需要pinyin4j的jar包支持;jar包已上传至附件内
方法一:把汉字转换为拼音;例如:编程转换后则为biancheng
/**
* 将汉字转换为全拼
* @param src 你的需要转换的汉字
* @param isUPPERCASE 是否转换为大写的拼音; true:转换为大写;fal
- 微博发送私信
随意而生
微博
在前面文章中说了如和获取登陆时候所需要的cookie,现在只要拿到最后登陆所需要的cookie,然后抓包分析一下微博私信发送界面
http://weibo.com/message/history?uid=****&name=****
可以发现其发送提交的Post请求和其中的数据,
让后用程序模拟发送POST请求中的数据,带着cookie发送到私信的接入口,就可以实现发私信的功能了。
- jsp
香水浓
jsp
JSP初始化
容器载入JSP文件后,它会在为请求提供任何服务前调用jspInit()方法。如果您需要执行自定义的JSP初始化任务,复写jspInit()方法就行了
JSP执行
这一阶段描述了JSP生命周期中一切与请求相关的交互行为,直到被销毁。
当JSP网页完成初始化后
- 在 Windows 上安装 SVN Subversion 服务端
AdyZhang
SVN
在 Windows 上安装 SVN Subversion 服务端2009-09-16高宏伟哈尔滨市道里区通达街291号
最佳阅读效果请访问原地址:http://blog.donews.com/dukejoe/archive/2009/09/16/1560917.aspx
现在的Subversion已经足够稳定,而且已经进入了它的黄金时段。我们看到大量的项目都在使
- android开发中如何使用 alertDialog从listView中删除数据?
aijuans
android
我现在使用listView展示了很多的配置信息,我现在想在点击其中一条的时候填出 alertDialog,点击确认后就删除该条数据,( ArrayAdapter ,ArrayList,listView 全部删除),我知道在 下面的onItemLongClick 方法中 参数 arg2 是选中的序号,但是我不知道如何继续处理下去 1 2 3
- jdk-6u26-linux-x64.bin 安装
baalwolf
linux
1.上传安装文件(jdk-6u26-linux-x64.bin)
2.修改权限
[root@localhost ~]# ls -l /usr/local/jdk-6u26-linux-x64.bin
3.执行安装文件
[root@localhost ~]# cd /usr/local
[root@localhost local]# ./jdk-6u26-linux-x64.bin&nbs
- MongoDB经典面试题集锦
BigBird2012
mongodb
1.什么是NoSQL数据库?NoSQL和RDBMS有什么区别?在哪些情况下使用和不使用NoSQL数据库?
NoSQL是非关系型数据库,NoSQL = Not Only SQL。
关系型数据库采用的结构化的数据,NoSQL采用的是键值对的方式存储数据。
在处理非结构化/半结构化的大数据时;在水平方向上进行扩展时;随时应对动态增加的数据项时可以优先考虑使用NoSQL数据库。
在考虑数据库的成熟
- JavaScript异步编程Promise模式的6个特性
bijian1013
JavaScriptPromise
Promise是一个非常有价值的构造器,能够帮助你避免使用镶套匿名方法,而使用更具有可读性的方式组装异步代码。这里我们将介绍6个最简单的特性。
在我们开始正式介绍之前,我们想看看Javascript Promise的样子:
var p = new Promise(function(r
- [Zookeeper学习笔记之八]Zookeeper源代码分析之Zookeeper.ZKWatchManager
bit1129
zookeeper
ClientWatchManager接口
//接口的唯一方法materialize用于确定那些Watcher需要被通知
//确定Watcher需要三方面的因素1.事件状态 2.事件类型 3.znode的path
public interface ClientWatchManager {
/**
* Return a set of watchers that should
- 【Scala十五】Scala核心九:隐式转换之二
bit1129
scala
隐式转换存在的必要性,
在Java Swing中,按钮点击事件的处理,转换为Scala的的写法如下:
val button = new JButton
button.addActionListener(
new ActionListener {
def actionPerformed(event: ActionEvent) {
- Android JSON数据的解析与封装小Demo
ronin47
转自:http://www.open-open.com/lib/view/open1420529336406.html
package com.example.jsondemo;
import org.json.JSONArray;
import org.json.JSONException;
import org.json.JSONObject;
impor
- [设计]字体创意设计方法谈
brotherlamp
UIui自学ui视频ui教程ui资料
从古至今,文字在我们的生活中是必不可少的事物,我们不能想象没有文字的世界将会是怎样。在平面设计中,UI设计师在文字上所花的心思和功夫最多,因为文字能直观地表达UI设计师所的意念。在文字上的创造设计,直接反映出平面作品的主题。
如设计一幅戴尔笔记本电脑的广告海报,假设海报上没有出现“戴尔”两个文字,即使放上所有戴尔笔记本电脑的图片都不能让人们得知这些电脑是什么品牌。只要写上“戴尔笔
- 单调队列-用一个长度为k的窗在整数数列上移动,求窗里面所包含的数的最大值
bylijinnan
java算法面试题
import java.util.LinkedList;
/*
单调队列 滑动窗口
单调队列是这样的一个队列:队列里面的元素是有序的,是递增或者递减
题目:给定一个长度为N的整数数列a(i),i=0,1,...,N-1和窗长度k.
要求:f(i) = max{a(i-k+1),a(i-k+2),..., a(i)},i = 0,1,...,N-1
问题的另一种描述就
- struts2处理一个form多个submit
chiangfai
struts2
web应用中,为完成不同工作,一个jsp的form标签可能有多个submit。如下代码:
<s:form action="submit" method="post" namespace="/my">
<s:textfield name="msg" label="叙述:">
- shell查找上个月,陷阱及野路子
chenchao051
shell
date -d "-1 month" +%F
以上这段代码,假如在2012/10/31执行,结果并不会出现你预计的9月份,而是会出现八月份,原因是10月份有31天,9月份30天,所以-1 month在10月份看来要减去31天,所以直接到了8月31日这天,这不靠谱。
野路子解决:假设当天日期大于15号
- mysql导出数据中文乱码问题
daizj
mysql中文乱码导数据
解决mysql导入导出数据乱码问题方法:
1、进入mysql,通过如下命令查看数据库编码方式:
mysql> show variables like 'character_set_%';
+--------------------------+----------------------------------------+
| Variable_name&nbs
- SAE部署Smarty出现:Uncaught exception 'SmartyException' with message 'unable to write
dcj3sjt126com
PHPsmartysae
对于SAE出现的问题:Uncaught exception 'SmartyException' with message 'unable to write file...。
官方给出了详细的FAQ:http://sae.sina.com.cn/?m=faqs&catId=11#show_213
解决方案为:
01
$path
- 《教父》系列台词
dcj3sjt126com
Your love is also your weak point.
你的所爱同时也是你的弱点。
If anything in this life is certain, if history has taught us anything, it is
that you can kill anyone.
不顾家的人永远不可能成为一个真正的男人。 &
- mongodb安装与使用
dyy_gusi
mongo
一.MongoDB安装和启动,widndows和linux基本相同
1.下载数据库,
linux:mongodb-linux-x86_64-ubuntu1404-3.0.3.tgz
2.解压文件,并且放置到合适的位置
tar -vxf mongodb-linux-x86_64-ubun
- Git排除目录
geeksun
git
在Git的版本控制中,可能有些文件是不需要加入控制的,那我们在提交代码时就需要忽略这些文件,下面讲讲应该怎么给Git配置一些忽略规则。
有三种方法可以忽略掉这些文件,这三种方法都能达到目的,只不过适用情景不一样。
1. 针对单一工程排除文件
这种方式会让这个工程的所有修改者在克隆代码的同时,也能克隆到过滤规则,而不用自己再写一份,这就能保证所有修改者应用的都是同一
- Ubuntu 创建开机自启动脚本的方法
hongtoushizi
ubuntu
转载自: http://rongjih.blog.163.com/blog/static/33574461201111504843245/
Ubuntu 创建开机自启动脚本的步骤如下:
1) 将你的启动脚本复制到 /etc/init.d目录下 以下假设你的脚本文件名为 test。
2) 设置脚本文件的权限 $ sudo chmod 755
- 第八章 流量复制/AB测试/协程
jinnianshilongnian
nginxluacoroutine
流量复制
在实际开发中经常涉及到项目的升级,而该升级不能简单的上线就完事了,需要验证该升级是否兼容老的上线,因此可能需要并行运行两个项目一段时间进行数据比对和校验,待没问题后再进行上线。这其实就需要进行流量复制,把流量复制到其他服务器上,一种方式是使用如tcpcopy引流;另外我们还可以使用nginx的HttpLuaModule模块中的ngx.location.capture_multi进行并发
- 电商系统商品表设计
lkl
DROP TABLE IF EXISTS `category`; -- 类目表
/*!40101 SET @saved_cs_client = @@character_set_client */;
/*!40101 SET character_set_client = utf8 */;
CREATE TABLE `category` (
`id` int(11) NOT NUL
- 修改phpMyAdmin导入SQL文件的大小限制
pda158
sqlmysql
用phpMyAdmin导入mysql数据库时,我的10M的
数据库不能导入,提示mysql数据库最大只能导入2M。
phpMyAdmin数据库导入出错: You probably tried to upload too large file. Please refer to documentation for ways to workaround this limit.
- Tomcat性能调优方案
Sobfist
apachejvmtomcat应用服务器
一、操作系统调优
对于操作系统优化来说,是尽可能的增大可使用的内存容量、提高CPU的频率,保证文件系统的读写速率等。经过压力测试验证,在并发连接很多的情况下,CPU的处理能力越强,系统运行速度越快。。
【适用场景】 任何项目。
二、Java虚拟机调优
应该选择SUN的JVM,在满足项目需要的前提下,尽量选用版本较高的JVM,一般来说高版本产品在速度和效率上比低版本会有改进。
J
- SQLServer学习笔记
vipbooks
数据结构xml
1、create database school 创建数据库school
2、drop database school 删除数据库school
3、use school 连接到school数据库,使其成为当前数据库
4、create table class(classID int primary key identity not null)
创建一个名为class的表,其有一