OpenTSDB安装与使用

1. 安装环境

1. 系统版本

('centos', '6.4', 'Final')

2. 内核版本

Linux localhost.localdomain 2.6.32-358.el6.x86_64 #1 SMP Fri Feb 22 00:31:26 UTC 2013 x86_64 x86_64 x86_64 GNU/Linux

3. 依赖安装

1. java安装

1.yum install java-1.6.0-openjdk-devel.x86_64

2. java环境变量设置  

在~/.bash_profile文件中添加以下行。

# java
export JAVA_HOME=/usr/lib/jvm/java-1.6.0-openjdk-1.6.0.0.x86_64/
export PATH=$JAVA_HOME/bin:$PATH
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

2 gnuplot安装

yum install libotf

yum install gnuplot-common.x86_64

yum install gnuplot.x86_64

 

2. hbase 安装

1.  源码下载

wget http://mirror.bit.edu.cn/apache/hbase/hbase-0.94.27/hbase-0.94.27.tar.gz

2. 配置修改

1.修改hbase-env.sh中的如下属性

export JAVA_HOME=/usr/lib/jvm/java-1.6.0-openjdk-1.6.0.0.x86_64/

export HBASE_MANAGES_ZK=true

 

2.单机配置修改hbase-site.xml：

        hbase.rootdir

        /root/guochunyang/hbase_fs/

3. 启动hbase

./bin/start-hbase.sh

4. 关闭hbase

./bin/stop-hbase.sh

3. opentsdb 安装

1. 下载源码

git clone https://github.com/OpenTSDB/opentsdb.git

2.编译

./build.sh

3. 建表

env COMPRESSION=NONE HBASE_HOME=../hbase-0.94.27 src/create_table.sh

4. 配置文件 opentsdb.conf

[[email protected] opentsdb]# cat /etc/opentsdb.conf 
# --------- NETWORK ----------
# The TCP port TSD should use for communications
# *** REQUIRED ***
tsd.network.port = 4242

# The IPv4 network address to bind to, defaults to all addresses
# tsd.network.bind = 0.0.0.0

# Enables Nagel's algorithm to reduce the number of packets sent over the
# network, default is True
#tsd.network.tcpnodelay = true

# Determines whether or not to send keepalive packets to peers, default 
# is True
#tsd.network.keepalive = true

# Determines if the same socket should be used for new connections, default 
# is True
#tsd.network.reuseaddress = true

# Number of worker threads dedicated to Netty, defaults to # of CPUs * 2
#tsd.network.worker_threads = 8

# Whether or not to use NIO or tradditional blocking IO, defaults to True
#tsd.network.async_io = true

# ----------- HTTP -----------
# The location of static files for the HTTP GUI interface.
# *** REQUIRED ***
tsd.http.staticroot = build/staticroot

# Where TSD should write it's cache files to
# *** REQUIRED ***
tsd.http.cachedir = /tmp/tsd

# --------- CORE ----------
# Whether or not to automatically create UIDs for new metric types, default
# is False
#tsd.core.auto_create_metrics = false
tsd.core.auto_create_metrics = true

# --------- STORAGE ----------
# Whether or not to enable data compaction in HBase, default is True
#tsd.storage.enable_compaction = true

# How often, in milliseconds, to flush the data point queue to storage, 
# default is 1,000
# tsd.storage.flush_interval = 1000

# Name of the HBase table where data points are stored, default is "tsdb"
#tsd.storage.hbase.data_table = tsdb

# Name of the HBase table where UID information is stored, default is "tsdb-uid"
#tsd.storage.hbase.uid_table = tsdb-uid

# Path under which the znode for the -ROOT- region is located, default is "/hbase"
#tsd.storage.hbase.zk_basedir = /hbase

# A comma separated list of Zookeeper hosts to connect to, with or without 
# port specifiers, default is "localhost"
#tsd.storage.hbase.zk_quorum = localhost

 

5.启动

带参数模式

./build/tsdb tsd --port=4242 --staticroot=build/staticroot --cachedir="$tsdtmp" --zkquorum=127.0.0.1:2181

使用配置文件

./build/tsdb tsd

 

6. 创建指标

1. 手动创建指标

[[email protected] opentsdb]# ./build/tsdb mkmetric mysql.bytes_received mysql.bytes_sent
metrics mysql.bytes_received: [0, 0, 1]
metrics mysql.bytes_sent: [0, 0, 2]

2.自动创建指标

需要修改配置文件中tsd.core.auto_create_metrics = true,默认为false。

需要向tsdb的监听端口发送消息。比如：

put tsd.connectionmgr.connections 1443170747 6 type=open host=localhost.localdomain

3.向OpenTSDB添加数据

(1)telnet或者nc

语法：

put

例如:

put sys.cpu.user 1356998400 42.5 host=webserver01 cpu=0

[[email protected] ~]# telnet 127.0.0.1 4242

Trying 127.0.0.1...

Connected to 127.0.0.1.

Escape character is '^]'.

put proc.test.telnet 1443426262 12 telnet_host=localhost

 

[[email protected] ~]# nc 127.0.0.1 4242

put proc.test.nc 1443426262 3 nc_host=localhost

(2)HTTP API

curl -H "Content-Type: application/json" -X POST  http://127.0.0.1:4242/api/put/ -d '{"metic":"proc.test.curlpost","timestamp":1443427323,"value":18,"tags":{"host":"web01","dc":"lga"}}'

或者通过以下python脚本

[[email protected] opentsdb_test]# cat test_post.py 
#!/usr/bin/env python
#  -*- coding:utf-8 -*-

import httplib
import urllib
import urllib2
import json
import time
import random

def my_post():
    base_url = '10.77.51.10'
    headerdata =  {'Content-type':'application/json'}
    time_cur = int(time.time())
    va = random.randint(1,100)
    values = {
        "metric": "proc.test.httppost",
        "timestamp": time_cur,
        "value": va,
        "tags": {
           "host": "web01",
           "dc": "lga"
        }
    }
    jdata = json.dumps(values)
    conn = httplib.HTTPConnection(base_url,4242)
    conn.request(method="POST",url="/api/put/",body=jdata,headers=headerdata)
    res = conn.getresponse()
    res.read()
    # get response /api/put?details
    conn.request(method="POST",url="/api/put?details",body=jdata,headers=headerdata)
    res = conn.getresponse()
    return res.read()

while(True):
    try:
        resp = my_post()
        print(resp)
        time.sleep(1)
    except Exception as e:
        exit(0)
    except KeyboardInterrupt as e:
        exit(0)
[[email protected] opentsdb_test]# python test_post.py 
{"errors":[],"failed":0,"success":1}
{"errors":[],"failed":0,"success":1}
{"errors":[],"failed":0,"success":1}
{"errors":[],"failed":0,"success":1}
^C[[email protected] opentsdb_test]# 

参考http://opentsdb.net/docs/build/html/api_http/put.html

(3)批量导入

参考http://opentsdb.net/docs/build/html/user_guide/cli/import.html

      

3. tcollector安装

1. 下载源码

 https://github.com/OpenTSDB/tcollector

2. 启动

[[email protected] tcollector]# pwd

/root/guochunyang/tcollector

[[email protected] tcollector]# python tcollector.py

4. opentsdb_test

1. 启动opentsdb,配置支持tsd.core.auto_create_metrics = true,启动hbase,启动tcollector。用浏览器打开,打开后如图

2. 测试

Metric:test1.test1.test1

测试程序：

[[email protected] opentsdb_test]# cat test2.py

import subprocess

import time

import logging

import random

 

logging.basicConfig(level=logging.DEBUG,filename="test.log")

def put_data(metric,value,**kw):

        t = int(time.time())

        cmd = "echo put %s %d %d host=test1 tag_k1=tag_v1 | nc -w 30 127.0.0.1 4242" %(metric,t,value)

        subp = subprocess.Popen(cmd,shell=True,stdout=subprocess.PIPE)

 

random.seed()

while(True):

        i = random.randint(1,100)

        time.sleep(1)

        put_data("test1.test1.test1",i)

        i += 1

监控结果如图：