干货丨如何使用时序数据库快速计算买方或卖方驱动交易

给定高频交易数据以及报价数据,如何判断每笔交易是由买方驱动或是卖方驱动,是进行高频交易数据分析经常需要处理的问题。本文将介绍如何使用DolphinDB快速计算每笔交易的驱动方,只需不到2秒钟即可对美国一天的level 1的高频交易数据进行计算并存入数据库。本文使用了非同时连接(asof join)以及map-reduce。

本文用到的数据是含有逐笔交易的交易表trade和买卖报价表nbbo。它们分别包含以下字段:

trade

Symbol:股票代码

Time:时间

Trade_Volume:交易量

Trade_Price:交易价格

nbbo

Symbol:股票代码

Time:时间

Bid_Price:买方报价

Offer_Price:卖方报价

本文用到的数据都是从纽约证券交易所网站获取,可以从NYSE的ftp下载。下载EQY_US_ALL_TRADE_20161024.gz和EQY_US_ALL_NBBO_20161024.gz两个文件,然后把它们解压,保存在/home/DolphinDB/Data目录下,把两个文件的最后一行删除,因为最后一行是用来标记文件结尾的。

sed -i '$ d' EQY_US_ALL_TRADE_20161024
sed -i '$ d' EQY_US_ALL_NBBO_20161024
复制代码

在DolphinDB中执行以下脚本,把数据导入到 DolphinDB database 中。本教程使用的是分布式数据库,如果想使用内存数据库,只需把dbPath修改为"",若要使用本地磁盘数据库,只需把dbPath修改为磁盘目录,比如“/home/DolphinDB/Data/EQY”。

DATA_DIR = "/home/DolphinDB/Data"
login("admin","123456")
dbPath= "dfs://EQY"
db = database(dbPath, SEQ, 16)

trade = loadTextEx(db, `trade, DATA_DIR + "/EQY_US_ALL_TRADE_20161024",'|')
nbbo = loadTextEx(db, `nbbo, DATA_DIR + "/EQY_US_ALL_NBBO_20161024",'|')
复制代码

把分布式表加载到内存中:

db=database(dbPath);
trade = db.loadTable("trade")
nbbo = db.loadTable("nbbo")
复制代码

通过map-reduce分布式计算框架,把结果保存至分布式表中。分布式表的数据在物理上分布在不同的节点,通过DolphinDB的分布式引擎,可以做统一查询。

创建分布式表trade_side,用于保存计算结果。用于保存结果的表除了包含trade表中的字段,还包含Bid_Price、Offer_Price和Side字段。

model=select top 1 * from trade
model[`Bid_Price]=0.0
model[`Offer_Price]=0.0
model[`Side]='B'
if(existsTable(dbPath, "trade_side"))
    db.dropTable("trade_side")
db.createPartitionedTable(model, "trade_side", "Symbol")
复制代码

判断每笔交易由买方或卖方驱动,我们定义的算法如下:如果交易价格小于买卖报价的平均价格,交易为卖方驱动,把Side设置为'S';如果交易价格大于买卖报价的平均价格,交易为买方驱动,把Side设置为'B'。如果买方报价等于买卖报价的平均价格,则把Side设置为NULL。

def saveTradeSide(t){
    update t set Side = iif(Trade_Price<(Bid_Price + Offer_Price)*0.5, 'S',iif(Trade_Price>(Bid_Price + Offer_Price)*0.5, 'B',char()))
    update t set Side = NULL where Bid_Price >= Offer_Price or Bid_Price <= 0
    loadTable("dfs://EQY", "trade_side").append!(t)
    return t.size()
}
复制代码

iif(condition, x, y)

:iif是条件运算符。condition是条件向量,如果condition[i]为true,则返回x[i],否则返回y[i]。

以下代码连接交易表trades和买卖报价表nbbo,sqlDS函数会根据输入的SQL元代码创建数据源。通过map-reduce函数mr把saveTradeSide应用到各个数据源。

ds = sqlDS(