设计行情系统


K线图的数据来源是交易引擎成交产生的一个个Tick。一个K线包括OHLC这4个价格数据。在一个时间段内,第一个Tick的价格是Open,最后一个Tick的价格是Close,最高的价格是High,最低的价格是Low:

给定一组Tick集合,就可以汇总成一个K线,对应一个Bar结构:

  1. public long startTime; // 开始时间
  2. public BigDecimal openPrice; // 开始价格
  3. public BigDecimal highPrice; // 最高价格
  4. public BigDecimal lowPrice; // 最低价格
  5. public BigDecimal closePrice; // 结束价格
  6. public BigDecimal quantity; // 成交数量
  7. }

通常我们需要按1秒、1分钟、1小时和1天来生成不同类型的K线,因此,行情系统的功能就是不断从消息系统中读取Tick,合并,然后输出不同类型的K线。

此外,API系统还需要提供查询公开市场信息的功能。对于最近的成交信息和K线图,可以缓存在Redis中,对于较早时期的K线图,可以通过数据库查询。因此,行情系统需要将生成的K线保存到数据库中,同时负责不断更新Redis的缓存。

对于最新成交信息,我们在Redis中用一个List表示,它的每一个元素是一个序列号后的JSON:

如果有新的Tick产生,就需要把它们追加到列表尾部,同时将最早的Tick删除,以便维护一个最近成交的列表。

直接读取Redis列表,操作后再写回Redis是可以的,但比较麻烦。这里我们直接用Lua脚本更新最新Tick列表。Redis支持将一个Lua脚本加载后,直接在Redis内部执行脚本:

  1. local KEY_LAST_SEQ = '_TickSeq_' -- 上次更新的SequenceID
  2. local LIST_RECENT_TICKS = KEYS[1] -- 最新TicksKey
  3. local seqId = ARGV[1] -- 输入的SequenceID
  4. local jsonData = ARGV[2] -- 输入的JSON字符串表示的tick数组:"["{...}","{...}",...]"
  5. local strData = ARGV[3] -- 输入的JSON字符串表示的tick数组:"[{...},{...},...]"
  6. -- 获取上次更新的sequenceId:
  7. local lastSeqId = redis.call('GET', KEY_LAST_SEQ)
  8. local ticks, len;
  9. if not lastSeqId or tonumber(seqId) > tonumber(lastSeqId) then
  10. -- 广播:
  11. redis.call('PUBLISH', 'notification', '{"type":"tick","sequenceId":' .. seqId .. ',"data":' .. jsonData .. '}')
  12. -- 保存当前sequence id:
  13. redis.call('SET', KEY_LAST_SEQ, seqId)
  14. -- 更新最新tick列表:
  15. ticks = cjson.decode(strData)
  16. len = redis.call('RPUSH', LIST_RECENT_TICKS, unpack(ticks))
  17. if len > 100 then
  18. -- 裁剪LIST以保存最新的100Tick:
  19. redis.call('LTRIM', LIST_RECENT_TICKS, len-100, len-1)
  20. end
  21. return true
  22. end
  23. -- 无更新返回false
  24. return false

在API中,要获取最新成交信息,我们直接从Redis缓存取出列表,然后拼接成一个JSON字符串:

用Lua脚本更新Redis缓存还有一个好处,就是Lua脚本执行的时候,不但可以更新List,还可以通过Publish命令广播事件,后续我们编写基于WebSocket的推送服务器时,直接监听Redis广播,就可以主动向浏览器推送Tick更新的事件。

类似的,针对每一种K线,我们都在Redis中用ZScoredSet存储,用K线的开始时间戳作为Score。更新K线时,从每种ZScoredSet中找出Score最大的Bar结构,就是最后一个Bar,然后尝试更新。如果可以持久化这个Bar就返回,如果可以合并这个Bar就刷新ZScoreSet,用Lua脚本实现如下:

  1. local function merge(existBar, newBar)
  2. existBar[4] = math.min(existBar[4], newBar[4]) -- 更新Low Price
  3. existBar[5] = newBar[5] -- close
  4. end
  5. local function tryMergeLast(barType, seqId, zsetBars, timestamp, newBar)
  6. local topic = 'notification'
  7. local popedScore, popedBar
  8. -- 查找最后一个Bar:
  9. local poped = redis.call('ZPOPMAX', zsetBars)
  10. if #poped == 0 then
  11. -- ZScoredSet无任何bar, 直接添加:
  12. redis.call('ZADD', zsetBars, timestamp, cjson.encode(newBar))
  13. redis.call('PUBLISH', topic, '{"type":"bar","resolution":"' .. barType .. '","sequenceId":' .. seqId .. ',"data":' .. cjson.encode(newBar) .. '}')
  14. else
  15. popedBar = cjson.decode(poped[1])
  16. popedScore = tonumber(poped[2])
  17. if popedScore == timestamp then
  18. -- 合并Bar并发送通知:
  19. merge(popedBar, newBar)
  20. redis.call('ZADD', zsetBars, popedScore, cjson.encode(popedBar))
  21. redis.call('PUBLISH', topic, '{"type":"bar","resolution":"' .. barType .. '","sequenceId":' .. seqId .. ',"data":' .. cjson.encode(popedBar) .. '}')
  22. else
  23. -- 可持久化最后一个Bar,生成新的Bar:
  24. if popedScore < timestamp then
  25. redis.call('ZADD', zsetBars, popedScore, cjson.encode(popedBar), timestamp, cjson.encode(newBar))
  26. redis.call('PUBLISH', topic, '{"type":"bar","resolution":"' .. barType .. '","sequenceId":' .. seqId .. ',"data":' .. cjson.encode(newBar) .. '}')
  27. return popedBar
  28. end
  29. end
  30. end
  31. return nil
  32. end
  33. local seqId = ARGV[1]
  34. local KEY_BAR_SEQ = '_BarSeq_'
  35. local zsetBars, topics, barTypeStartTimes
  36. local openPrice, highPrice, lowPrice, closePrice, quantity
  37. local seq = redis.call('GET', KEY_BAR_SEQ)
  38. if not seq or tonumber(seqId) > tonumber(seq) then
  39. zsetBars = { KEYS[1], KEYS[2], KEYS[3], KEYS[4] }
  40. barTypeStartTimes = { tonumber(ARGV[2]), tonumber(ARGV[3]), tonumber(ARGV[4]), tonumber(ARGV[5]) }
  41. openPrice = tonumber(ARGV[6])
  42. highPrice = tonumber(ARGV[7])
  43. lowPrice = tonumber(ARGV[8])
  44. closePrice = tonumber(ARGV[9])
  45. quantity = tonumber(ARGV[10])
  46. local i, bar
  47. local names = { 'SEC', 'MIN', 'HOUR', 'DAY' }
  48. -- 检查是否可以merge:
  49. for i = 1, 4 do
  50. bar = tryMergeLast(names[i], seqId, zsetBars[i], barTypeStartTimes[i], { barTypeStartTimes[i], openPrice, highPrice, lowPrice, closePrice, quantity })
  51. if bar then
  52. persistBars[names[i]] = bar
  53. end
  54. end
  55. redis.call('SET', KEY_BAR_SEQ, seqId)
  56. return cjson.encode(persistBars)
  57. end
  58. redis.log(redis.LOG_WARNING, 'sequence ignored: exist seq => ' .. seq .. ' >= ' .. seqId .. ' <= new seq')
  59. return '{}'

接下来我们编写QuotationService,初始化的时候加载Redis脚本,接收到Tick消息时调用脚本更新Tick和Bar,然后持久化Tick和Bar,代码如下:

K线是一组Bar按ZSet缓存在Redis中,Score就是Bar的开始时间。更新Bar时,同时广播通知,以便后续推送。要查询某种K线图,在API中,需要传入开始和结束的时间戳,通过命令返回排序后的List:

  1. String getBars(String key, long start, long end) {
  2. List<String> data = redisService.zrangebyscore(key, start, end);
  3. if (data == null || data.isEmpty()) {
  4. return "[]";
  5. }
  6. StringJoiner sj = new StringJoiner(",", "[", "]");
  7. for (String t : data) {
  8. sj.add(t);
  9. }
  10. return sj.toString();
  11. }

可以从或Gitee下载源码。

michaelliao ▸ ▸ /

)

▸ sql)

)

▤ docker-compose.yml)

)

▸ common)

)

▸ java/com/itranswarp/exchange)

)

▤ AuthToken.java)

)

▤ OrderBookItemBean.java)

)

▤ SimpleMatchDetailRecord.java)

)

▤ ValidatableBean.java)

)

▤ RestClient.java)

)

▤ ExchangeConfiguration.java)

)

▤ UserContext.java)

)

▤ AccessibleProperty.java)

)

▤ CriteriaQuery.java)

)

▤ From.java)

)

▤ Mapper.java)

)

▤ Select.java)

)

▸ enums)

)

▤ BarType.java)

)

▤ Direction.java)

)

▤ OrderStatus.java)

)

▸ message)

)

▤ AbstractEvent.java)

)

▤ OrderRequestEvent.java)

)

▤ AbstractMessage.java)

)

▤ NotificationMessage.java)

)

▸ messaging)

)

▤ MessageConsumer.java)

)

▤ MessageTypes.java)

)

▤ MessagingConfiguration.java)

)

▸ model)

)

▤ DayBarEntity.java)

)

▤ SecBarEntity.java)

)

▸ support)

)

▤ EntitySupport.java)

)

▤ ClearingEntity.java)

)

▤ MatchDetailEntity.java)

)

▤ TransferLogEntity.java)

)

▸ ui)

)

▤ PasswordAuthEntity.java)

)

▤ UserProfileEntity.java)

)

▤ RedisCache.java)

)

▤ RedisService.java)

)

▸ support)

)

▤ AbstractDbService.java)

)

▤ LoggerSupport.java)

)

▤ UserService.java)

)

▤ ByteUtil.java)

)

▤ HashUtil.java)

)

▤ IpUtil.java)

)

▤ RandomUtil.java)

)

▤ ApiErrorResponse.java)

)

▸ resources)

)

▤ update-bar.lua)

)

▤ update-recent-ticks.lua)

)

▤ pom.xml)

)

▸ src/main)

)

▤ ConfigApplication.java)

)

▤ application.yml)

)

▸ config-repo)

)

▤ application-test.yml)

)

▤ push.yml)

)

▤ trading-api.yml)

)

▤ trading-sequencer.yml)

)

▤ ui.yml)

)

▤ pom.xml)

)

▸ src/main)

)

▤ PushApplication.java)

)

▤ application.yml)

)

▸ quotation)

)

▸ java/com/itranswarp/exchange)

)

▤ QuotationService.java)

)

▸ resources)

)

▤ pom.xml)

)

▸ src/main)

)

▸ service)

)

▤ SendEventService.java)

)

▸ web)

)

▤ TradingApiController.java)

)

▤ ApiFilterRegistrationBean.java)

)

▸ resources)

)

▤ pom.xml)

)

▸ src)

)

▸ java/com/itranswarp/exchange)

)

▤ Asset.java)

)

▤ Transfer.java)

)

▤ ClearingService.java)

)

▤ MatchDetailRecord.java)

)

▤ MatchResult.java)

)

▤ OrderKey.java)

)

▤ OrderService.java)

)

▤ StoreService.java)

)

▤ InternalTradingEngineApiController.java)

)

▤ TradingEngineService.java)

)

▤ application.yml)

)

▸ assets)

)

▸ match)

)

▤ TradingEngineServiceTest.java)

)

▸ trading-sequencer)

)

▸ java/com/itranswarp/exchange)

)

▤ SequenceHandler.java)

)

▤ TradingSequencerApplication.java)

)

▤ application.yml)

)

▸ ui)

)

▸ java/com/itranswarp/exchange)

)

▸ resources)

)

▤ pom.xml)

)

▤ LICENSE)

)

行情系统是典型的少量写、大量读的模式,非常适合缓存。通过编写Lua脚本可使得更新Redis更加简单。