数据资产管理¶
在该版本中,我们在流数据处理、时序数据管理、数据资产检索、数据订阅、数据归档等服务中,新增了多项功能。详细信息如下:
流数据处理¶
StreamSets算子¶
新增了V0.0.4版本的StreamSets底层封装算子,包含资产主数据查询、历史数据查询、数据聚合、HTTP调用、自定义Python和JS脚本运行、任务调试等功能的算子。开发者可以基于业务需求开发定制化的流数据处理任务。
更多信息,参见 Calculator Library 0.0.4 参考文档 和 Developing with StreamSets Operators案例教程。
按功率计算电量模板¶
新增了按功率计算电量的流数据处理算法模板。若时间区间内的功率值较稳定,可配置按瞬时功率计算电量;若时间区间内的功率值较不稳定,可配置按平均功率计算电量。更多信息,参见 配置电量计算任务 和 电量计算逻辑。
时序数据管理¶
数据清理¶
新增了数据的清理功能。可清理存储在时序数据库(TSDB)和内存数据库(IMDB)中的指定模型、测点、和资产的历史数据和最新数据(不准确或业务不再需要的数据),以释放存储资源。
数据清理的使用方法如下:
更多信息,参见 数据清理。
时序洞察支持数据下载¶
在时序洞察页面,新增了数据下载功能。通过数据洞察功能的折线图或数据列表查看数据后,若观察到数据异常,可下载当前浏览的数据进行线下异常分析。更多信息,参见 生成时序数据图表。
数据资产检索¶
新增了数据资产元数据的检索和管理功能,实现对OU内的数据资产,包括测点、资产、Hive表、服务、文件等资产元数据的快速查询,并且可使用tag模板对数据资产进行快速打标,提升数据资产管理效率。
有关数据资产检索的更多信息,参见 数据资产检索。
数据订阅¶
订阅任务运行监控¶
增加了对数据订阅任务运行情况的监控功能。当线下使用数据订阅服务进行应用开发,在调试过程中出现问题,比如未获取到订阅数据时,可使用订阅任务运行监控排查异常情况。当应用上线运行过程中出现数据消费故障,比如数据断流、数据消费缓慢等情况时,可使用运行监控排查问题。
订阅任务运行监控的使用方法如下:
更多信息,参见 消费订阅数据。
离线数据订阅¶
新增了订阅来自离线通道的时序数据的功能。在通过应用对关键数据进行自行存储和分析时,需要同时订阅实时通道和离线通道上送的时序数据。在配置时序数据数据订阅任务时,选择 离线通道 消息通道,即可订阅来自离线通道的数据。更多信息,参见 开发数据订阅任务。
消费已订阅的离线通道数据时,需要使用2.4.1版数据订阅SDK。更多信息,参见 数据订阅SDK参考。
资产树标签条件过滤告警数据订阅¶
支持配置告警数据订阅任务时,配置资产树标签过滤条件,仅订阅指定资产树相关的告警数据。更多信息,参见 开发数据订阅任务。
数据归档¶
新增了归档数据限流功能。通过 资源管理 申请的数据归档资源规格直接影响所有运行中的数据归档任务每秒可归档的数据条数。你可根据实际业务需求,申请不同规格的资源。
新增了归档实时告警记录的功能,其功能特点如下:
支持归档历史告警记录和当前告警记录
支持归档告警记录中的指定字段
新增了对接离线消息通道,支持归档通过离线消息通道集成的离线数据。在新建数据归档任务时,选择 离线消息通道,即可配置离线数据归档任务。
新增了HDFS存储资源类型,支持将归档文件写入HDFS。使用HDFS资源类型,需提前通过资源管理申请文件存储HDFS资源。
更多信息,参见 数据归档。