Apache IoTDB开发系统之Java 原生接口
安装
依赖
- JDK >= 1.8
- Maven >= 3.6
安装方法
在根目录下运行:
mvn clean install -pl session -am -Dmaven.test.skip=true
在 MAVEN 中使用原生接口
<dependencies>
<dependency>
<groupId>org.apache.iotdb</groupId>
<artifactId>iotdb-session</artifactId>
<version>0.13.0-SNAPSHOT</version>
</dependency>
</dependencies>
语法说明
- 对于 IoTDB-SQL 接口:传入的 SQL 参数需要符合 语法规范 ,并且针对 JAVA 字符串进行反转义,如双引号前需要加反斜杠。(即:经 JAVA 转义之后与命令行执行的 SQL 语句一致。)
- 对于其他接口:
- 经参数传入的路径或路径前缀中的节点:
- 在 SQL 语句中需要使用反引号(`)进行转义的,此处均不需要进行转义。
- 使用单引号或双引号括起的节点,仍需要使用单引号或双引号括起,并且要针对 JAVA 字符串进行反转义。
- 对于 接口,由于内部调用了 IoTDB-SQL 接口,因此需要和 SQL 语法规范保持一致,并且针对 JAVA 字符串进行反转义。
checkTimeseriesExists
- 经参数传入的标识符(如模板名):在 SQL 语句中需要使用反引号(`)进行转义的,此处均不需要进行转义。
- 经参数传入的路径或路径前缀中的节点:
基本接口说明
下面将给出 Session 对应的接口的简要介绍和对应参数:
初始化
- 初始化 Session
// 全部使用默认配置
session = new Session.Builder.build();
// 指定一个可连接节点
session =
new Session.Builder()
.host(String host)
.port(int port)
.build();
// 指定多个可连接节点
session =
new Session.Builder()
.nodeUrls(List<String> nodeUrls)
.build();
// 其他配置项
session =
new Session.Builder()
.fetchSize(int fetchSize)
.username(String username)
.password(String password)
.thriftDefaultBufferSize(int thriftDefaultBufferSize)
.thriftMaxFrameSize(int thriftMaxFrameSize)
.enableCacheLeader(boolean enableCacheLeader)
.version(Version version)
.build();
其中,version 表示客户端使用的 SQL 语义版本,用于升级 0.13 时兼容 0.12 的 SQL 语义,可能取值有:、。V_0_12
V_0_13
- 开启 Session
void open()
- 开启 Session,并决定是否开启 RPC 压缩
void open(boolean enableRPCCompression)
注意: 客户端的 RPC 压缩开启状态需和服务端一致
- 关闭 Session
void close()
数据定义接口 DDL
存储组管理
- 设置存储组
void setStorageGroup(String storageGroupId)
- 删除单个或多个存储组
void deleteStorageGroup(String storageGroup)
void deleteStorageGroups(List<String> storageGroups)
时间序列管理
- 创建单个或多个时间序列
void createTimeseries(String path, TSDataType dataType,
TSEncoding encoding, CompressionType compressor, Map<String, String> props,
Map<String, String> tags, Map<String, String> attributes, String measurementAlias)
void createMultiTimeseries(List<String> paths, List<TSDataType> dataTypes,
List<TSEncoding> encodings, List<CompressionType> compressors,
List<Map<String, String>> propsList, List<Map<String, String>> tagsList,
List<Map<String, String>> attributesList, List<String> measurementAliasList)
- 创建对齐时间序列
void createAlignedTimeseries(String prefixPath, List<String> measurements,
List<TSDataType> dataTypes, List<TSEncoding> encodings,
CompressionType compressor, List<String> measurementAliasList);
注意:目前暂不支持使用传感器别名。
- 删除一个或多个时间序列
void deleteTimeseries(String path)
void deleteTimeseries(List<String> paths)
- 检测时间序列是否存在
boolean checkTimeseriesExists(String path)
元数据模版
- 创建元数据模板,可以通过先后创建、的对象,描述模板内物理量结构与类型、编码方式、压缩方式等信息,并通过以下接口创建模板
Template
MeasurementNode
public void createSchemaTemplate(Template template);
Class Template {
private String name;
private boolean directShareTime;
Map<String, Node> children;
public Template(String name, boolean isShareTime);
public void addToTemplate(Node node);
public void deleteFromTemplate(String name);
public void setShareTime(boolean shareTime);
}
Abstract Class Node {
private String name;
public void addChild(Node node);
public void deleteChild(Node node);
}
Class MeasurementNode extends Node {
TSDataType dataType;
TSEncoding encoding;
CompressionType compressor;
public MeasurementNode(String name,
TSDataType dataType,
TSEncoding encoding,
CompressionType compressor);
}
通过上述类的实例描述模板时,内应当仅能包含单层的,具体可以参见如下示例:Template
MeasurementNode
MeasurementNode nodeX = new MeasurementNode("x", TSDataType.FLOAT, TSEncoding.RLE, CompressionType.SNAPPY);
MeasurementNode nodeY = new MeasurementNode("y", TSDataType.FLOAT, TSEncoding.RLE, CompressionType.SNAPPY);
MeasurementNode nodeSpeed = new MeasurementNode("speed", TSDataType.DOUBLE, TSEncoding.GORILLA, CompressionType.SNAPPY);
// This is the template we suggest to implement
Template flatTemplate = new Template("flatTemplate");
template.addToTemplate(nodeX);
template.addToTemplate(nodeY);
template.addToTemplate(nodeSpeed);
createSchemaTemplate(flatTemplate);
- 在创建概念元数据模板以后,还可以通过以下接口增加或删除模板内的物理量。请注意,已经挂载的模板不能删除内部的物理量。
// 为指定模板新增一组对齐的物理量,若其父节点在模板中已经存在,且不要求对齐,则报错
public void addAlignedMeasurementsInTemplate(String templateName,
String[] measurementsPath,
TSDataType[] dataTypes,
TSEncoding[] encodings,
CompressionType[] compressors);
// 为指定模板新增一个对齐物理量, 若其父节点在模板中已经存在,且不要求对齐,则报错
public void addAlignedMeasurementInTemplate(String templateName,
String measurementPath,
TSDataType dataType,
TSEncoding encoding,
CompressionType compressor);
// 为指定模板新增一个不对齐物理量, 若其父节在模板中已经存在,且要求对齐,则报错
public void addUnalignedMeasurementInTemplate(String templateName,
String measurementPath,
TSDataType dataType,
TSEncoding encoding,
CompressionType compressor);
// 为指定模板新增一组不对齐的物理量, 若其父节在模板中已经存在,且要求对齐,则报错
public void addUnalignedMeasurementsIntemplate(String templateName,
String[] measurementPaths,
TSDataType[] dataTypes,
TSEncoding[] encodings,
CompressionType[] compressors);
// 从指定模板中删除一个节点
public void deleteNodeInTemplate(String templateName, String path);
- 对于已经创建的元数据模板,还可以通过以下接口查询模板信息:
// 查询返回目前模板中所有物理量的数量
public int countMeasurementsInTemplate(String templateName);
// 检查模板内指定路径是否为物理量
public boolean isMeasurementInTemplate(String templateName, String path);
// 检查在指定模板内是否存在某路径
public boolean isPathExistInTemplate(String templateName, String path);
// 返回指定模板内所有物理量的路径
public List<String> showMeasurementsInTemplate(String templateName);
// 返回指定模板内某前缀路径下的所有物理量的路径
public List<String> showMeasurementsInTemplate(String templateName, String pattern);
- 将名为的元数据模板挂载到’prefixPath’路径下,在执行这一步之前,你需要创建名为的元数据模板
templateName
templateName
- 请注意,我们强烈建议您将模板设置在存储组或存储组下层的节点中,以更好地适配未来版本更新及各模块的协作
void setSchemaTemplate(String templateName, String prefixPath)
- 将模板挂载到 MTree 上之后,你可以随时查询所有模板的名称、某模板被设置到 MTree 的所有路径、所有正在使用某模板的所有路径,即如下接口:
/** @return All template names. */
public List<String> showAllTemplates();
/** @return All paths have been set to designated template. */
public List<String> showPathsTemplateSetOn(String templateName);
/** @return All paths are using designated template. */
public List<String> showPathsTemplateUsingOn(String templateName)
- 如果你需要删除某一个模板,请确保在进行删除之前,MTree 上已经没有节点被挂载了模板,对于已经被挂载模板的节点,可以用如下接口卸载模板;
void unsetSchemaTemplate(String prefixPath, String templateName);
public void dropSchemaTemplate(String templateName);
- 请注意,如果一个子树中有多个孩子节点需要使用模板,可以在其共同父母节点上使用 。而只有在已有数据点插入模板对应的物理量,或使用以下接口激活模板,模板才会被设置为激活状态,进而被 等查询访问到。
setSchemaTemplate
show timeseries
public void createTimeseriesOfTemplateOnPath(String path);
- 卸载’prefixPath’路径下的名为的元数据模板。你需要保证给定的路径下需要有名为的元数据模板。
templateName
prefixPath
templateName
- 如果在挂载模板后,曾经在路径及其后代节点使用模板插入数据后,或者使用了激活模板命令,那么在卸载模板之前,还要对所有已激活模板的节点使用以下接口解除模板:
prefixPath
public void deactivateTemplateOn(String templateName, String prefixPath);
- 以上解除模板接口中,参数如果含有通配符(或)则按 PathPattern 匹配目标路径,否则仅表达其字面量对应的路径。
prefixPath
*
**
- 解除模板接口会删除对应节点按照模板中的序列写入的数据。
数据操作接口 DML
数据写入
推荐使用 insertTablet 帮助提高写入效率
- 插入一个 Tablet,Tablet 是一个设备若干行数据块,每一行的列都相同
- 写入效率高
- 支持写入空值:空值处可以填入任意值,然后通过 BitMap 标记空值
复制代码
void insertTablet(Tablet tablet)
public class Tablet {
/** deviceId of this tablet */
public String prefixPath;
/** the list of measurement schemas for creating the tablet */
private List<MeasurementSchema> schemas;
/** timestamps in this tablet */
public long[] timestamps;
/** each object is a primitive type array, which represents values of one measurement */
public Object[] values;
/** each bitmap represents the existence of each value in the current column. */
public BitMap[] bitMaps;
/** the number of rows to include in this tablet */
public int rowSize;
/** the maximum number of rows for this tablet */
private int maxRowNumber;
/** whether this tablet store data of aligned timeseries or not */
private boolean isAligned;
}
- 插入多个 Tablet
void insertTablets(Map<String, Tablet> tablets)
- 插入一个 Record,一个 Record 是一个设备一个时间戳下多个测点的数据。这里的 value 是 Object 类型,相当于提供了一个公用接口,后面可以通过 TSDataType 将 value 强转为原类型
void insertRecord(String prefixPath, long time, List<String> measurements,
List<TSDataType> types, List<Object> values)
- 插入多个 Record
void insertRecords(List<String> deviceIds,
List<Long> times,
List<List<String>> measurementsList,
List<List<TSDataType>> typesList,
List<List<Object>> valuesList)
- 插入同属于一个 device 的多个 Record
void insertRecordsOfOneDevice(String deviceId, List<Long> times,
List<List<String>> measurementsList, List<List<TSDataType>> typesList,
List<List<Object>> valuesList)
带有类型推断的写入
当数据均是 String 类型时,我们可以使用如下接口,根据 value 的值进行类型推断。例如:value 为 “true” ,就可以自动推断为布尔类型。value 为 “3.2” ,就可以自动推断为数值类型。服务器需要做类型推断,可能会有额外耗时,速度较无需类型推断的写入慢
- 插入一个 Record,一个 Record 是一个设备一个时间戳下多个测点的数据
void insertRecord(String prefixPath, long time, List<String> measurements, List<String> values)
- 插入多个 Record
void insertRecords(List<String> deviceIds, List<Long> times,
List<List<String>> measurementsList, List<List<String>> valuesList)
- 插入同属于一个 device 的多个 Record
void insertStringRecordsOfOneDevice(String deviceId, List<Long> times,
List<List<String>> measurementsList, List<List<String>> valuesList)
对齐时间序列的写入
对齐时间序列的写入使用 insertAlignedXXX 接口,其余与上述接口类似:
- insertAlignedRecord
- insertAlignedRecords
- insertAlignedRecordsOfOneDevice
- insertAlignedStringRecordsOfOneDevice
- insertAlignedTablet
- insertAlignedTablets
数据删除
- 删除一个或多个时间序列在某个时间点前或这个时间点的数据
void deleteData(String path, long endTime)
void deleteData(List<String> paths, long endTime)
数据查询
- 原始数据查询。时间间隔包含开始时间,不包含结束时间
SessionDataSet executeRawDataQuery(List<String> paths, long startTime, long endTime)
- 查询最后一条时间戳大于等于某个时间点的数据
SessionDataSet executeLastDataQuery(List<String> paths, long LastTime)
IoTDB-SQL 接口
- 执行查询语句
SessionDataSet executeQueryStatement(String sql)
- 执行非查询语句
void executeNonQueryStatement(String sql)
写入测试接口 (用于分析网络带宽)
不实际写入数据,只将数据传输到 server 即返回
- 测试 insertRecord
void testInsertRecord(String deviceId, long time, List<String> measurements, List<String> values)
void testInsertRecord(String deviceId, long time, List<String> measurements,
List<TSDataType> types, List<Object> values)
- 测试 testInsertRecords
void testInsertRecords(List<String> deviceIds, List<Long> times,
List<List<String>> measurementsList, List<List<String>> valuesList)
void testInsertRecords(List<String> deviceIds, List<Long> times,
List<List<String>> measurementsList, List<List<TSDataType>> typesList,
List<List<Object>> valuesList)
- 测试 insertTablet
void testInsertTablet(Tablet tablet)
- 测试 insertTablets
void testInsertTablets(Map<String, Tablet> tablets)
示例代码
浏览上述接口的详细信息,请参阅代码 session/src/main/java/org/apache/iotdb/session/Session.java
使用上述接口的示例代码在 example/session/src/main/java/org/apache/iotdb/SessionExample.java
使用对齐时间序列和元数据模板的示例可以参见 example/session/src/main/java/org/apache/iotdb/AlignedTimeseriesSessionExample.java
针对原生接口的连接池
我们提供了一个针对原生接口的连接池 (),使用该接口时,你只需要指定连接池的大小,就可以在使用时从池中获取连接。 如果超过 60s 都没得到一个连接的话,那么会打印一条警告日志,但是程序仍将继续等待。SessionPool
当一个连接被用完后,他会自动返回池中等待下次被使用; 当一个连接损坏后,他会从池中被删除,并重建一个连接重新执行用户的操作; 你还可以像创建 Session 那样在创建 SessionPool 时指定多个可连接节点的 url,以保证分布式集群中客户端的高可用性。
对于查询操作:
- 使用 SessionPool 进行查询时,得到的结果集是的封装类
SessionDataSet
SessionDataSetWrapper
; - 若对于一个查询的结果集,用户并没有遍历完且不再想继续遍历时,需要手动调用释放连接的操作
closeResultSet
; - 若对一个查询的结果集遍历时出现异常,也需要手动调用释放连接的操作.
closeResultSet
- 可以调用 的 方法得到结果集列名
SessionDataSetWrapper
getColumnNames()
使用示例可以参见 session/src/test/java/org/apache/iotdb/session/pool/SessionPoolTest.java
或 example/session/src/main/java/org/apache/iotdb/SessionPoolExample.java
集群信息相关的接口 (仅在集群模式下可用)
集群信息相关的接口允许用户获取如数据分区情况、节点是否当机等信息。 要使用该 API,需要增加依赖:
<dependencies>
<dependency>
<groupId>org.apache.iotdb</groupId>
<artifactId>iotdb-thrift-cluster</artifactId>
<version>0.13.0-SNAPSHOT</version>
</dependency>
</dependencies>
建立连接与关闭连接的示例:
import org.apache.thrift.protocol.TBinaryProtocol;
import org.apache.thrift.transport.TSocket;
import org.apache.thrift.transport.TTransport;
import org.apache.thrift.transport.TTransportException;
import org.apache.iotdb.rpc.RpcTransportFactory;
public class CluserInfoClient {
TTransport transport;
ClusterInfoService.Client client;
public void connect() {
transport =
RpcTransportFactory.INSTANCE.getTransport(
new TSocket(
// the RPC address
IoTDBDescriptor.getInstance().getConfig().getRpcAddress(),
// the RPC port
ClusterDescriptor.getInstance().getConfig().getClusterRpcPort()));
try {
transport.open();
} catch (TTransportException e) {
Assert.fail(e.getMessage());
}
//get the client
client = new ClusterInfoService.Client(new TBinaryProtocol(transport));
}
public void close() {
transport.close();
}
}
API 列表:
- 获取集群中的各个节点的信息(构成哈希环)
list<Node> getRing();
- 给定一个路径(应包括一个 SG 作为前缀)和起止时间,获取其覆盖的数据分区情况:
/**
* @param path input path (should contains a Storage group name as its prefix)
* @return the data partition info. If the time range only covers one data partition, the the size
* of the list is one.
*/
list<DataPartitionEntry> getDataPartition(1:string path, 2:long startTime, 3:long endTime);
- 给定一个路径(应包括一个 SG 作为前缀),获取其被分到了哪个节点上:
/**
* @param path input path (should contains a Storage group name as its prefix)
* @return metadata partition information
*/
list<Node> getMetaPartition(1:string path);
- 获取所有节点的死活状态:
/**
* @return key: node, value: live or not
*/
map<Node, bool> getAllNodeStatus();
- 获取当前连接节点的 Raft 组信息(投票编号等)(一般用户无需使用该接口):
/**
* @return A multi-line string with each line representing the total time consumption, invocation
* number, and average time consumption.
*/
string getInstrumentingInfo();
- 点赞
- 收藏
- 关注作者
评论(0)