Documentation

InfluxDB 3 存储引擎架构

InfluxDB 3 存储引擎是一个优化用于时间序列数据的实时列式数据库,基于 Rust 构建于 Apache ArrowDataFusion 之上。它支持无限标签基数(独特标签值的数量)、实时查询,并且经过优化以降低存储成本。

存储引擎图

IngesterRouterQuerierObject StorageTime series data stored inApache Parquet formatCatalogRelational metadataserviceCompactorQuery yet-to-be-persisted dataWALShort-termpersistenceWrite requestsQuery requestsGarbage Collector

存储引擎组件

路由器

路由器(也称为摄取路由器)解析传入的行协议,然后将其路由到 摄取器。为了确保写入持久性,路由器将数据复制到两个或更多可用的摄取器。

路由器扩展策略

路由器可以进行垂直水平扩展。水平扩展增加写入吞吐量,通常是路由器最有效的扩展策略。垂直扩展(特别是增加CPU)提高了路由器以更低延迟解析传入线路协议的能力。

引入器

Ingester处理在写入请求中提交的行协议,并将时间序列数据持久化到对象存储中。 在此过程中,Ingester执行以下操作:

  • 查询目录以确定数据应该被持久化的位置,并确保行协议的模式与持久化数据的模式兼容。
  • 接受或 拒绝 写入请求中的点并生成一个 响应
  • 处理行协议并将时间序列数据以 对象存储的Apache Parquet格式持久化。每个Parquet文件 代表一个分区——数据的逻辑分组。
  • 使 yet-to-be-persisted 数据可用于 Queriers,以确保查询结果中包含最新的数据。
  • 维护一个短期写前日志 (WAL)以防止在服务中断的情况下数据丢失。
数据汇入器扩展策略

Ingester 可以同时进行 垂直水平 扩展。水平扩展可以提高写入吞吐量,通常是 Ingester 最有效的扩展策略。

查询器

查询器处理查询请求并返回请求的查询结果。 它通过 Apache Arrow DataFusion支持 SQL 和 InfluxQL。

查询生命周期

在查询时,查询者:

  1. 接收查询请求并构建查询计划。

  2. 查询Ingesters以:

    • 确保查询计划假设的架构与写入数据的架构匹配
    • 在查询结果中包含最近写入的,尚未持久化数据
  3. 查询目录以查找包含查询数据的对象存储中的分区。

  4. 读取包含查询数据的分区Parquet文件,并扫描每一行以筛选与查询计划中的谓词匹配的数据。

  5. 执行查询计划中指定的任何附加操作(例如:去重、合并和排序)。

  6. 将查询结果返回给客户端。

查询器扩展策略

查询器可以在垂直水平上进行扩展。水平扩展增加了查询吞吐量,以处理更多的并发查询。垂直扩展提高了查询器处理计算密集型查询的能力。

目录

目录是一个与PostgreSQL兼容的关系数据库,存储与您的时间序列数据相关的元数据,包括模式信息和对象存储中分区的物理位置。它履行以下角色:

  • 提供有关书写数据的模式的信息。
  • 告诉Ingester将数据持久化到哪些分区。
  • 告诉查询者哪些分区包含查询的数据。
目录扩展策略

可用于目录的扩展策略取决于用于运行目录的PostgreSQL兼容数据库。所有支持 垂直扩展。大多数支持 水平扩展 以实现冗余和故障转移。

对象存储

对象存储包含以 Apache Parquet 格式的时间序列数据。 每个 Parquet 文件代表一个分区。 默认情况下,InfluxDB 按天对表进行分区,但您可以 自定义分区策略。 每个 Parquet 文件中的数据是排序的、编码的和压缩的。

对象存储扩展策略

对象存储的可用扩展策略依赖于运行对象存储所使用的基础对象存储服务。 大多数支持 水平扩展 以实现冗余、故障切换和增加容量。

压实机

压缩器处理并压缩对象存储中的分区,以不断优化存储。然后,它更新目录,以显示压缩数据的位置。

压实机缩放策略

压实器既可以 垂直 扩展,也可以 横向 扩展。因为压实是一个计算密集型的过程,所以垂直扩展(特别是增加可用的CPU)是压实器最有效的扩展策略。横向扩展增加压实吞吐量,但效率不如垂直扩展。

垃圾收集器

垃圾回收器运行后台任务,驱逐过期或已删除的数据,移除过时的压缩文件,并在目录对象存储中回收空间。

垃圾收集器扩展策略

垃圾收集器并不适用于分布式负载,应该进行水平扩展。垃圾收集器并不执行 CPU 或内存密集型工作,所以只有在观察到非常高的 CPU 使用率或容器经常耗尽内存时,才应该考虑垂直扩展


扩展策略

以下缩放策略可应用于InfluxDB 3存储架构的组件。

有关扩展您的 InfluxDB Cloud Dedicated 基础设施的信息, 联系 InfluxData 支持

垂直扩展

垂直扩展(也称为“向上扩展”)涉及增加可用于进程或系统的资源(例如RAM或CPU)。垂直扩展通常用于处理需要更多处理能力的资源密集型任务。

水平扩展

横向扩展(也称为“扩展”)涉及增加可用于执行特定任务的节点或进程的数量。横向扩展通常用于增加系统可以管理的工作负载或吞吐量,但也提供额外的冗余和故障转移。



Flux的未来

Flux 正在进入维护模式。您可以像现在一样继续使用它,而无需对您的代码进行任何更改。

阅读更多

InfluxDB 3 开源版本现已公开Alpha测试

InfluxDB 3 Open Source is now available for alpha testing, licensed under MIT or Apache 2 licensing.

我们将发布两个产品作为测试版的一部分。

InfluxDB 3 核心,是我们新的开源产品。 它是一个用于时间序列和事件数据的实时数据引擎。 InfluxDB 3 企业版是建立在核心基础之上的商业版本,增加了历史查询能力、读取副本、高可用性、可扩展性和细粒度安全性。

有关如何开始的更多信息,请查看: