本地高性能数据工作的原生湖屋 SQL 引擎
DeltaForge 平台运行一个本地 SQL 引擎,可以在单台机器上读取和写入 Delta Lake 和 Apache Iceberg 文件,提供笔记本电脑上的湖屋体验。DeltaForge 是来自 DeltaForge 的一个专注于 Windows 的实用工具,将 SQL 查询、图形分析、地理空间索引和数据血缘整合为一个过程。它的目标用户是需要数据主权和较低运营开销的数据工程师和分析师,特别是在运行完整集群或基于 JVM 的运行时不切实际的环境中。平台的功能及其如何替代集群堆栈
该平台为 Delta Lake 和 Apache Iceberg 格式实现了原生 SQL 引擎,消除了对 Spark 的依赖和 JVM 运行时。它直接在本地存储上执行 SQL 操作,如 MERGE、时间旅行和删除向量,并在同一过程中提供图算法和 H3 地理空间功能。这种设计通过将查询、图形和地理空间工作负载整合到在 Windows 主机上运行的单个可执行文件中,取代了多服务湖屋部署。
它在本地运行时对系统资源的影响
通过避免使用 Spark 和 JVM,该平台减少了与基于集群的堆栈相关的内存和计算开销,从而降低了所谓的集群税。原生进程模型旨在用于桌面、私有云或数据中心的单实例或自托管部署。该架构使资源使用依赖于主机硬件,因此性能随着本地 CPU、磁盘 I/O 和可用 RAM 的增加而扩展,而不是远程集群的容量。
安全性、数据正确性和验证机制
数据正确性通过一个独立的验证层来解决,该层针对 Apache Spark 结果运行双向一致性检查,提供算术匹配验证。该平台还直接从 SQL 文件中推导内置数据血缘,因此可以追溯到生成它们的 SQL。这些行为为源头和确定性结果重要的环境提供了审计能力。
操作复杂性及谁可以操作它
该平台通过 winget、Chocolatey 或 MSI 在 Windows 上安装,也可以作为 Docker 容器和通过 Azure 市场映像提供。这一系列部署选项支持本地桌面使用和自托管企业安装。该工具面向工程师和分析师;它将多个工作负载整合到单个进程中,减少了分布式系统管理,但用户应该具备存储格式和主机资源规划的经验,以获得可预测的结果。
需要自托管湖屋的工程师的实用建议
DeltaForge 平台适合需要对 Delta 和 Iceberg 数据进行本地控制的团队,并希望避免维护集群。性能与您的机器相关:在转向生产之前,在代表性硬件上测试大型工作负载。推荐。使用单独的测试数据集,并在将关键管道切换到平台之前,针对 Spark 基准运行验证检查。