当前位置: 首页 > news >正文

Databend 开源周报第 104 期

Databend 是一款现代云数仓。专为弹性和高效设计,为您的大规模分析需求保驾护航。自由且开源。即刻体验云服务:https://app.databend.cn 。

What's On In Databend

探索 Databend 本周新进展,遇到更贴近你心意的 Databend 。

从 Kafka 载入数据

Apache Kafka 是一款开源的高性能、分布式消息队列,为处理实时数据提供了一个统一、高吞吐量、低时延的平台。

Databend 设计并实现了高性能的数据摄入工具 bend-ingest-kafka ,专门用于将来自 Kafka 的数据载入到 Databend 中,可以简化数据摄取工作流程。

如果您想了解更多信息,请查看下面列出的资源。

  • Docs | Loading Data with Tools - Kafka

从 dbt 载入数据

dbt 是一种数据转换工作流,可以帮助你完成更多数据处理工作,同时产生更高质量的结果。

dbt-databend-cloud 是由 Databend 开发的 dbt 插件。通过使用此插件,你可以轻松使用 dbt 执行数据建模、转换和清洗任务,并方便地将输出结果载入到 Databend 中。

如果您想了解更多信息,请查看下面列出的资源。

  • Docs | Loading Data with Tools - dbt

Code Corner

一起来探索 Databend 和周边生态中的代码片段或项目。

使用 Node.js 连接 Databend

Databend 为 Databend Driver 提供了 Node.js 绑定,现在你可以使用 Node.js 轻松构建与 Databend 集成的应用程序。

const { Client } = require('databend-driver');const dsn = process.env.DATABEND_DSN? process.env.DATABEND_DSN: "databend://user1:abc123@localhost:8000/default?sslmode=disable";async function create_conn() {this.client = new Client(dsn);this.conn = await this.client.getConn();console.log('Connected to Databend Server!');
}async function select_books() {var sql = "CREATE TABLE IF NOT EXISTS books(title VARCHAR, author VARCHAR, date VARCHAR)";await this.conn.exec(sql);console.log("Table created");var sql = "INSERT INTO books VALUES('Readings in Database Systems', 'Michael Stonebraker', '2004')";await this.conn.exec(sql);console.log("1 record inserted");var sql = "SELECT * FROM books";const rows = await this.conn.queryIter(sql);const ret = [];let row = await rows.next();while (row) {ret.push(row.values());row = await rows.next();}console.log(ret);
}create_conn().then(conn => {select_books()
});

如果你想要了解更多信息,请查看下面列出的资源。

  • Docs | Developing with Databend using Node.js
  • GitHub | Databend Driver Node.js Binding

Highlights

以下是一些值得注意的事件,也许您可以找到感兴趣的内容。

  • 支持 GROUP BY ALL 语法。
  • 利用物化加速 CTE 。
  • 新增地理位置函数:h3_to_geoh3_to_geo_boundary、 h3_k_ringh3_is_validh3_get_resolutionh3_edge_length_m 以及 h3_edge_length_km 。
  • 新增数组 lambda 函数:array_transformarray_apply 以及 array_filter 。

What's Up Next

我们始终对前沿技术和创新理念持开放态度,欢迎您加入社区,为 Databend 注入活力。

支持 Stage 间的文件复制

Databend 现在能够为十多种不同的存储服务提供数据分析能力。我们可以基于此进一步提供数据管理和迁移功能,比如支持将文件从一个 Stage 复制到另一个 Stage。

copy files from @mystage1/path/ to @mystage2;
copy files from @mystage1/path/f1.csv to @mystage2/archive/[f1.csv];

Issue #12200 | Feature: support copy files from one stage to other stage

如果你对这个主题感兴趣,可以尝试解决其中的部分问题或者参与讨论和 PR review 。或者,你可以点击 servcices/supabase: Tracking issues of not fixed issues at storage-api side · Issue #2199 · apache/incubator-opendal · GitHub 来挑选一个随机问题,祝好运!

Changelog

前往查看 Databend 每日构建的变更日志,以了解开发的最新动态。

地址:Releases · datafuselabs/databend · GitHub

Contributors

非常感谢贡献者们在本周的卓越工作。

图片

Connect With Us

Databend 是一款开源、弹性、低成本,基于对象存储也可以做实时分析的新式数仓。期待您的关注,一起探索云原生数仓解决方案,打造新一代开源 Data Cloud。

  • Databend Website
  • GitHub Discussions
  • Twitter
  • Slack Channel

http://www.lryc.cn/news/105690.html

相关文章:

  • 用于医学图像分类的双引导的扩散网络
  • 8.2day03 Redis入门+解决员工模块
  • 通过案例实战详解elasticsearch自定义打分function_score的使用
  • SpringBoot第28讲:SpringBoot集成MySQL - MyBatis-Plus方式
  • AI 绘画Stable Diffusion 研究(三)sd模型种类介绍及安装使用详解
  • Docker 命令没有提示信息
  • springboot第33集:nacos图
  • 学习gRPC(一)
  • 【二进制安全】堆漏洞:Double Free原理
  • python之open,打开文件时,遇到解码错误处理方式
  • STM32 CAN通信-CubeMX环境下CAN通信程序的编程与调试经验
  • windows创建不同大小的文件命令
  • Attention Is All You Need
  • 手写线程池 - C++版 - 笔记总结
  • PHP 容器化引发线上 502 错误状态码的修复
  • QT中UDP之UDPsocket通讯
  • 【C语言】10-三大结构之循环结构-1
  • Windows下RocketMQ的启动
  • linux内核升级 docker+k8s更新显卡驱动
  • express学习笔记2 - 三大件概念
  • Steam搬砖蓝海项目
  • 就业并想要长期发展选数字后端还是ic验证?
  • 当服务器域名出现解析错误的问题该怎么办?
  • 面试必考精华版Leetcode2095. 删除链表的中间节点
  • 对 Redis 实现分布式事务的探索与实现
  • Matlab实现Spectral Clustering算法
  • Android 测试
  • 全面解析大语言模型的工作原理
  • cmake+pybind11打包c++库成python wheel安装包
  • 史上最细,接口自动化测试框架-Pytest+Allure+Excel整理(代码)