当前位置: 首页 > article >正文

3.3.4 VO-O语法- 算子分类(一)

VO语言目前拥有400+个算子,并且仍在不断的开发扩展中。算子的功能丰富,多样,很难用某个维度简单、易用的对算子进行分类。以下是VO语言按照内置的算子开发维度给出的算子分类。

输入算子

输入算子用于接入和生成各类数据,一般是一个数据流程的起点。支持接入各类文件系统、数据库、事件流(消息队列)、应用系统等不同数据源。这些数据源可以通过HuggingFists系统的数据源管理模块进行接入管理。

为了减少开发者的学习成本,所有同类型输入算子的配置方式都进行了最大的化的统一设计。如:所有文件系统输入算子都支持选择多个待处理文件,选择多个文件夹等;所有数据库输入算子都最大程度的支持编写SQL语句进行数据访问等。由于很多非关系数据库并不支持SQL语句访问,比如MongoDB、Elasticsearch、Milvus等,开发团队专门维护了一个开源项目moql-transx,用于提供各类数据库的SQL访问接口。很多时候,这些SQL语句并不总是能很好的映射这些非关系型数据库的语法能力,但对于有特殊DSL访问语法的数据库来说,可以减少一部分开发者的学习成本;对于只提供了SDK访问接口能力的数据库来说,有了一种通用交互的解决方案。这里需要额外提一下,图数据库的所有输入算子目前是不支持SQL访问接口的,因为用SQL来映射图数据库的访问语义效率实在是太低了。在等待国际统一标准的GQL无果后,目前系统计划支持Cypher作为图数据库类的统一访问接口。

下面列出VO语言支持的部分输入算子,详细内容参见《5资源手册/2算子》:

文件系统输入:Alluxio、Azure对象存储、百度网盘、Ceph、腾讯云COS、FastDFS、Ftp、谷歌GCS、GridFs、HDFS、Mino、阿里云OSS、Amazon S3等

数据库输入:ClickHouse、DB2、达梦8、Doris、Elaticsearch[7|8]、Hive、MDB、Milvus、MongoDB、MySQL、Nebula、Neo4j、Oracle、Postgresql、Presto、SnowFlake、SQLServer、StarRocks、Sybase、腾讯向量库、TiDB、Trino等

事件流输入:Kafka

输出算子

输出算子用于将数据写出到各类存储系统中,一般是一个数据流程的终点。它与输入算子总是配套出现,除应用系统没有对应的输出算子外,文件系统、数据库以及事件流输入算子都有对应的输出算子。其中比较特别的是文件系统输入算子,它一般会对应2种输出算子。一个是单文件输出算子;一个是多文件输出算子。算子输入端口可接入的数据集结构不同,单文件输出算子支持对一个文件进行追加写出;多文件输出算子则支持一次性向一个文件系统写出多个文件。分别用于不同类型的输出场景。

下面列出VO语言支持的部分输出算子,详细内容参见《5资源手册/2算子》:

文件系统[单/批量]输出:Alluxio、Azure对象存储、百度网盘、Ceph、腾讯云COS、FastDFS、Ftp、谷歌GCS、GridFs、HDFS、Mino、阿里云OSS、Amazon S3等

数据库输出:ClickHouse、DB2、达梦8、Doris、Elaticsearch[7|8]、Hive、MDB、Milvus、MongoDB、MySQL、Nebula、Neo4j、Oracle、Postgresql、Presto、SnowFlake、SQLServer、StarRocks、Sybase、腾讯向量库、TiDB、Trino等

事件流输出:Kafka


http://www.kler.cn/a/546419.html

相关文章:

  • webassembly009 transformers.js 网页端侧推理 NLLB翻译模型
  • 智能背后的阴影:LLM安全风险
  • 华为支付-商户基础支付场景准备
  • Flask和Django相比哪个更适合新手?
  • 利用背景图像进行信息泄露和 LPE:AnyDesk CVE-2024-12754、ZDI-24-1711
  • 内网穿透简单使用
  • uniapp商城之首页模块
  • Apache Iceberg 与 Apache Hudi:数据湖领域的双雄对决
  • USB Flash闪存驱动器安全分析(第一部分)
  • 文心一言4月起全面免费,6月底开源新模型:AI竞争进入新阶段?
  • Redis 01 02章——入门概述与安装配置
  • Go语言实现单例模式
  • 基于opencv的HOG+角点匹配教程
  • Day1 25/2/14 FRI
  • 执行js生成json文件并动态写入数据
  • HTTP请求报文头和相应报文头
  • 深入探索C语言中的字符串处理函数:strstr与strtok
  • 科研绘图系列:R语言绘制地图和山脊图(map ridge plot)
  • LVS集群(DR/NAT)
  • 知识拓展:设计模式之装饰器模式