AVRO - 架构


Avro 是一个基于模式的序列化实用程序,接受模式作为输入。尽管有各种可用的模式,Avro 遵循自己的定义模式标准。这些模式描述了以下细节 -

  • 文件类型(默认记录)
  • 记录位置
  • 记录名称
  • 记录中的字段及其相应的数据类型

使用这些架构,您可以使用更少的空间以二进制格式存储序列化值。这些值的存储没有任何元数据。

创建 Avro 模式

Avro 架构以 JavaScript 对象表示法 (JSON) 文档格式创建,这是一种轻量级的基于文本的数据交换格式。它是通过以下方式之一创建的 -

  • JSON 字符串
  • JSON 对象
  • JSON 数组

示例- 以下示例显示了一个架构,它定义了一个文档,在名称空间Tutorialspoint下,名称为Employee,具有字段name和age。

{
   "type" : "record",
   "namespace" : "Tutorialspoint",
   "name" : "Employee",
   "fields" : [
      { "name" : "Name" , "type" : "string" },
      { "name" : "Age" , "type" : "int" }
   ]
}

在此示例中,您可以观察到每条记录有四个字段 -

  • type - 该字段位于文档下以及名为 fields 的字段下。

    • 如果是文档,它显示文档的类型,通常是一条记录,因为有多个字段。

    • 当为字段时,类型描述数据类型。

  • 命名空间- 该字段描述对象所在的命名空间的名称。

  • name - 该字段位于文档下方以及名为 fields 的字段下方。

    • 如果是文档,它描述模式名称。此模式名称与命名空间一起唯一标识存储中的模式(Namespace.schema name)。在上面的示例中,架构的全名将为Tutorialspoint.Employee。

    • 如果是字段,它描述字段的名称。

Avro 的原始数据类型

Avro 模式具有原始数据类型和复杂数据类型。下表描述了Avro 的原始数据类型-

数据类型 描述
无效的 Null 是没有值的类型。
整数 32 位有符号整数。
长的 64 位有符号整数。
漂浮 单精度(32 位)IEEE 754 浮点数。
双倍的 双精度(64 位)IEEE 754 浮点数。
字节 8 位无符号字节序列。
细绳 Unicode 字符序列。

Avro 的复杂数据类型

除了原始数据类型之外,Avro 还提供六种复杂数据类型,即记录、枚举、数组、映射、联合和固定。

记录

Avro 中的记录数据类型是多个属性的集合。它支持以下属性 -

  • name - 该字段的值保存记录的名称。

  • 命名空间- 该字段的值保存存储对象的命名空间的名称。

  • type - 该属性的值保存文档(记录)的类型或模式中字段的数据类型。

  • fields - 该字段包含一个 JSON 数组,其中包含架构中所有字段的列表,每个字段都有名称和类型属性。

例子

下面给出的是记录的示例。

{
" type " : "record",
" namespace " : "Tutorialspoint",
" name " : "Employee",
" fields " : [
 { "name" : " Name" , "type" : "string" },
 { "name" : "age" , "type" : "int" }
 ]
}

枚举

枚举是集合中的项目列表,Avro 枚举支持以下属性 -

  • name - 该字段的值保存枚举的名称。

  • 命名空间- 该字段的值包含限定枚举名称的字符串。

  • Symbols - 该字段的值将枚举的符号保存为名称数组。

例子

下面给出的是枚举的示例。

{
   "type" : "enum",
   "name" : "Numbers", 
   "namespace": "data", 
   "symbols" : [ "ONE", "TWO", "THREE", "FOUR" ]
}

数组

该数据类型定义具有单个属性项的数组字段。此 items 属性指定数组中项目的类型。

例子

{ " type " : " array ", " items " : " int " }

地图

映射数据类型是键值对数组,它将数据组织为键值对。Avro 映射的键必须是字符串。映射的值保存映射内容的数据类型。

例子

{"type" : "map", "values" : "int"}

工会

只要字段具有一种或多种数据类型,就会使用联合数据类型。它们表示为 JSON 数组。例如,如果字段可以是 int 或 null,则联合表示为 ["int", "null"]。

例子

下面给出的是使用联合的示例文档 -

{ 
   "type" : "record", 
   "namespace" : "tutorialspoint", 
   "name" : "empdetails ", 
   "fields" : 
   [ 
      { "name" : "experience", "type": ["int", "null"] }, { "name" : "age", "type": "int" } 
   ] 
}

固定的

该数据类型用于声明可用于存储二进制数据的固定大小的字段。它具有字段名称和数据作为属性。Name 保存字段的名称,size 保存字段的大小。

例子

{ "type" : "fixed" , "name" : "bdata", "size" : 1048576}