- AVRO Schemas & APIs
- AVRO - Schemas
- AVRO - Reference API
- AVRO By Generating a Class
- Serialization by Generating Class
- Deserialization by Generating Class
- AVRO Using Parsers Library
- Serialization Using Parsers
- Deserialization Using Parsers
- AVRO Useful Resources
- AVRO - Quick Guide
- AVRO - Useful Resources
- AVRO - Discussion
AVRO - 架构
Avro 是一个基于模式的序列化实用程序,接受模式作为输入。尽管有各种可用的模式,Avro 遵循自己的定义模式标准。这些模式描述了以下细节 -
- 文件类型(默认记录)
- 记录位置
- 记录名称
- 记录中的字段及其相应的数据类型
使用这些架构,您可以使用更少的空间以二进制格式存储序列化值。这些值的存储没有任何元数据。
创建 Avro 模式
Avro 架构以 JavaScript 对象表示法 (JSON) 文档格式创建,这是一种轻量级的基于文本的数据交换格式。它是通过以下方式之一创建的 -
- JSON 字符串
- JSON 对象
- JSON 数组
示例- 以下示例显示了一个架构,它定义了一个文档,在名称空间Tutorialspoint下,名称为Employee,具有字段name和age。
{ "type" : "record", "namespace" : "Tutorialspoint", "name" : "Employee", "fields" : [ { "name" : "Name" , "type" : "string" }, { "name" : "Age" , "type" : "int" } ] }
在此示例中,您可以观察到每条记录有四个字段 -
type - 该字段位于文档下以及名为 fields 的字段下。
如果是文档,它显示文档的类型,通常是一条记录,因为有多个字段。
当为字段时,类型描述数据类型。
命名空间- 该字段描述对象所在的命名空间的名称。
name - 该字段位于文档下方以及名为 fields 的字段下方。
如果是文档,它描述模式名称。此模式名称与命名空间一起唯一标识存储中的模式(Namespace.schema name)。在上面的示例中,架构的全名将为Tutorialspoint.Employee。
如果是字段,它描述字段的名称。
Avro 的原始数据类型
Avro 模式具有原始数据类型和复杂数据类型。下表描述了Avro 的原始数据类型-
数据类型 | 描述 |
---|---|
无效的 | Null 是没有值的类型。 |
整数 | 32 位有符号整数。 |
长的 | 64 位有符号整数。 |
漂浮 | 单精度(32 位)IEEE 754 浮点数。 |
双倍的 | 双精度(64 位)IEEE 754 浮点数。 |
字节 | 8 位无符号字节序列。 |
细绳 | Unicode 字符序列。 |
Avro 的复杂数据类型
除了原始数据类型之外,Avro 还提供六种复杂数据类型,即记录、枚举、数组、映射、联合和固定。
记录
Avro 中的记录数据类型是多个属性的集合。它支持以下属性 -
name - 该字段的值保存记录的名称。
命名空间- 该字段的值保存存储对象的命名空间的名称。
type - 该属性的值保存文档(记录)的类型或模式中字段的数据类型。
fields - 该字段包含一个 JSON 数组,其中包含架构中所有字段的列表,每个字段都有名称和类型属性。
例子
下面给出的是记录的示例。
{ " type " : "record", " namespace " : "Tutorialspoint", " name " : "Employee", " fields " : [ { "name" : " Name" , "type" : "string" }, { "name" : "age" , "type" : "int" } ] }
枚举
枚举是集合中的项目列表,Avro 枚举支持以下属性 -
name - 该字段的值保存枚举的名称。
命名空间- 该字段的值包含限定枚举名称的字符串。
Symbols - 该字段的值将枚举的符号保存为名称数组。
例子
下面给出的是枚举的示例。
{ "type" : "enum", "name" : "Numbers", "namespace": "data", "symbols" : [ "ONE", "TWO", "THREE", "FOUR" ] }
数组
该数据类型定义具有单个属性项的数组字段。此 items 属性指定数组中项目的类型。
例子
{ " type " : " array ", " items " : " int " }
地图
映射数据类型是键值对数组,它将数据组织为键值对。Avro 映射的键必须是字符串。映射的值保存映射内容的数据类型。
例子
{"type" : "map", "values" : "int"}
工会
只要字段具有一种或多种数据类型,就会使用联合数据类型。它们表示为 JSON 数组。例如,如果字段可以是 int 或 null,则联合表示为 ["int", "null"]。
例子
下面给出的是使用联合的示例文档 -
{ "type" : "record", "namespace" : "tutorialspoint", "name" : "empdetails ", "fields" : [ { "name" : "experience", "type": ["int", "null"] }, { "name" : "age", "type": "int" } ] }
固定的
该数据类型用于声明可用于存储二进制数据的固定大小的字段。它具有字段名称和数据作为属性。Name 保存字段的名称,size 保存字段的大小。
例子
{ "type" : "fixed" , "name" : "bdata", "size" : 1048576}