DocumentDB – 分区

DocumentDB – 分区


当您的数据库开始增长超过 10GB 时,您可以简单地通过创建新集合然后在越来越多的集合中传播或分区数据来横向扩展。

一个具有 10GB 容量的集合迟早会不足以容纳您的数据库。现在 10GB 听起来可能不是一个很大的数字,但请记住,我们正在存储 JSON 文档,它只是纯文本,即使您考虑索引的存储开销,您也可以在 10GB 中容纳大量纯文本文档。

在可扩展性方面,存储并不是唯一的问题。集合上可用的最大吞吐量是 S3 集合获得的每秒两个半千请求单位。因此,如果您需要更高的吞吐量,那么您还需要通过使用多个集合进行分区来横向扩展。向外扩展分区也称为水平分区

有多种方法可用于通过 Azure DocumentDB 对数据进行分区。以下是最常见的策略 –

  • 溢出分区
  • 范围分区
  • 查找分区
  • 哈希分区

溢出分区

溢出分区是最简单的策略,因为没有分区键。当您对很多事情不确定时,开始通常是一个不错的选择。您可能不知道您是否甚至需要扩展到单个集合之外,或者您可能需要添加多少集合,或者您可能需要多快地添加它们。

  • 溢出分区从单个集合开始,没有分区键。

  • 集合开始增长,然后再增长一些,然后再增长一些,直到您开始接近 10GB 的限制。

  • 当您达到 90% 的容量时,您会溢出到一个新集合并开始将其用于新文档。

  • 一旦您的数据库扩展到更多的集合,您可能希望转向基于分区键的策略。

  • 当您这样做时,您需要根据您要迁移到的任何策略,通过将文档移动到不同的集合来重新平衡数据。

范围分区

最常见的策略之一是范围分区。通过这种方法,您可以确定文档的分区键可能落入的值范围,并将文档定向到与该范围对应的集合。

  • 日期通常与此策略一起使用,您可以在该策略中创建一个集合来保存定义的日期范围内的文档。当您定义足够小的范围时,您可以确信任何集合都不会超过其 10GB 的限制。例如,可能存在单个集合可以合理处理整个月的文档的场景。

  • 也可能是大多数用户查询当前数据,可能是本月或上个月的数据,但用户很少搜索更旧的数据。因此,您从 6 月开始使用 S3 系列,这是您可以购买的最昂贵的系列,并提供您可以获得的最佳吞吐量。

  • 在 7 月,您购买另一个 S3 集合来存储 7 月的数据,并且您还将 6 月的数据缩减为更便宜的 S2 集合。然后在 8 月,您将获得另一个 S3 系列,并将 7 月缩小到 S2,6 月一直缩小到 S1。月复一月,您始终保持当前数据可用于高吞吐量,而旧数据以较低吞吐量保持可用。

  • 只要查询提供了分区键,就只会查询需要查询的集合,而不是像溢出分区那样会查询数据库中的所有集合。

查找分区

通过查找分区,您可以定义一个分区映射,该映射根据文档的分区键将文档路由到特定集合。例如,您可以按区域进行分区。

  • 将所有美国文档存储在一个集合中,将所有欧洲文档存储在另一个集合中,并将来自任何其他地区的所有文档存储在第三个集合中。

  • 使用此分区映射和查找分区解析器可以根据分区键(每个文档中包含的区域属性)确定要在哪个集合中创建文档以及要查询哪些集合。

哈希分区

在散列分区中,分区是根据散列函数的值分配的,允许您跨多个分区均匀分布请求和数据。

这通常用于对从大量不同客户端生成或使用的数据进行分区,并且对于存储用户配置文件、目录项等很有用。

让我们看一个使用 .NET SDK 提供的 RangePartitionResolver 进行范围分区的简单示例。

第 1 步– 创建一个新的 DocumentClient,我们将在 CreateCollections 任务中创建两个集合。一个将包含用户 ID 以 A 到 M 开头的用户的文档,另一个包含用户 ID N 到 Z 的文档。

private static async Task CreateCollections(DocumentClient client) {
   await client.CreateDocumentCollectionAsync(“dbs/myfirstdb”, new DocumentCollection {
      Id = “CollectionAM” }); 
		
   await client.CreateDocumentCollectionAsync(“dbs/myfirstdb”, new DocumentCollection {
      Id = “CollectionNZ” }); 
}

步骤 2 – 为数据库注册范围解析器。

第 3 步– 创建一个新的 RangePartitionResolver<string>,这是我们分区键的数据类型。构造函数接受两个参数,分区键的属性名称和作为分片映射或分区映射的字典,它只是我们为解析器预定义的范围和相应集合的列表。

private static void RegisterRangeResolver(DocumentClient client) {

   //Note: \uffff is the largest UTF8 value, so M\ufff includes all strings that start with M.
		
   var resolver = new RangePartitionResolver<string>(
      "userId", new Dictionary<Range<string>, string>() {
      { new Range<string>("A", "M\uffff"), "dbs/myfirstdb/colls/CollectionAM" },
      { new Range<string>("N", "Z\uffff"), "dbs/myfirstdb/colls/CollectionNZ" },
   });
	
   client.PartitionResolvers["dbs/myfirstdb"] = resolver;
 }

有必要在此处对最大可能的 UTF-8 值进行编码。否则第一个范围不会与任何 Ms 匹配,除了一个 M 之外,第二个范围中的 Z 也是如此。因此,您可以将这里的编码值视为匹配分区键的通配符。

第 4 步– 创建解析器后,使用当前 DocumentClient 将其注册到数据库。为此,只需将其分配给 PartitionResolver 的字典属性即可。

我们将针对数据库创建和查询文档,而不是您通常所做的集合,解析器将使用此映射将请求路由到适当的集合。

现在让我们创建一些文档。首先,我们将为 userId Kirk 创建一个,然后为 Spock 创建一个。

private static async Task CreateDocumentsAcrossPartitions(DocumentClient client) { 
   Console.WriteLine(); 
   Console.WriteLine("**** Create Documents Across Partitions ****");
	
   var kirkDocument = await client.CreateDocumentAsync("dbs/myfirstdb", new { userId =
      "Kirk", title = "Captain" }); 
   Console.WriteLine("Document 1: {0}", kirkDocument.Resource.SelfLink);
	
   var spockDocument = await client.CreateDocumentAsync("dbs/myfirstdb", new { userId =
      "Spock", title = "Science Officer" });		
   Console.WriteLine("Document 2: {0}", spockDocument.Resource.SelfLink); 
}

这里的第一个参数是数据库的自链接,不是特定的集合。如果没有分区解析器,这是不可能的,但是有了分区解析器,它就可以无缝地工作。

两个文档都保存到数据库 myfirstdb 中,但我们知道 Kirk 存储在 A 到 M 的集合中,Spock 存储在 N 到 Z 的集合中,如果我们的 RangePartitionResolver 工作正常。

让我们从 CreateDocumentClient 任务调用这些,如以下代码所示。

private static async Task CreateDocumentClient() {
   // Create a new instance of the DocumentClient 
   using (var client = new DocumentClient(new Uri(EndpointUrl), AuthorizationKey)) {
      await CreateCollections(client);  
      RegisterRangeResolver(client);  
      await CreateDocumentsAcrossPartitions(client); 
   } 
}

执行上述代码后,您将收到以下输出。

**** Create Documents Across Partitions **** 
Document 1: dbs/Ic8LAA==/colls/Ic8LAO2DxAA=/docs/Ic8LAO2DxAABAAAAAAAAAA==/ 
Document 2: dbs/Ic8LAA==/colls/Ic8LAP12QAE=/docs/Ic8LAP12QAEBAAAAAAAAAA==/

正如所见,两个文档的自链接具有不同的资源 ID,因为它们存在于两个单独的集合中。

觉得文章有用?

点个广告表达一下你的爱意吧 !😁