若要优化性能和可伸缩性,必须了解 Durable Functions 的独特缩放特征。
若要了解缩放行为,必须了解底层 Azure 存储提供程序的某些详细信息。
历史记录表
“历史记录”表是一个 Azure 存储表,包含任务中心内所有业务流程实例的历史记录事件。 此表的名称采用 TaskHubName History 格式。 当实例运行时,会在此表中添加新行。 此表的分区键派生自业务流程的实例 ID。 实例 ID 在大多数情况下是随机的,确保在 Azure 存储中以最佳方式分配内部分区。
需要运行业务流程实例时,会将“历史记录”表的相应行载入内存。 然后,这些历史记录事件将重播到业务流程协调程序函数代码中,使其恢复到以前的检查点状态。 以这种方式使用执行历史记录来重新生成状态不受事件溯源模式的影响。
实例表
“实例”表是另一个 Azure 存储表,包含任务中心内所有业务流程和实体实例的状态。 创建实例时,会在此表中添加新行。 此表的分区键是业务流程实例 ID 或实体键,行键是空字符串。 每个业务流程或实体实例对应一行。
使用此表可以满足来自 GetStatusAsync (.NET) 和 getStatus (JavaScript) API 以及状态查询 HTTP API 的实例查询请求。 它与前面所述的“历史记录”表内容保持最终一致。 以这种方式使用单独的 Azure 存储表有效满足实例查询操作不受命令和查询责任分离 (CQRS) 模式的影响。
内部队列触发器
业务流程协调程序函数和活动函数都由函数应用任务中心内的内部队列触发。 以这种方式使用队列可以提供可靠的“至少一次”消息传送保证。 Durable Functions 中有两种类型的队列:“控制队列”和“工作项队列” 。
工作项队列
Durable Functions 中的每个任务中心都有一个工作项队列。 它是一个基本队列,其行为类似于 Azure Functions 中的其他任何 queueTrigger 队列。 此队列每次将一条消息取消排队,可用于触发无状态活动函数。 其中的每个消息包含活动函数输入和其他元数据,例如要执行的函数。 当 Durable Functions 应用程序横向扩展到多个 VM 时,所有这些 VM 将会竞争,以从工作项队列中获取工作。
控制队列
Durable Functions 中的每个任务中心有多个控制队列。 与较为简单的工作项队列相比,控制队列更加复杂。 控制队列用于触发有状态的业务流程协调程序和实体函数。 由于业务流程协调程序和实体函数实例是有状态的单一实例,无法使用竞争性使用者模型在 VM 之间分配负载。 业务流程协调程序和实体消息会在控制队列之间进行负载均衡。 后续部分将会更详细地介绍此行为。
控制队列包含各种业务流程生命周期消息类型。 示例包括业务流程协调程序控制消息、活动函数响应消息和计时器消息。 在单次轮询中,最多会从一个控制队列中取消 32 条消息的排队。 这些消息包含有效负载数据以及元数据,包括适用的业务流程实例。 如果将多个取消排队的消息用于同一业务流程实例,将会批处理这些消息。
队列轮询
Durable Task 扩展实现了随机指数退让算法,以降低空闲队列轮询对存储事务成本造成的影响。 当找到消息时,运行时会立即检查另一条消息;如果未找到消息,它将等待一定的时间,然后重试。 如果后续尝试获取队列消息失败,则等待时间会继续增加,直到达到最长等待时间(默认为 30 秒)。
可以通过 host.json 文件中的 maxQueuePollingInterval 属性配置最大轮询延迟。 将此属性设置为较高的值时,可能导致的消息处理延迟也越高。 只有在不活动的时间段过后,才会出现较高的延迟。 将此属性设置为较低的值时,可能导致的存储成本会较高,因为存储事务数增高。
Note: 在 Azure Functions 消耗计划和高级计划中运行时,Azure Functions 缩放控制器每隔 10 秒就会轮询每个控件和工作项队列一次。 若要确定何时激活函数应用实例并进行缩放决策,这种额外的轮询是必需的。 在撰写本文时,这种 10 秒的时间间隔为常量,不能进行配置。
业务流程启动延迟
通过在某个任务中心的控制队列中放置 ExecutionStarted 消息来启动业务流程实例。 在某些情况下,你可能会观察到计划的业务流程运行时间与它实际开始运行的时间之间存在数秒延迟。 在此时间间隔内,业务流程实例仍处于 Pending 状态。 造成这种延迟的潜在原因有两个:
-
积压的控制队列:如果此实例的控制队列包含大量消息,则运行时可能需要一段时间才能接收并处理
ExecutionStarted消息。 当业务流程同时处理大量事件时,可能会出现消息积压。 进入控制队列的事件包括业务流程启动事件、活动完成、持久计时器、终止和外部事件。 如果在正常情况下发生此延迟,请考虑创建具有大量分区的新任务中心。 配置更多分区会使运行时创建更多用于分配负载的控制队列。 -
回退轮询延迟:业务流程延迟的另一个常见原因是之前所说的控制队列的回退轮询行为。 但是,仅当应用横向扩展到两个或更多实例时,才会出现这种延迟。 如果只有一个应用实例,或启动业务流程的应用实例与轮询目标控制队列的是同一个实例,则不会出现队列轮询延迟。 如前所述,可以通过更新 host.json 设置来减少回退轮询延迟。
存储帐户的选择
在配置的 Azure 存储帐户中创建 Durable Functions 使用的队列、表和 Blob。 可以使用 host.json 文件中的 durableTask/storageProvider/connectionStringName 设置(或 Durable Functions 1.x 中的 durableTask/azureStorageConnectionStringName 设置指定要使用的帐户。
Durable Functions 2.x
{
"extensions": {
"durableTask": {
"storageProvider": {
"connectionStringName": "MyStorageAccountAppSetting"
}
}
}
}
Durable Functions 1.x
{
"extensions": {
"durableTask": {
"azureStorageConnectionStringName": "MyStorageAccountAppSetting"
}
}
}
如果未指定,则使用默认的 AzureWebJobsStorage 存储帐户。 但是,对于性能敏感型工作负荷,我们建议配置非默认的存储帐户。 Durable Functions 重度使用 Azure 存储,它通过专用的存储帐户将 Durable Functions 存储的使用与 Azure Functions 主机的内部使用隔离开来。
业务流程协调程序横向扩展
活动函数是无状态的,可通过添加 VM 自动进行横向扩展。 另一方面,业务流程协调程序函数和实体已在一个或多个控制队列中分区。 控制队列的数目在 host.json 文件中定义。 以下示例 host.json 片段将 durableTask/storageProvider/partitionCount 属性(或 Durable Functions 1.x 中的 durableTask/partitionCount)设置为 3。
Durable Functions 2.x
{
"extensions": {
"durableTask": {
"storageProvider": {
"partitionCount": 3
}
}
}
}
Durable Functions 1.x
{
"extensions": {
"durableTask": {
"partitionCount": 3
}
}
}
可将任务中心配置为包含 1 到 16 个分区。 如果未指定分区数,则会使用默认分区数 4。
横向扩展到多个函数主机实例(通常在不同的 VM 上)时,每个实例会获取某个控制队列上的锁。 这些锁在内部实现为 Blob 存储租约,确保一个业务流程实例或实体每次只在一个主机实例上运行。 如果为任务中心配置了三个控制队列,则最多可在三个 VM 上对业务流程实例和实体进行负载均衡。 可以添加更多的 VM,以提高活动函数执行容量。
下图演示了 Azure Functions 主机如何与横向扩展环境中的存储实体交互。
缩放示意图
如上图所示,所有 VM 都会争用工作项队列中的消息。 但是,只有三个 VM 可从控制队列获取消息,每个 VM 锁定了单个控制队列。
业务流程实例和实体分布在所有控制队列实例之间。 可以通过哈希处理业务流程的实例 ID 或实体的名称和键对来执行分布。 业务流程实例实例 ID 默认是随机的 GUID,确保将实例均匀分布在所有控制队列之间。
一般而言,业务流程协调程序函数是轻量型的,应该不需要大量的计算能力。 因此,无需创建大量的控制队列分区即可获得业务流程的极佳吞吐量。 大部分繁重工作应在可无限横向扩展的无状态活动函数中完成。
自动缩放
与消耗计划和弹性高级计划中运行的所有 Azure Functions 一样,Durable Functions 支持通过 Azure Functions 缩放控制器自动缩放。 缩放控制器通过定期发出 peek 命令来监视所有队列的延迟。 根据扫视消息的延迟,缩放控制器将决定是要添加还是删除 VM。
如果缩放控制器确定控制队列消息延迟过高,则会添加 VM 实例,直到消息延迟下降到可接受的级别,或者达到控制队列分区计数。 同样,如果工作项队列延迟偏高,缩放控制器会不断地添加 VM 实例,而不管分区计数如何。
Note: 从 Durable Functions 2.0 开始,可以将函数应用配置为在 Elastic Premium 计划中受 VNET 保护的服务终结点中运行。 在此配置中,Durable Functions 触发器启动缩放请求而不是缩放控制器。
线程用量
在单个线程上执行业务流程协调程序函数,确保多次重播后执行可以是确定性的。 由于采用这种单线程执行,业务流程协调程序函数线程不得执行 CPU 密集型任务、执行 I/O 或出于任何原因而阻塞。 应将需要 I/O、阻塞或多个线程的任何工作移到活动函数中。
活动函数的行为与队列触发的正则函数完全相同。 它们可以安全地执行 I/O、执行 CPU 密集型操作和使用多个线程。 由于活动触发器是无状态的,因此可以任意横向扩展到不限数量的 VM。
实体函数也在单个线程上执行,操作是逐个处理的。 但是,实体函数对于可执行的代码类型没有任何限制。
并发限制
Azure Functions 支持在单个应用实例中并发执行多个函数。 这种并发执行有助于提高并行度,将典型的应用在一段时间内遇到的“冷启动”次数减到最少。 但是,高并发性可能会耗尽每个 VM 的系统资源,例如网络连接或可用内存。 根据函数应用的需求,可能有必要限制每个实例的并发性,以免在负载较高的情况下出现内存不足的问题。
可以在 host.json 文件中配置活动、业务流程协调程序和实体函数的并发限制。 相关的设置为活动函数的 durableTask/maxConcurrentActivityFunctions,以及业务流程协调程序和实体函数的 durableTask/maxConcurrentOrchestratorFunctions。
Functions 2.0
{
"extensions": {
"durableTask": {
"maxConcurrentActivityFunctions": 10,
"maxConcurrentOrchestratorFunctions": 10
}
}
}
Functions 1.x
{
"durableTask": {
"maxConcurrentActivityFunctions": 10,
"maxConcurrentOrchestratorFunctions": 10
}
}
在前面的示例中,最多 10 个业务流程协调程序或实体函数和 10 个活动函数可在单个 VM 上并发运行。 如果未指定数量,并发活动函数和业务流程协调程序或实体函数的执行数限制为 VM 上核心数的 10 倍。
Note: 这些设置有助于管理单个 VM 上的内存和 CPU 用量。 但是,在跨多个 VM 横向扩展后,每个 VM 有自身的一组限制。 无法使用这些设置来全局控制并发性。
扩展会话
扩展会话是一种设置,可将业务流程和实体保留在内存中,即使它们已处理完消息。 启用扩展会话的典型效果是减少针对 Azure 存储帐户的 I/O,并总体提高吞吐量。
可以通过在 host.json 文件中将 durableTask/extendedSessionsEnabled 设置为 true 来启用扩展会话。 durableTask/extendedSessionIdleTimeoutInSeconds 设置可用于控制空闲会话在内存中的保存时间长短:
Functions 2.0
{
"extensions": {
"durableTask": {
"extendedSessionsEnabled": true,
"extendedSessionIdleTimeoutInSeconds": 30
}
}
}
Functions 1.0
{
"durableTask": {
"extendedSessionsEnabled": true,
"extendedSessionIdleTimeoutInSeconds": 30
}
}
需要注意此设置的两个潜在缺点:
- 函数应用内存用量会总体增大。
- 如果存在许多并发的且生存期较短的业务流程协调程序或实体函数执行,吞吐量可能会总体下降。
例如,如果 durableTask/extendedSessionIdleTimeoutInSeconds 设置为 30 秒,则执行时间不超过 1 秒的、生存期较短的业务流程协调程序或实体函数周期仍会占用内存 30 秒。 这种消耗还会计入前面所述的 durableTask/maxConcurrentOrchestratorFunctions 配额,从而可能导致其他业务流程协调程序或实体函数无法运行。
后续部分将描述扩展会话对业务流程协调程序和实体函数的具体影响。
Note: 当前仅在 .NET 语言(如 C# 或 F#)中支持扩展会话。 为其他平台将
extendedSessionsEnabled设置为true可能会导致运行时问题,例如在执行活动和业务流程触发的功能失败时无提示。
业务流程协调程序函数重播
如前所述,业务流程协调程序函数是使用“历史记录”表的内容重播的。 默认情况下,每当从控制队列中取消一批消息的排队时,都会重播业务流程协调程序函数代码。 即使你使用扇出、扇入模式并等待所有任务完成(例如,在 .NET 中使用 Task.WhenAll 或在 JavaScript 中使用 context.df.Task.all),也会在一段时间内处理成批任务响应时发生重播。 启用扩展会话后,业务流程协调程序函数实例将在内存中保存更长时间,同时,无需重播完整历史记录即可处理新消息。
对于以下情况,往往可以观测到扩展会话对性能的改进:
- 当并发运行的业务流程实例数量有限时。
- 当业务流程包含大量可快速完成的连续操作(例如数百个活动函数调用)时。
- 当业务流程扇出和扇入可在大致相同的时间完成的大量操作时。
- 当业务流程协调程序函数需要处理大型消息或执行任何 CPU 密集型数据处理时。
在所有其他情况下,通常观测不到业务流程协调程序函数有明显的性能改进。
Note: 只能在全面开发并测试业务流程协调程序函数之后才使用这些设置。 在开发时,默认的激进重播行为可用于检测业务流程协调程序函数代码约束违规,因此默认已禁用此行为。
实体函数卸载
实体函数最多可以处理单个批中的 20 个操作。 实体处理完一批操作后,会保持自身的状态并从内存中卸载。 可以使用扩展会话设置来延迟从内存中卸载实体。 实体继续像以前一样保持其状态更改,但会在内存中保留配置的一段时间,以减少 Azure 存储中的负载数。 Azure 存储中的负载减少可以改善经常访问的实体的总体吞吐量。
性能目标
规划对生产应用程序使用 Durable Functions 时,必须在规划过程中提前考虑性能要求。 本部分介绍一些基本的使用方案和预期的最大吞吐量数字。
- 顺序活动执行:此方案描述的业务流程协调程序函数逐个运行一系列活动函数。 它与函数链接示例非常类似。
- 并行活动执行:此方案描述的业务流程协调程序函数使用 扇出扇入模式并行执行多个活动函数。
- 并行响应处理:此方案是 扇出扇入模式的后半部分。 它侧重于扇入性能。 必须注意,与扇出不同,扇入是由单个业务流程协调程序函数实例执行的,因此只能在单个 VM 上运行。
- 外部事件处理:此方案表示一次等待一个 外部事件的单个业务流程协调程序函数实例。
- 实体操作处理:此方案测试单个 计数器实体处理恒定操作流的速度。
Tip: 与扇出不同,扇入操作限制为单个 VM。 如果应用程序使用扇出扇入模式,并且你关注扇入性能,请考虑在多个子业务流程之间分割活动函数扇出。
下表显示了前面所述方案的预期最大吞吐量数字。 “实例”是指在 Azure 应用服务中单个小型 (A1) VM 上运行的业务流程协调程序函数的单个实例。 在各种情况下,都假设已启用扩展会话。 实际结果可能根据函数代码执行的 CPU 或 I/O 工作而异。
| 方案 | 最大吞吐量 |
|---|---|
| 顺序活动执行 | 每个实例每秒 5 个活动 |
| 并行活动执行(扇出) | 每个实例每秒 100 个活动 |
| 并行响应处理(扇入) | 每个实例每秒 150 个响应 |
| 外部事件处理 | 每个实例每秒 50 个事件 |
| 实体操作处理 | 每秒 64 个操作 |
Note: 上述数字是截止 Durable Functions 扩展 v1.4.0(正式版)发布后的最新数字。 随着功能的不断成熟和优化,这些数字今后可能会有变化。
如果发现吞吐量数字不符合预期,但 CPU 和内存用量似乎正常,请检查原因是否与存储帐户的运行状况相关。 Durable Functions 扩展可能会在 Azure 存储帐户中施加大量的负载,负载高到一定程度会导致存储帐户受限制。
后续步骤
历史资料。此文对应 2022-08-12 的中文文档快照,适用产品版本和命令行为以原文为准。
来源与署名:Microsoft 和文档贡献者(原始作者元数据 cgillum)。固定版本原文。文档采用 CC BY 4.0,示例代码采用 MIT 授权。本站将 Markdown 转为 HTML,规范化链接,移除外部媒体、发布器占位标签和导航标记。
