大网数据广告活动
数据库与应用安全

SQL Server R Services 的结果和资源的性能

· 52CE 我爱测

本文是第四个和最后一个序列中的值,它描述 R services 性能优化。 本文汇总了方法、 的发现和结论的测试各种优化方法的两个案例研究。

适用对象:yesSQL Server(仅限 Windows)noAzure SQL 数据库 noAzure SQL 数据仓库 no并行数据仓库

本文是第四个和最后一个序列中的值,它描述 R services 性能优化。 本文汇总了方法、 的发现和结论的测试各种优化方法的两个案例研究。

两个案例研究小组提出不同的目标:

  • 第一个案例研究,R Services 开发团队查找以衡量特定的优化技术的影响
  • 第二个案例研究,由数据科学家团队,试验了多个方法来确定特定的大批量评分方案的最佳优化。

本主题列出了第一个案例研究的详细的结果。 对于第二个案例研究,摘要描述整体结果。 本主题末尾处是所有脚本和示例数据和所使用的原始作者资源的链接。

性能案例研究: 航班数据集

本案例研究由 SQL Server R Services 开发团队进行测试各种优化的效果。 创建单个 rxLogit 模型和评分航班数据集上执行。 在训练和评分来评估单个影响的进程中应用了优化。

测试方法

  1. 航班数据集包含 10 亿行的单个表。 它下载和大容量加载到 SQL Server。
  2. 进行了表的六个副本。
  3. 各种修改已应用到表,若要测试 SQL Server 功能,如页压缩,行压缩、 索引、 纵栏表数据存储区等的副本。
  4. 之前和之后应用了每个优化测量性能。
表名 Description
airline 使用 rxDataStep 从原始 xdf 文件转换的数据
airlineWithIntCol DayOfWeek 已转换为整数而不是字符串。 另外,添加了 rowNum 列。
airlineWithIndex 数据与 airlineWithIntCol 表相同,但使用 rowNum 列添加了单个聚集索引。
airlineWithPageComp 数据与 airlineWithIndex 表相同,但已启用页压缩。 另外,添加了基于 CRSDepTime 和 ArrDelay 计算得出的两个列:CRSDepHour 和 Late。
airlineWithRowComp 数据与 airlineWithIndex 表相同,但已启用行压缩。 另外,添加了基于 CRSDepTime 和 ArrDelay 计算得出的两个列:CRSDepHour 和 Late。
airlineColumnar 包含单个聚集索引的纵栏表存储。 此表中填充了来自已清理的 csv 文件中的数据。

每个测试都包括以下步骤:

  1. 运行每项测试之前已引发 R 垃圾回收。
  2. 创建逻辑回归模型基于的表数据。 每项测试的 rowsPerRead 值设置为 500000。
  3. 使用经过训练的模型生成分数
  4. 每个测试运行六次。 已删除的第一次运行 ("冷运行") 的时间。 若要允许偶发离群值,最大在剩余的五个运行之间的时间也已丢弃。 已使用四次剩余运行的平均值来计算每项测试的平均消耗运行时。
  5. 使用运行了测试reportProgress参数与值 3 (为报表执行时间和进度)。 每个输出文件包含有关 IO、 转换时间和计算时间中所用的时间信息。 这些时间可用于故障排除和诊断。
  6. 控制台输出也被定向到输出目录中的文件。
  7. 测试脚本将在这些文件,以运行计算的平均时间处理时间。

例如,以下结果是从单个测试的时间。 主要关注的时间是“总读取时间”(IO 时间)和“转换时间”(设置计算进程所产生的开销)。

示例计时

Running IntCol Test. Using airlineWithIntCol table.
run 1 took 3.66 seconds
run 2 took 3.44 seconds
run 3 took 3.44 seconds
run 4 took 3.44 seconds
run 5 took 3.45 seconds
run 6 took 3.75 seconds
  
Average Time: 3.4425
metric time pct
1 Total time 3.4425 100.00
2 Overall compute time 2.8512 82.82
3 Total read time 2.5378 73.72
4 Transition time 0.5913 17.18
5 Total non IO time 0.3134 9.10

我们建议您下载并修改测试脚本,以帮助你解决使用 R Services 或 RevoScaleR 函数的问题。

测试结果 (全部)

本部分比较为每个测试之前和之后的结果。

通过压缩和纵栏表存储的数据大小

第一个测试与比较使用压缩和纵栏表来减小数据大小。

表名 “行” 保留 data index_size 未使用 节省率(保留)
airlineWithIndex 10000000 2978816 KB 2972160 KB 6128 KB 528 KB 0
airlineWithPageComp 10000000 625784 KB 623744 KB 1352 KB 688 KB 79%
airlineWithRowComp 10000000 1262520 KB 1258880 KB 2552 KB 1088 KB 58%
airlineColumnar 9999999 201992 KB 201624 KB 不适用 368 KB 93%

结论

数据大小的最大减少是通过应用列存储索引,跟页压缩来实现的。

压缩的影响

此测试比较行压缩、 页压缩和未压缩的好处。 使用已训练模型rxLinMod上三个不同的数据的表中的数据。 对所有表使用了相同的公式和查询。

表名 测试名称 numTasks 平均时间
airlineWithIndex NoCompression 1 5.6775
NoCompression-并行 4 5.1775
airlineWithPageComp PageCompression 1 6.7875
PageCompression-并行 4 5.3225
airlineWithRowComp RowCompression 1 6.1325
RowCompression-并行 4 5.2375

结论

单纯使用压缩似乎帮助。 在此示例中,用于处理压缩的 CPU 中增加抵消 IO 时间的减少。

但是,如果将 numTasks 设置为 4 以便并行运行测试,则平均时间将会减少。

对于较大的数据集,压缩效果可能更明显。 压缩取决于数据集和值,因此可能需要进行试验,确定压缩对数据集产生的影响。

Windows 电源计划选项的效果

在此试验中,已将 rxLinMod 用于 airlineWithIntCol 表。 Windows 电源计划设置为平衡或高性能。 在所有测试轮次中,numTasks 设置为 1。 测试运行六次,且已执行两次下这两个电源选项以调查结果的可变性。

高性能电源选项:

测试名称 运行 # 占用时间 平均时间
IntCol 1 3.57 秒
2 3.45 秒
3 3.45 秒
4 3.55 秒
5 3.55 秒
6 3.45 秒
3.475
1 3.45 秒
2 3.53 秒
3 3.63 秒
4 3.49 秒
5 3.54 秒
6 3.47 秒
3.5075

“平衡”电源选项:

测试名称 运行 # 占用时间 平均时间
IntCol 1 3.89 秒
2 4.15 秒
3 3.77 秒
4 5 秒
5 3.92 秒
6 3.8 秒
3.91
1 3.82 秒
2 3.84 秒
3 3.86 秒
4 4.07 秒
5 4.86 秒
6 3.75 秒
3.88

结论

使用 Windows 时,执行时间将是更加一致和更快高性能电源计划。

在公式中使用整数与字符串

此测试评估修改 R 代码以避免常见问题与字符串因素的影响。 具体而言,模型进行训练使用rxLinMod使用两个表: 在第一个,以字符串形式存储因素; 在第二个表中,因素都作为整数存储。

  • 有关航班表中,[DayOfWeek] 列包含字符串。 _ColInfo_参数用于指定因子级别 (星期一、 星期二、...)

  • 有关airlineWithIndex表中,[DayOfWeek] 是一个整数。 _ColInfo_未指定参数。

  • 在这两种情况下,都使用了同一个公式:ArrDelay ~ CRSDepTime + DayOfWeek。

表名 测试名称 平均时间
航空公司 FactorCol 10.72
airlineWithIntCol IntCol 3.4475

结论

使用整数而不是字符串的因素时的一个明显优势。

避免转换函数

在此测试中,模型进行训练使用rxLinMod,但两个运行之间已更改了代码:

  • 在首次运行,转换函数应用模型构建的一部分。
  • 在第二个运行中,功能值已被预计算并可用,以便不转换函数时所需。
测试名称 平均时间
WithTransformation 5.1675
WithoutTransformation 4.7

结论

定型时间是较短时不使用转换函数。 换而言之,对模型进行训练速度更快时使用的是预先计算并保存在表中的列。

节省的空间应为更高版本,如果没有更多的许多转换和数据集是更大 (> 1 亿)。

使用纵栏表存储

此测试评估使用列式数据存储和索引的性能优势。 使用相同的模型时训练rxLinMod和无需数据进行转换。

  • 在首次运行,使用标准行存储数据表。
  • 在第二个运行中,使用列存储。
表名 测试名称 平均时间
airlineWithIndex RowStore 4.67
airlineColumnar ColStore 4.555

结论

性能是更好地使用纵栏表存储比使用标准行存储。 性能显著差异可能会更大数据集 (> 1 亿)。

使用多维数据集参数的效果

此测试的目的是为了确定是否使用预计算 RevoScaleR 中的选项多维数据集参数可以提高性能。 使用已训练模型rxLinMod,使用以下公式:

ArrDelay ~ Origin:DayOfWeek + Month + DayofMonth + CRSDepTime

在表中,因素DayOfWeek存储为字符串。

测试名称 多维数据集参数 numTasks 平均时间 单行预测 (ArrDelay_Pred)
CubeArgEffect cube = F 1 91.0725 9.959204
4 44.09 9.959204
cube = T 1 21.1125 9.959204
4 8.08 9.959204

结论

使用多维数据集参数自变量显然可以提高性能。

更改模型 rxDTree 的 maxDepth 的效果

在此实验中,rxDTree算法用于在创建模型airlineColumnar表。 在此项测试中,numTasks 设置为 4。 多个不同的值maxDepth用于演示如何更改树深度影响运行的时。

测试名称 maxDepth 平均时间
TreeDepthEffect 1 10.1975
2 13.2575
4 19.27
8 45.5775
16 339.54

结论

随着树深度的增加,以指数方式增加的节点总数。 用于创建模型经过的时间也显著增加。

在存储模型的预测

此测试的目的是为了确定对计分训练的模型保存到 SQL Server 表时的性能影响而不是当前正在执行代码的一部分生成。 评分,从数据库加载存储的模型以及使用内存 (本地计算上下文) 中的一行数据帧创建预测。

测试结果显示的时间来保存模型,以及加载模型和预测所需的时间。

表名 测试名称 平均时间(训练模型) 保存/加载模型花费的时间
airline SaveModel 21.59 2.08
airline LoadModelAndPredict 2.09(包括预测花费的时间)

结论

从表加载训练的模型是清楚地更快地执行预测。 我们建议避免创建模型,并执行评分全部放在同一个脚本。

案例研究: 优化用于 resume 匹配任务

继续匹配模型开发的 Microsoft 数据科学家 Ke Huang 来测试 SQL Server 中 R 代码的性能,通过执行操作,帮助数据科学家创建可缩放的企业级解决方案。

方法

RevoScaleR 和 MicrosoftML 包用于定型涉及大型数据集的复杂 R 解决方案中的预测模型。 SQL 查询和 R 代码是在所有测试中完全相同。 安装 SQL server 的单个 Azure VM 上执行测试的条件。 然后,作者进行比较评分时间使用和不使用 SQL Server 提供的以下优化:

  • 内存中表
  • ssNoVersion
  • Resource Governor

若要评估 R 脚本执行对软件 NUMA 的影响,数据科学团队测试解决方案在 20 个物理核心 Azure 虚拟机上。 在这些物理核心、 四个软件 NUMA 节点自动创建,以便每个节点包含五个核心。

CPU 关联已强制执行在 resume 匹配方案中,若要评估对 R 作业的影响。 四个SQL 的资源池和四外部资源池而创建,并指定了 CPU 关联,以确保将每个节点中使用一组相同的 Cpu。

每个资源池已分配到不同工作负荷组,以优化硬件利用率。 原因是该软件 NUMA 和 CPU 关联不能将划分的物理 NUMA 节点; 中的物理内存因此,根据定义基于同一个物理 NUMA 节点的所有软 NUMA 节点必须使用内存中同一个操作系统内存块。 换而言之,没有任何内存到处理器的关联。

以下过程用于创建此配置:

  1. 减少默认情况下分配给 SQL Server 的内存量。

  2. 创建四个并行运行 R 作业的新池。

  3. 创建四个工作负荷组,以便在每个工作负荷组都与资源池相关联。

  4. 使用新的工作负荷组和分配,重新启动资源调控器。

  5. 创建用户定义的分类器函数 (UDF) 分配不同的工作负荷组上的不同任务。

  6. 更新资源调控器配置以使用相应的工作负荷组的函数。

结果

必须研究继续匹配中的获得最佳性能的配置如下所示:

  • 四个内部资源池 (适用于 SQL Server)

  • (对于外部脚本作业) 的四个外部资源池

  • 每个资源池是与特定工作负荷组相关联

  • 每个资源池分配给不同的 Cpu

  • 最大内部内存使用情况 (适用于 SQL Server) = 30%

  • 使用 R 会话的最大内存为 70%

用于 resume 匹配模型外部脚本使用了大量,并且没有其他数据库引擎服务运行。 因此,分配给外部脚本的资源已增加到了 70%,这被证明脚本性能的最佳配置。

此配置被到达通过试验不同的值。 如果使用不同的硬件或另一种解决方案,最佳的配置可能会有所不同。 始终通过试验来找到最适合您的案例配置 !

在优化的解决方案中,1.1 一百万行数据 (包括 100 功能) 的已评分 20 核计算机上在 8.5 秒内。 优化显著改进了性能根据评分的时间。

结果还建议的功能数评分的时间很大的影响。 更多的功能用于预测模型中时,改进了甚至更显著。

我们建议您阅读此博客文章,并详细讨论的随附教程。

多个用户已记下 R (或 Python) 运行时加载第一次没有小暂停。 出于此原因,这些测试中所述的第一次运行时间是通常单位但更高版本被丢弃。 后续缓存可能会导致显著的性能差异第一个和第二个运行。 此外还有一些系统开销外部运行时,SQL Server 之间移动数据时尤其是通过网络而不是直接从 SQL Server 加载传递数据。

出于这些原因,没有单一解决方案来缓解此初始加载期间,如变化较大的性能影响取决于任务。 例如,执行缓存的单行批处理; 中的计分因此,后续评分操作都要快得多,并且模型和 R 运行时都不重新加载。 此外可以使用本机计分以避免完全加载 R 运行时。

对于训练大型模型或大型批处理中的计分,开销可能会与从避免数据移动或流式处理和并行处理的提升相比最小。 请参阅这些最新博客和示例的更多的性能指南:

Resources

以下是信息、 工具和脚本在这些测试的开发中使用的链接。

了解 Windows server 管理

了解有关 SQL Server 优化

了解如何管理 SQL Server

工具

本系列中的其他文章

性能优化适用于 R – 简介

R 的 SQL Server 配置的性能优化

R-R 的性能优化的代码和数据优化

性能优化-案例研究结果

历史资料。此文对应 2018-11-30 的中文文档快照,适用产品版本和命令行为以原文为准。

来源与署名:Microsoft 和文档贡献者(原始作者元数据 HeidiSteen)。固定版本原文。文档采用 CC BY 4.0,示例代码采用 MIT 授权。本站展开固定版本仓库内的引用内容,将 Markdown 转为 HTML,规范化链接,移除外部媒体、发布器占位标签和导航标记。

资料来源与适用范围

资料来源
Microsoft / SQL Server 中文文档历史快照
适用范围
历史中文快照 2018-11-30;详见原文产品版本;文档日期 04/15/2018
内容语言
中文;命令、路径和错误标识保留技术原文
本地收录日期
2026-11-16
授权说明
CC BY 4.0(文档)/ MIT(示例代码)

正文与所需资源由本站本地存储。查看来源及更新记录 ↗

请按适用版本和实际日志确认原因;本站没有对每一种系统或设备逐项执行文中的操作。