首页 Java java教程 AWS SnapStart - 使用 Lambda 层通过 Java 测量冷启动和热启动部分(2)

AWS SnapStart - 使用 Lambda 层通过 Java 测量冷启动和热启动部分(2)

Sep 10, 2024 am 06:36 AM

AWS SnapStart - Part Measuring cold and warm starts with Java using Lambda layer (2)

介绍

在博客文章如何为 Java 21 Lambda 函数创建、发布和使用层中,我们解释了如何使用 Java 21 发布第一个 Lambda 层。在文章中,使用 Lambda 层从 Java 21 开始测量冷热值 (1)我们使用此 Lambda 层创建应用程序,然后在启用 SnapStart 的情况下测量冷启动和热启动时间,启用 SnapStart 并应用 DynamoDB 调用启动优化,并将结果与​​我们的测量结果进行比较,而无需使用 Lambda 层并在 POM 文件中提供所有依赖项我们在使用不同的 Lambda 内存设置从 Java 21 测量冷热启动一文中做到了这一点。在本文中,我们将创建另一个包含所有依赖项的 Lambda 层,并在我们的应用程序中使用该层,进行相同的测量并将结果与​​之前的实验进行比较。

使用具有所有依赖项的 Lambda 层从 Java 21 开始测量冷热值

为了进行探索,我们将使用示例 Lambda 层来创建 Lambda 层,并使用 Java 21 运行时将所有 依赖项打包到该层中:

  • dynamodb
  • 拉姆达
  • apache 客户端
  • aws-lambda-java-core
  • aws-lambda-java-events
  • org-crac
  • slf4j-简单
  • 杰克逊数据格式-xml

我们还将使用示例应用程序。 AWS SAM 模板中基本上定义了 2 个 Lambda 函数,它们都响应 API 网关请求并通过从 DynamoDB 从 API 网关收到的 ID 检索产品。第一个 Lambda 函数 GetProductByIdWithPureJava21LambdaWithAllLayer 可以在有或没有 SnapStart 的情况下使用,第二个 GetProductByIdWithPureJava21LambdaAndPrimingWithAllLayer 使用 SnapStart 和 DynamoDB 请求调用启动。

为了将 Lambda 层与之前为 AWS SAM 模板中的 Lambda 函数创建的所有依赖项一起使用,我们必须向 Lambda 函数添​​加 Layers 参数,如下所示:

    Type: AWS::Serverless::Function
    Properties:
      FunctionName: GetProductByIdWithPureJava21LambdaWithAllLayer
      AutoPublishAlias: liveVersion
      Layers:
        - !Sub arn:aws:lambda:${AWS::Region}:${AWS::AccountId}:layer:aws-pure-java-21-common-lambda-layer:1
      Handler: software.amazonaws.example.product.handler.GetProductByIdHandler::handleRequest
登录后复制

请将层 ARN(包括版本)替换为您自己的,这是发布层命令 (aws lambdapublish-layer-version) 的输出。

在 pom.xml 中,您可以看到 provided 范围内的所有依赖项(通过附加的 Lambda 层)。

以下实验的结果基于重现超过 100 次冷启动和大约 100,000 次热启动,实验运行时间约为 1 小时。为此(以及我上一篇文章中的实验),我使用了负载测试工具嘿,但是您可以使用任何您想要的工具,例如 Serverless-artillery 或 Postman。
我通过为 Lambda 函数提供 1024 MB 内存并通过环境变量传递以下编译选项来运行所有这些实验:JAVA_TOOL_OPTIONS: "-XX:+TieredCompilation -XX:TieredStopAtLevel=1"(不进行分析的客户端编译)。

在下表中,我还将提供不使用 Lambda 层(并在 POM 文件中提供所有依赖项)的测量结果,这是我们在使用不同 Lambda 内存通过 Java 21 测量冷启动和热启动一文中所做的设置和使用普通Lambda层直接进行比较时的测量。
缩写 c 表示冷启动,w 表示热启动。

不使用 SnapStart 的冷 (c) 和热 (w) 启动时间(以毫秒为单位):

Experiment c p50 c p75 c p90 c p99 c p99.9 c max w p50 w p75 w p90 w p99 w p99.9 w max
with all dependencies Lambda Layer 2824.33 2884.24 2963.14 3324.07 3622.44 3625.58 5.50 6.20 7.16 15.50 46.19 1278.41
with common Lambda Layer 3497.91 3597.18 3695.58 3800.47 3908.33 4011.71 5.82 6.72 8.00 17.97 55.48 1709.13
w/o Lambda Layer 3157.6 3213.85 3270.8 3428.2 3601.12 3725.02 5.77 6.50 7.81 20.65 90.20 1423.63

没有启动的 SnapStart 的冷 (c) 和热 (w) 启动时间(以毫秒为单位):

Experiment c p50 c p75 c p90 c p99 c p99.9 c max w p50 w p75 w p90 w p99 w p99.9 w max
with all dependencies Lambda Layer 1706.64 1767.40 1893.59 2314.91 2646.68 2647.33 5.59 6.25 7.21 15.75 48.06 1403.71
with common Lambda Layer 2047.12 2124.24 2439.49 2705.52 2735.43 2831.59 5.68 6.40 7.45 17.06 48.45 2139.74
w/o Lambda Layer 1626.69 1741.10 2040.99 2219.75 2319.54 2321.64 5.64 6.41 7.87 21.40 99.81 1355.09

使用 SnapStart 和 DynamoDB 调用启动冷 (c) 和热 (w) 时间(以毫秒为单位):

Experiment c p50 c p75 c p90 c p99 c p99.9 c max w p50 w p75 w p90 w p99 w p99.9 w max
with all dependencies Lambda Layer 747.47 786.56 932.23 1099.38 1666.18 1666.62 5.42 5.91 7.39 16.39 45.09 574.61
with common Lambda Layer 713.88 766.38 1141.94 1181.41 1214.94 1215.32 5.59 6.30 7.39 16.39 45.09 574.61
w/o Lambda Layer 702.55 759.52 1038.50 1169.66 1179.05 1179.36 5.73 6.51 7.87 21.75 92.19 328.41

结论

在本文中,我们使用具有所有依赖项的 Lambda 层创建了应用程序,然后在未启用 SnapStart 的情况下测量了冷启动和热启动时间,在启用 SnapStart 的情况下还应用了 DynamoDB 调用启动优化,并将结果与​​我们在不使用 Lambda 的情况下的测量结果进行了比较层(并在 POM 文件中提供所有依赖项),这是我们在使用不同 Lambda 内存设置和通用 Lambda 层从 Java 21 测量冷热启动一文中所做的。

即使结果存在一些偏差,但使用具有所有依赖项的 Lambda 层进行多次测量后趋势始终相同:

  • 未启用 SnapStart 时,使用此 Lambda 层的冷启动比不使用 Lambda 层的百分位数高达 p90 的时间低了数百毫秒(这让我感到惊讶)。
  • 启用 SnapStart 但不使用 DynamoDB 请求启动时,冷启动会有所不同,有利于具有所有依赖项的 Lambda 层,或者有利于根本不使用 Lambda 层的 Lambda,具体取决于百分位。
  • 当使用 SnapStart 启动 DynamoDB 请求时,对于高达 p99 的百分位的两种用例,冷启动都很接近,而当使用带有所有依赖项的 Lambda 层时,对于 p99.9 及以上的百分位而言,冷启动的情况更高。 因此,每个用例的结果差异很大。我一直观察到,当使用具有所有依赖项的 Lambda 层时,所有测量的结果范围都相当大(p50 和最大值之间有 800-900ms 的差异),而当根本不使用 Lambda 层时,相同的范围要低得多。
  • 将本文中的测量值与常见 Lambda 层的测量值进行比较时,我们发现,在前 2 个实验中使用 Lambda 层中的所有依赖项(未启用 SnapStart 和启用 SnapStart 但未应用启动)时,冷启动速度较低,反之亦然。当 SnapStart 已启用且 DynamoDB 调用已准备就绪时。
  • 对于所有用例来说,Lambda 函数的热启动/执行时间都非常接近。

因此 Lambda 层的使用(取决于您放置的内容以及作为应用程序中的依赖项提供的内容)会增加一些不可预测性,您应该始终进行自己的测量!

以上是AWS SnapStart - 使用 Lambda 层通过 Java 测量冷启动和热启动部分(2)的详细内容。更多信息请关注PHP中文网其他相关文章!

本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

Video Face Swap

Video Face Swap

使用我们完全免费的人工智能换脸工具轻松在任何视频中换脸!

热门文章

<🎜>:泡泡胶模拟器无穷大 - 如何获取和使用皇家钥匙
3 周前 By 尊渡假赌尊渡假赌尊渡假赌
北端:融合系统,解释
3 周前 By 尊渡假赌尊渡假赌尊渡假赌
Mandragora:巫婆树的耳语 - 如何解锁抓钩
3 周前 By 尊渡假赌尊渡假赌尊渡假赌

热工具

记事本++7.3.1

记事本++7.3.1

好用且免费的代码编辑器

SublimeText3汉化版

SublimeText3汉化版

中文版,非常好用

禅工作室 13.0.1

禅工作室 13.0.1

功能强大的PHP集成开发环境

Dreamweaver CS6

Dreamweaver CS6

视觉化网页开发工具

SublimeText3 Mac版

SublimeText3 Mac版

神级代码编辑软件(SublimeText3)

热门话题

Java教程
1666
14
CakePHP 教程
1425
52
Laravel 教程
1325
25
PHP教程
1273
29
C# 教程
1252
24
公司安全软件导致应用无法运行?如何排查和解决? 公司安全软件导致应用无法运行?如何排查和解决? Apr 19, 2025 pm 04:51 PM

公司安全软件导致部分应用无法正常运行的排查与解决方法许多公司为了保障内部网络安全,会部署安全软件。...

如何将姓名转换为数字以实现排序并保持群组中的一致性? 如何将姓名转换为数字以实现排序并保持群组中的一致性? Apr 19, 2025 pm 11:30 PM

将姓名转换为数字以实现排序的解决方案在许多应用场景中,用户可能需要在群组中进行排序,尤其是在一个用...

如何使用MapStruct简化系统对接中的字段映射问题? 如何使用MapStruct简化系统对接中的字段映射问题? Apr 19, 2025 pm 06:21 PM

系统对接中的字段映射处理在进行系统对接时,常常会遇到一个棘手的问题:如何将A系统的接口字段有效地映�...

IntelliJ IDEA是如何在不输出日志的情况下识别Spring Boot项目的端口号的? IntelliJ IDEA是如何在不输出日志的情况下识别Spring Boot项目的端口号的? Apr 19, 2025 pm 11:45 PM

在使用IntelliJIDEAUltimate版本启动Spring...

如何优雅地获取实体类变量名构建数据库查询条件? 如何优雅地获取实体类变量名构建数据库查询条件? Apr 19, 2025 pm 11:42 PM

在使用MyBatis-Plus或其他ORM框架进行数据库操作时,经常需要根据实体类的属性名构造查询条件。如果每次都手动...

Java对象如何安全地转换为数组? Java对象如何安全地转换为数组? Apr 19, 2025 pm 11:33 PM

Java对象与数组的转换:深入探讨强制类型转换的风险与正确方法很多Java初学者会遇到将一个对象转换成数组的�...

如何利用Redis缓存方案高效实现产品排行榜列表的需求? 如何利用Redis缓存方案高效实现产品排行榜列表的需求? Apr 19, 2025 pm 11:36 PM

Redis缓存方案如何实现产品排行榜列表的需求?在开发过程中,我们常常需要处理排行榜的需求,例如展示一个�...

电商平台SKU和SPU数据库设计:如何兼顾用户自定义属性和无属性商品? 电商平台SKU和SPU数据库设计:如何兼顾用户自定义属性和无属性商品? Apr 19, 2025 pm 11:27 PM

电商平台SKU和SPU表设计详解本文将探讨电商平台中SKU和SPU的数据库设计问题,特别是如何处理用户自定义销售属...

See all articles