Platform在戴姆勒-克莱斯勒公司应用的成功案例.pdf

《Platform在戴姆勒-克莱斯勒公司应用的成功案例.pdf》由会员分享，可在线阅读，更多相关《Platform在戴姆勒-克莱斯勒公司应用的成功案例.pdf（17页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、Platform 在戴姆勒-克莱斯勒公司应用的成功案例 在戴姆勒-克莱斯勒公司应用的成功案例 1-1 借助 借助 Platform LSF 充分利用闲置计算资源，戴姆勒-克莱斯勒公司开展 充分利用闲置计算资源，戴姆勒-克莱斯勒公司开展 LS-DYNA 碰撞模拟实验 碰撞模拟实验 Dale Dunlap 和 Joseph Cieslak P.E.Platform Computing 公司 John Picklo 戴姆勒-克莱斯勒公司 Platform 在戴姆勒-克莱斯勒公司应用的成功案例 在戴姆勒-克莱斯勒公司应用的成功案例 1-2 摘要 摘要 计算机辅助工程（CAE）工具是产品开发周期的一个重

2、要组成部分，用于在设计阶段执行复杂的模拟和分析。为满足设计工程师在使用此类应用时的响应时间要求，CAE 需要利用大量的计算资源。CAE 工具可确保产品更快上市，无需制造原型，并可提升最终产品的质量，这就为制造商赢得了效率与量产优势。本文对一套完整方案进行了论述，在这套方案中，我们将高性能计算(HPC)集群网格应用到了戴姆勒-克莱斯勒(DCX)的桌面工作站中。这套方案允许戴姆勒-克莱斯勒透明地使用空闲工作站的 CPU，因而极大地提升了整体计算能力，可与专业的 HPC 解决方案相媲美，而成本与后者相比，仅是其一小部分。以该解决方案为基础，还可进一步将网格部署至戴姆勒-克莱斯勒的基础设施，从而未来可

3、获得更多益处。通过对现有资源潜在计算能力进行管理，Platform 和戴姆勒-克莱斯勒意识到，这样能够使现有资产的价值实现最大化，同时获得的计算能力亦可加快并优化研究与分析过程，并且不会对这些工作站用户的日常应用产生任何影响。企业可用台式机的利用率通常大约占 57，而大型企业则拥有成千上万台台式机。因此，在应用高峰期间，我们能够采用一种经济高效的方式来提升计算性能，同时不必额外采购高性能计算 的 CPU。Platform 在戴姆勒-克莱斯勒公司应用的成功案例 在戴姆勒-克莱斯勒公司应用的成功案例 1-3 背景 背景 戴姆勒-克莱斯勒公司在 CAE 工具使用方面居于全球领先地位。多年以来，戴姆勒

4、-克莱斯勒始终成功使用 Platform Computing 的 LSF 产品来支持其在 NAFTA 区域内（运行诸如 LS-DYNA 等 CAE 工具套件）的高性能计算集群实现网格计算功能。资料显示，通过将执行工作中的延迟降至最低，LSF 可优化 HPC 集群中的 CPU 利用率，实现效率提升 90。在 LSF 被充分应用于戴姆勒-克莱斯勒的 HPC 集群的前提下，通过使用为戴姆勒-克莱斯勒工程师配备的大约 1，500 个 UNIX 工作站，利用这些工作站中的 CPU 空闲周期，亦可实现 HPC 集群网格的扩展。戴姆勒-克莱斯勒公司已使用 LSF 产品多年。目前运行有两个独立生产集群。其中一

5、个集群主要用于 LS-DYNA 碰撞模拟，该集群有 1，000 多个 CPU，全天 24 小时运行。该集群为数百个工程师提供服务，对戴姆勒-克莱斯勒的业务而言，其意义十分重大。戴姆勒-克莱斯勒还拥有 1，500 多台 UNIX 台式机，多数用于 CAD 应用 CATIA。由于 CATIA 是 CPU 与内存密集型应用，白天主要为设计人员所用，因此，这些工作站在夜间和周末闲置期间可用作 LS-DYNA 的潜在计算资源。戴姆勒-克莱斯勒最初希望，无论如何都要充分使用 HPC 集群，并“窃取”台式机空闲的计算资源，从而将其添加到 HPC 集群系统中。为了确保计算之间的互通，工作站上的 LS-DYNA

6、 任务也必须分配 12 个 CPU 运行（该任务配置与 HPC 环境下的处理器要求相同）。Platform 在戴姆勒-克莱斯勒公司应用的成功案例 在戴姆勒-克莱斯勒公司应用的成功案例 1-4 为什么要选择为什么要选择 Platform Computing？Platform Computing 在帮助企业更全面有效地了解其现有 IT 投资状况，以及充分利用 IT 投资方面，已积累了长达 14 年以上的丰富经验。通过提供全天候全球技术支持，Platform 已成功为 2200 多家企业提供网格解决方案。Platform 拥有业内最完整的网格产品套件。没有哪家公司的解决方案可与 Platform 的

7、网格解决方案相媲美，而 Platform 在部署方面的经验更令这些公司无法比拟。Platform 对所提供的稳定产品都有跟踪记录，这就降低了部署网格解决方案方面的风险。由于 Platform 的产品能够降低故障率及管理费用，并且具备可进行扩充以管理大型工作负载的出色能力，因此 Platform 的产品已经证实可具有最低的总拥有成本。作为全球网格论坛的主要成员之一，Platform 正致力于确立网格标准。Platform 的目标是支持 OGSA 和 OGSI 标准。这就降低了戴姆勒-克莱斯勒与其它网格部署标准进行互操作的风险。Platform 在戴姆勒-克莱斯勒公司应用的成功案例 在戴姆勒-克莱

8、斯勒公司应用的成功案例 1-5 戴姆勒-克莱斯勒公司的要求 戴姆勒-克莱斯勒公司的要求 为了保证 UNIX 台式机资产得以优化，Platform 和戴姆勒-克莱斯勒公司确立了如下要求：1.在不影响用户的情况下，在配置时间窗口充分利用台式机资源。LS_Dyna 任务运行需要大量时间，将耗费大量资源，这可能降低机器速度，因此用户不希望工作时，台式机上有其它任务运行。只有在完全空闲时，台式机才能执行这些任务。本解决方案应允许管理员定制时间窗口，对“周期窃取”活动进行控制，并将对台式机用户的影响降至最低。2.只有符合“节点选择标准要求”的台式机，方在备选之列。符合预定义标准要求的台式机，亦可考虑加入集

9、群。节点选择需自动完成，这些标准要求必须允许管理员进行再设置。典型的标准要求是：-最小 18 G 的本地可用磁盘。-不运行“Catia”程序。-没有任何用户登录至该台式机的控制台，或键盘/鼠标至少空闲了半小时。3.“最佳”台式机可候选备用。最初，戴姆勒-克莱斯勒希望每晚利用一些可用台式机（从 1，500 个备选机中选出）构建一个“新集群”。由于管理员手动选择难度颇大，故选择需自动完成。“最佳”选项将是可配置的，能够依据 CPU 的性能和/或台式机内存进行选择。“新集群”的大小也应是可配置的，并应基于配置数量或工作负载进行配置。4.在时间窗口期间，HPC 集群的挂起任务(jobs pending

10、)可使用台式机资源。根据运行时要求，可在时间窗口期间为台式机分配任务。Platform 在戴姆勒-克莱斯勒公司应用的成功案例 在戴姆勒-克莱斯勒公司应用的成功案例 1-6-用户可监控台式机上运行任务的状态。-任务完成后，用户可得到任务的完成结果。-时间窗口关闭时，将自动检测未完成任务，并重新将其排列至 HPC 集群队列顶部。-清空台式机上的任务。5.LS-DYNA 的任务特性和运行时要求：-12 个 CPU 的 MPI 并行任务。-平均运行时超过 10 个小时。-任务必须在同类型计算机上运行。-任务必须可接受应用级断点保存(application-level checkpointable)。（

11、输出和断点文件保存在共享文件系统中）-如果某台计算机停机，应将任务顺利移植至其它地方。-任务应在清晨进行断点保存并返回至挂起状态。6.正在使用的生产集群(HPC)十分复杂，并且运行关键任务应用。本解决方案不应被干扰HPC 集群的正常运行。Platform 在戴姆勒-克莱斯勒公司应用的成功案例 在戴姆勒-克莱斯勒公司应用的成功案例 1-7 HPC Cluster(over 1000 servers)HPC 集群（1000 多台服务器）Desktop Cluster(s)台式机集群 Desktop Pool(over 3,500 desktops)台式机池(Desktop Pool)（3,500

12、多个台式机）LSF LSF Job forwarding 任务移交 Desktop Manager 台式机管理器 Job dispatching 任务分配 Membership 成员 Server farms 服务器群 Jobs submitting to HPC Cluster 任务提交至 HPC 集群 图 1.1UNIX 台式机 ActiveCluster 系统组织机构图 1.1UNIX 台式机 ActiveCluster 系统组织机构 额外的台式机资源组成一个或数个“台式机”集群，这些集群由各“台式机管理器”进行管理或控制。该台式机集群仅接受和执行来自 HPC 集群的任务。这种多台式机集

13、群和管理器设计在未来可以处理大型台式机池。下图显示该解决方案的架构和流程。Platform 在戴姆勒-克莱斯勒公司应用的成功案例 在戴姆勒-克莱斯勒公司应用的成功案例 1-8 HPC cluster HPC 集群 Desktop cluster 台式机集群 Client 客户机 LSF Server LSF 服务器 LSF Desktop LSF 台式机 LSF Manager LSF 管理器 Desktop Manager 台式机管理器 LSF Scheduler LSF 调度程序(1)Users submit jobs to HPC cluster(1)用户提交任务至 HPC 集群(2)(

14、7)LSF schedule jobs on HPC or desktop clusters(2)(7)LSF 调度 HPC 或台式机集群上的任务(3)(8)jobs dispatched,account mapping,and run on servers or desktops(3)(8)任务分配、帐户映射，以及在服务器或台式机上运行(4)(9)Send jobs status and result back(4)(9)发送任务状态并返回执行结果(5)Users get jobs result(5)用户获取任务执行结果(6)HPC cluster forwards jobs to Desk

15、top cluster(6)HPC 集群移交任务给台式机集群(10)Desktop cluster forwards jobs status and result back(10)台式机集群发送任务状态并返回执行结果(11)HPC cluster reclaims jobs from Desktop cluster(11)HPC 集群从台式机集群中收回任务(12)Desktop cluster checkpoints and requeues jobs(12)台式机集群检测并重新排列任务(13)Desktop cluster returns jobs back to HPC cluster(1

16、3)台式机集群将任务返回至 HPC 集群 图 1.2图 1.2UNIX 台式机 台式机 ActiveCluster 系统架构 系统架构 Platform 在戴姆勒-克莱斯勒公司应用的成功案例 在戴姆勒-克莱斯勒公司应用的成功案例 1-9 解决方案解决方案：Platform LSF Desktop Platform LSF Desktop（之前称 Platform LSF ActiveCluster）是一款软件产品，面向计算与数据密集型应用，通过发挥整个企业内部台式计算机（包括工作站、台式机及膝上型电脑）潜在的处理能力，管理和加速工作负载批处理流程。多数台式机的计算能力在约 90 的运行时间内都

17、没有得到充分发挥，而通过循环使用这一浪费资源，您无需添加额外的硬件投资即可提高企业的处理能力。这款企业计算解决方案支持企业将当前基于 Windows 的资源中重要的计算资源用于高效执行计算密集型任务，快速完成工作，提高用户工作效率。Platform LSF 可在分布式或虚拟 IT 环境中执行智能调度，并确保批量处理工作的完成。LSF Server Hosts LSF 服务器 Client 客户端 Workload Manager 工作负载管理器 A single LSF cluster can now be extended to reach ALL desktops!单一的 LSF 集群现在

18、可扩展至所有的台式机！ActiveCluster Server Hosts ActiveCluster 服务器 ActiveCluster Desktop Clients ActiveCluster 台式机客户端 Platform 在戴姆勒-克莱斯勒公司应用的成功案例 在戴姆勒-克莱斯勒公司应用的成功案例 1-10 为企业带来的优势 为企业带来的优势?Platform LSF 将 台式机资源组成的企业级网络转变成虚拟超级计算机，从而为企业提供卓越的可扩充性，并在计算能力上实现了巨大的突破。?通过专注于模拟或评估计算模型中的所有参数，企业可获得更高质量的计算结果。更高水平的生产力支持更为迅速的迭

19、代分析，并极大地缩短了上市时间。Platform LSF 将企业的处理能力进行了扩展，现有台式机资源中可充分进行再利用、人们尚 未利用过的闲置时间得以利用。这样，无需投资于额外的硬件，即可显著提高处理能力。特性 优势 高级网络调度 根据内存、闲置 CPU 容量、磁盘空间、临时空间、软件可用性，以及用户定义的资源限制来调度并分配工作负载。划分工作负载优先级，并进行优化 如同执行连续后台程序一样执行任务，充分利用所有未经使用的计算周期，将最大的计算能力应用于优先级最高的任务。可靠的任务执行 在执行过程中，为防止发生故障而自动对任务进行重新调度，因此不会产生任何单点故障。适宜在网络上运行的分布式计算

20、 其设计旨在经过轻松配置即可匹配企业网络架构、提供自动压缩、高速缓冲和阶段传输技术，从而保证网络流量最小化。安全信息 充分利用台式机固有的安全特性，来确保台式机和分布式数据及应用的机密性。Platform 在戴姆勒-克莱斯勒公司应用的成功案例 在戴姆勒-克莱斯勒公司应用的成功案例 1-11 该解决方案的工作原理 该解决方案的工作原理 第 1 阶段在办公时间内，HPC 集群的行为同当前环境完全相同。首先，用户将任务提交给 HPC 集群，而后调度程序会将任务分配给 HPC 集群中的计算服务器。这样，任何任务都不会在台式机上运行，从而不会对台式机用户造成干扰。实际上，台式机集群处于“备用模式”，只有

21、台式机管理器主机（或某些用于系统故障切换的备用台式机管理器）处于集群之中。阶段 1)：办公时间（台式机时间窗口以外）阶段 1)：办公时间（台式机时间窗口以外）HPC Cluster(over 1000 servers)HPC 集群（1000 多台服务器）Desktop Cluster 台式机集群 Desktop Pool(over 3,500 desktops)台式机池（3,500 多台台式机）LSF LSF Desktop Manager 台式机管理器 Job submitting 任务提交 Job dispatching 任务分配 图 2办公时间系统概览 图 2办公时间系统概览 Platf

22、orm 在戴姆勒-克莱斯勒公司应用的成功案例 在戴姆勒-克莱斯勒公司应用的成功案例 1-12 阶段 2当进入台式机成员时间窗口时，台式机集群将自动进行扩展。符合条件的台式机将加入集群。集群已为接受来自 HPC 集群的任务准备就绪。HPC 集群调度程序将挂起的任务移交给台式机集群，以利用额外的计算资源。而后，台式机集群调度程序会遵循定义的任务要求和调度策略，将任务分配至台式机。阶段 2)：下班时间（在台式机成员时间窗口内）阶段 2)：下班时间（在台式机成员时间窗口内）HPC Cluster(over 1000 servers)HPC 集群（1000 多台服务器）Desktop Cluster 台

23、式机集群 Desktop Pool(over 3,500 desktops)台式机池（3,500 多台台式机）LSF LSF Job forwarding 任务移交 Desktop manager 台式机管理器 Job dispatching 任务分配 Job submitting 任务提交 Membership 成员 Platform 在戴姆勒-克莱斯勒公司应用的成功案例 在戴姆勒-克莱斯勒公司应用的成功案例 1-13 图 3下班时间系统概览 图 3下班时间系统概览 在台式机时间窗口结束时，HPC 集群收回所移交的任务。对已开始的任务进行检测，使任务返回至挂起(pending)状态，并位于

24、HPC 集群队列顶端。HPC 集群返回其初始状态。当集群中所需的资源可以使用时，它可以重新开始检测任务。当任务完成后，台式机会自动进行清空，并从台式机集群中退出。它们可随时供台式机用户使用。阶段 3)：下一个办公时间返回至阶段 1 阶段 3)：下一个办公时间返回至阶段 1 HPC Cluster(over 1000 servers)HPC 集群（1000 多台服务器）Desktop Cluster 台式机集群 Desktop Pool(over 3,500 desktops)台式机池（3,500 多台台式机）LSF LSF Job reclaiming 任务收回 Desktop manager

25、 台式机管理器 Job checkpointing&requeue 任务检测和重新排列 Job sumitting 任务提交 Job dispatching 任务分配 图 4进入下一办公时间的系统概览 图 4进入下一办公时间的系统概览 Platform 在戴姆勒-克莱斯勒公司应用的成功案例 在戴姆勒-克莱斯勒公司应用的成功案例 1-14 LS-DYNA 任务提交的具体细节任务提交的具体细节 下图对 UNIX 台式机上任务的生命周期进行了简要概括。HPC Cluster HPC 集群 Desktop Cluster 台式机集群 Desktops 台式机 LSF LSF Desktop manag

26、er 台式机管理器 Jobs 任务 1.Submit job.1.提交任务。2.Schedule&dispatch job.2.调度和分配任务。3.Forward jobs at after hours.3.在下班时间移交任务。4.Schedule&dispatch job.4.调度和分配任务。5.Requeue if desktop is down.5.如果台式机停机，则重新排列任务。6.Checkpoint&requeue at office time.6.在办公时间检测和重新排列任务。NFS 网络文件系统(NFS)Application 应用 Job output 任务结果 Job ch

27、eckpoint files 任务检测文件 Platform 在戴姆勒-克莱斯勒公司应用的成功案例 在戴姆勒-克莱斯勒公司应用的成功案例 1-15 图 5 台式机任务的执行 图 5 台式机任务的执行 LSF 用户将任务提交给 HPC 集群。在台式机时间窗口中，HPC 集群将某些挂起任务移交给台式机集群。台式机集群的接收队列将按移交顺序对任务进行排列。台式机集群将尝试根据接收队列中定义的任务执行要求和调度策略来分配任务。如果某个任务执行主机停机，则该任务将被移出，并返回至挂起状态。调度程序会将其分配至其它可用主机，该任务将从上一个断点或起始处（如无断点）开始执行。任务结果保存到 HPC 和台式机

28、集群均可以访问的共享文件系统中，或通过现有 LSF 文件传输解决方案将结果返回至非共享的文件系统。如果任务无法在时间窗口内完成，则将对任务进行检测。检测数据将保存在共享文件系统中。任务将重新排列至 HPC 集群队列顶端。当所有任务移交完成后，台式机和台式机集群自动清空。Platform 在戴姆勒-克莱斯勒公司应用的成功案例 在戴姆勒-克莱斯勒公司应用的成功案例 1-16 执行挑战 执行挑战 在戴姆勒克莱斯勒中实施该解决方案，会遇到诸多挑战，其中包括：?LS-DYNA 断点保存：虽然在大部分情况下，能够采用“d3kill”文件检测 LS-DYNA 任务，但我们仍需要更快的方法来实现这一流程。为此

29、，我们采用 LS-DYNA“running restart（运行重新开始）”文件。这就要求戴姆勒克莱斯勒的员工对其提交任务的方式进行大幅度的修改。?在异构环境中运行 LS-DYNA：以前的实践显示，在不同的计算机架构上，LS-DYNA 会得出不同的计算结果。鉴于台式机网格和 HPC 环境下的主机可能有所不同，实现该项目的一个前提条件即，应能够对 LS-DYNA 进行配置，从而使其在所有类型的计算机上生成同样的结果。为满足这一条件，戴姆勒克莱斯勒和 LSTC 投入了大量的资源。?断点保存文件的网络存储：当任务进行重新排序后，为了能够在另一组主机上重新开始执行，这就要求对断点保存文件进行网络存储。

30、另外，为简化必要的任务控制脚本，我们采用了单独的 NFS 服务器。然而，由于流量的原因（可能有几百个主机同时写入数 GB 的数据），在如何配置该服务器以使其实现可靠运行上，可能会遇到问题。?LSF 调度问题：我们采用 LSF“pre_exec”脚本对主机进行设置以运行任务，在完成任务后，则采用“post_exec”脚本清空主机。在开始运行 post_exec 时，LSF 即认为任务已经完成，从而主机可以运行另一项任务。因此，在主机上可能会存在这样一种情形，即主机已经开始执行一个 pre_exec，而同时前一个任务的 post_exec 却尚未完成。此时，我们则需要对脚本进行大量的错误检查，来处理这种情形。Platform 在戴姆勒-克莱斯勒公司应用的成功案例 在戴姆勒-克莱斯勒公司应用的成功案例 1-17 结论 结论 LSF Desktop 解决方案是创建工程工作站“网格”、以运行 LS-DYNA 任务的一套较为可行的解决方案。该解决方案在生产环境中已成功应用了近一年的时间。借助“净化的(scavenged)”台式机周期，戴姆勒克莱斯勒每晚可运行多个 12 路并行 LS-DYNA 任务。Catia 用户并没有感觉到其台式机性能有任何的下降，而 LS-DYNA 用户在其任务周转时间上则获得了显著的改进。