英特尔:registered: 发行版 OpenVINO:tm: 工具套件 2022.2 版本更新

O
 OSC_Albert
发布于 2022年09月29日
收藏 2

2022.2 版本新内容

本工具套件的最新版本 (2022.2) 使各地的开发人员都能够更简单地开始创新。利用更简洁的 API 和更多集成进行构建。利用更广泛的模型和硬件支持进行优化。利用改善的可移植性和性能进行部署。
注意 这是标准版本,适用于偏好最新功能和出色性能的开发人员。标准版本将每年更新三至四次。此外还提供长期支持 (LTS) 版本。每年发布一个新 LTS 版本,并提供两年支持(一年错误修复和两年安全补丁)。

更广泛的支持

在扩展的深度学习模型中轻松优化和部署,包括自然语言处理 (NLP)。通过扩展的硬件获取 AI 加速。
  • 第 13 代智能英特尔® 酷睿™ 台式机处理器(原代号为 Raptor Lake)的全新初始支持。
  • 使用第 4 代英特尔® 至强® 处理器(原代号为 Sapphire Rapids)的预览支持,获得测试您的模型性能的新功能。

更简洁的 API 以及更多集成

采用和维护您的代码现在变得更加简单。新版本需要更少的代码更改,在与框架集成时提供更多选项,并最大限度地减少转换。
  • 通过 OpenVINO™ 执行程序,ONNX* (Open Neural Network Exchange) 运行时开发人员能获得更多性能优化选择。现在可以通过最少的代码更改,更简单地添加英特尔发行版 OpenVINO 工具套件。
  • PyTorch* 中的模型推理现在通过全新的 OpenVINO™ 与 Torch-ORT 的集成得到加速。PyTorch 的开发人员可以更无缝地与 OpenVINO 集成,并通过更少的代码更改来获得性能收益。
这些框架集成并未包含在安装包中。这些产品面向未安装标准 OpenVINO 工具套件的用户。有关更多信息,请访问相应的链接。
 

可迁移性和性能

通过跨 CPU、GPU 等的自动设备发现、负载均衡和动态推理并行来快速提升性能。
  • AUTO 功能中添加了新的累积吞吐量和一些精选的计算模式。这为 AUTO 基础功能添加了一个自动发现的配置,使得多个加速器(比如多个 GPU)能够得到立即使用,以最大限度地提高推理性能。
  • 工具套件中内置了专家优化。利用自动批处理功能来为您的系统配置和深度学习模型进行自动调整和自定义正确的吞吐量设置,提高设备的性能。获得可扩展的并行性和优化的内存使用。
 

 

本站文章除注明转载外,均为本站原创或编译。欢迎任何形式的转载,但请务必注明出处,尊重他人劳动共创开源社区。
转载请注明:文章转载自 开源中国社区 [http://www.oschina.net]
本文标题:英特尔:registered: 发行版 OpenVINO:tm: 工具套件 2022.2 版本更新
加载中
返回顶部
顶部