AI正在快速进步，其动力不仅来源于持续的技术提高，还来自各个行业的需求和标准。随着大型语言模型(LLM)和生成式AI的激增，行业正在努力化解这些基于云的AI应用处理大数据以及训练和部署顶级AI模型所需的密集计算能力。如今AI被应用于各种客户端设备中，包括PC和智能手机，以及汽车和工业设备(如机器人和医疗设备)的网络边缘应用中，这些设备在网络边缘较小的语言模型上运行。

莱迪思团队最近和TECHnalysis Research总裁兼首席解析师Bob O'Donnell举办了一场小组讨论，探讨了网络边缘AI时代的到来，以及基于FPGA的化解方法在加速各行业网络边缘AI普及方面的影响。你可以点击此处观看精妙的讨论，内容涵盖AI动向、现实全球的网络边缘AI应用，以及莱迪思和NVIDIA在边缘AI方面的合作信息。继续阅读这篇文章小编将寻觅FPGA在推动网络边缘AI创造方面的重要影响。

网络边缘AI怎样推动创造

虽然基于云的AI提供了更强大的计算能力和存储容量，但它需要极强的处理能力、能耗、网络带宽标准更高，并导致延迟增加。通过将处理任务分担到本地设备，网络边缘AI减轻了集中式服务器的负担并降低了运营成本。通过优化资源利用率和最大限度地减少数据传输可以进步能效。网络边缘AI还能确保数据的本地化，减少传输或存储经过中的风险暴露，从而更好地控制数据，实现隐私和数据保护。

网络边缘AI在工业市场变革方面发挥着决定因素影响，在智能工厂和机器人等自动化功能至关重要的物联网应用中，边缘AI 是实现实时预测和数据处理的决定因素推动影响。例如，在制造工厂中，自动化机器必须每次都能够以相同的精度和速度执行任务。这些应用和环境标准实时网络连接和精准定时功能，便于大量传感器和其他外设能够快速交换和处理数据，以综合了解其所在环境。

然而，虽然网络边缘AI的需求及其潜力巨大，但有效实施仍然充满挑战。资源限制、能效和可扩展性等难题都也许阻碍大众利用网络边缘AI的优势来取得重大的业务成果。为了化解这些障碍，组织越来越多地利用FPGA技术，由于这些器件具备杰出的灵活性、低功耗、并行处理功能和安全性。

FPGA在网络边缘AI中的影响

随着网络边缘AI的需求和优势不断增长，开发人员和组织正在寻求AI模型运用到他们的应用中——同时思考到速度、灵活性和效率。FPGA具有低功耗传感器融合处理和桥接功能，是完成这项任务的理想选择。

莱迪思FPGA对于实现可扩展的网络边缘AI应用至关重要，由于它们具备下面内容特性：

· 适应性：FPGA可以配置执行特定的AI任务，进一步帮助开发人员根据其特殊需求定制应用。通过确保网络边缘AI应用最大的效能优化，进步其性能可靠性。

· 可扩展性：相比于功能固定的处理器，FPGA拥有无与伦比的灵活性，可以在部署后进行修改和更新，确保网络边缘AI设备即使在需求发生变化时也能保持相关性和有效性。

· 互连：FPGA的可定制I/O接口支持在各种环境中连接到各种边缘AI应用(例如，摄像头、激光雷达、雷达、环境传感器)。这有助于降低利用多个不同传感器和SoC的复杂性，实现更高性能、自适应接口以及桥接和传感器融合处理。

· 低延迟/高性能：FPGA显著减少了传感器数据采集和处理之间的延迟，从而实现更快的响应和更高的体系性能。通过在FPGA上执行预处理任务和数据聚合，网络边缘AI设备的计算引擎可以专注于更复杂的任务，进步整体体系效率，同时简化主SoC职业负载，降低主处理器的功耗和复杂性。

不断增长的边缘 AI 实施行业生态体系

随着组织越来越多地运用体系级方式执行处理，莱迪思也和NVIDIA建立合作，帮助客户加速网络边缘AI的实施。去年，大家公布建立了合作伙伴关系，并推出了一款最新的集成化解方法，将莱迪思的低功耗FPGA和NVIDIA Jetson Orin和IGX Orin平台结合在一款开源参考板上。它旨在满足开发人员在设计高性能网络边缘AI应用时对可定制性、可扩展性、连接性和低延迟的需求。

该化解方法帮助开发人员快速设计从传感器到计算的互连桥接应用，同时简化和加速部署需要不同传感器输入接口和协议的智能网络边缘体系。

这个基于FPGA的传感器桥接参考设计是在莱迪思CertusPro™-NX传感器-以太网桥接板上实现的，它支持低延迟、灵活的传感器配置和接口，以及以太网打包器。该设计可和英伟达Holoscan传感器桥接软件无缝结合，提供易于编程的体系控制、随时可用的可配置FPGA IP，以及利用英伟达IGX Orin和Orin AGX Holoscan进行数据采集和处理的全栈化解方法。该方法可用于实际场景，助力标准并行处理和精确定时的高效传感器融合，以及需要态势感知和对象检测功能的激光雷达和雷达技术。

运用FPGA实现低功耗AI

莱迪思FPGA技术的集成对于推进网络边缘低功耗AI至关重要。随着AI的不断进步，对高效、可扩展和适应性强的化解方法的需求变得越来越重要。FPGA提供低功耗、并行处理能力和灵活性，这一特殊的功能组合使其成为网络边缘AI应用的理想选择。

各行各业都可以通过莱迪思FPGA克服资源限制、能效和可扩展性方面的挑战。这些可编程器件支持实时数据处理和预测，这对于工业设备、医疗设备、汽车和机器人领域的应用至关重要。FPGA的适应性可以帮助用户量身定制AI化解方法，以满足各种环境的特定需求，确保最佳性能和可靠性。

随着莱迪思的持续进步，FPGA在提供低功耗AI方面的影响将继续扩大，为开发人员提供充分利用网络边缘AI潜力所需的工具。

（来源：莱迪思）