• Catapult AI NN 是一款解決方案，能夠幫助軟件工程師綜合 AI 神經(jīng)網(wǎng)絡(luò )

• 軟件開(kāi)發(fā)團隊能夠將使用 Python 設計的 AI 模型無(wú)縫轉換為基于芯片的實(shí)現，與標準處理器相比，有助于更快、更節能的執行

西門(mén)子數字化工業(yè)軟件日前推出 Catapult? AI NN 軟件，可幫助神經(jīng)網(wǎng)絡(luò )加速器在專(zhuān)用集成電路 (ASIC) 和芯片級系統 (SoC) 上進(jìn)行高層次綜合 (HLS)。Catapult AI NN 是一個(gè)綜合性解決方案，它能夠獲取 AI 框架中的神經(jīng)網(wǎng)絡(luò )描述，然后將其轉換為 C++ 代碼，并合成為 Verilog 或 VHDL 語(yǔ)言的 RTL 加速器，以便在芯片中實(shí)現。

Catapult AI NN 集成了用于機器學(xué)習硬件加速的開(kāi)源軟件包 hls4ml，以及用于高層次綜合的西門(mén)子 Catapult? HLS 軟件。Catapult AI NN 由西門(mén)子與美國能源部費米實(shí)驗室以及其他為 hls4ml 做出貢獻的機構合作開(kāi)發(fā)，能滿(mǎn)足機器學(xué)習加速器設計對于定制芯片功耗、性能和面積 (PPA) 方面的獨特要求。

西門(mén)子數字化工業(yè)軟件副總裁兼高層次設計、驗證和功耗總經(jīng)理 Mo Movahed 表示：“無(wú)論是神經(jīng)網(wǎng)絡(luò )模型的交接過(guò)程，還是其向硬件實(shí)現的手動(dòng)轉換，效率都非常很低，并且耗時(shí)、容易出錯，特別是在創(chuàng )建和驗證針對特定性能、功耗和面積定制的硬件加速器變體時(shí)。通過(guò)讓科學(xué)家和 AI 專(zhuān)家充分利用行業(yè)標準的 AI 框架 （例如神經(jīng)網(wǎng)絡(luò )模型設計），并將這些模型無(wú)縫綜合到已經(jīng)經(jīng)過(guò) PPA 優(yōu)化的硬件設計中，我們能夠為 AI/ML 軟件工程師創(chuàng )造更多可能。使用西門(mén)子新的 Catapult AI NN 解決方案，開(kāi)發(fā)人員能夠在軟件開(kāi)發(fā)過(guò)程中自動(dòng)實(shí)現神經(jīng)網(wǎng)絡(luò )模型，同時(shí)進(jìn)行 PPA 優(yōu)化，提升 AI 的開(kāi)發(fā)效率，并實(shí)現加速創(chuàng )新?！?/p>

隨著(zhù) runtime AI 和機器學(xué)習任務(wù)從數據中心遷移至消費電器、醫療設備等領(lǐng)域，客戶(hù)對合適大小的 AI 硬件的需求也在快速增長(cháng)，以減少功耗，降低成本，并實(shí)現終端產(chǎn)品差異化。然而，比起可綜合的 C++、Verilog 或 VHDL，多數機器學(xué)習專(zhuān)家更習慣使用 TensorFlow、PyTorch 或 Keras 等工具。過(guò)去，AI 專(zhuān)家要在合適大小的 ASIC 或 SoC 實(shí)現中加快機器學(xué)習應用，其實(shí)并沒(méi)有捷徑可走。hls4ml 計劃旨在將 TensorFlow、PyTorch 或 Keras 等 AI 框架中的神經(jīng)網(wǎng)絡(luò )描述生成 C++ 代碼，幫助彌補這一缺陷。隨后即可部署這些 C++ 代碼，用于 FPGA、ASIC 或 SoC 實(shí)現。

Catapult AI NN 能夠將 hls4ml 的功能擴展到 ASIC 和 SoC 設計，它包括針對 ASIC 設計量身定制的專(zhuān)用 C++ 機器學(xué)習功能資源庫。使用這些功能，設計人員能夠在各個(gè) C++ 代碼實(shí)現之間進(jìn)行延時(shí)和資源方面的權衡，從而實(shí)現 PPA 的優(yōu)化。此外，設計人員現在還能夠評估不同神經(jīng)網(wǎng)絡(luò )設計的影響，以確定硬件的理想神經(jīng)網(wǎng)絡(luò )結構。

“粒子探測器有非常嚴格的邊緣 AI 約束條件，”費米實(shí)驗室的新興技術(shù)主管 Panagiotis Spentzouris 表示，“我們與西門(mén)子合作開(kāi)發(fā) Catapult AI NN，這種綜合性框架充分利用了我們的科學(xué)家和 AI 專(zhuān)家的專(zhuān)業(yè)知識，即便他們并不是 ASIC 設計人員。此外，這種框架也非常適合經(jīng)驗豐富的硬件專(zhuān)家使用?！?/p>

Catapult AI NN 目前已向早期采用者提供，并將于 2024 年第 4 季度向所有用戶(hù)開(kāi)放。