Ambiq 推出兩款新的邊緣 AI 運行
解決方案
Apollo SoC以超低功耗加速邊緣AI運算佈署
德克薩斯州奧斯丁,2025 年 7 月 22 日 – 邊緣 AI 超低功耗半導體解決方案的技術領導者 Ambiq Micro, Inc.(“Ambiq”)今天推出了 HeliosRT(運行時)和 HeliosAOT(預先),這兩款針對 Ambiq Apollo 系統級晶片 (SoC) 系列進行了優化的新型邊緣 AI 運行時解決方案。這些開發人員工具旨在顯著提高 AI 模型的性能和能效,以滿足邊緣計算環境的獨特需求。
應對關鍵的邊緣 AI 挑戰
隨著 AI 工作負載越來越多地遷移到邊緣設備,開發人員在嚴格的功耗預算內提供高性能面臨著越來越大的壓力。傳統的 AI 框架通常在超低功耗場景中苦苦掙扎,因此很難在電池供電的設備(如可穿戴設備、耳戴式設備、物聯網感測器和工業監視器)中部署複雜的 AI 模型。
Ambiq 的新運行時解決方案擴展了其不斷增長的以開發人員為中心的工具組合,旨在幫助工程師釋放 Apollo SoC 的全部潛力。 HeliosRT 和 HeliosAOT 為邊緣 AI 提供了靈活的高性能部署選項,適用於從數位健康和智慧家居到工業自動化等廣泛應用。
HeliosRT:功耗優化的 LiteRT
HeliosRT 是 LiteRT(以前稱為 TensorFlow Lite for Microcontrollers)的性能增強實現,專為能源受限的環境量身定製。HeliosRT 與現有的 TensorFlow 工作流完全相容,引入了一些關鍵改進:
- 針對 Apollo510 的向量加速硬體優化的定製 AI 內核
- 改進了對音訊和語音處理模型的數值支援
- 與標準 LiteRT 實現相比,推理速度和能效提高了 3 倍
HeliosAOT: 將 LiteRT 編譯為優化的 C 代碼
HeliosAOT 引入了一個全新的預編譯器,可將 TensorFlow Lite 模型直接轉換為嵌入式 C 代碼,用於邊緣 AI 部署。這種創新方法提供運行時級別或更好的性能,並具有其他優勢:
- 與傳統的基於運行時的部署相比,記憶體佔用減少 15-50%
- 精細的記憶體控制,在Apollo的記憶體層次結構中實現每層權重分配
- 簡化部署,將生成的 C 代碼直接整合到嵌入式應用程式中
- 為資源受限的系統提供更大的靈活性
“開發人員體驗和能效的交匯點是我們的北極星,”Ambiq AI 副總裁 Carlos Morales 說。HeliosRT 和 HeliosAOT 旨在與現有的 AI 開發管道無縫集成,同時提供邊緣應用程式所需的性能和效率提升。我們相信,這是使複雜 AI 真正無處不在的重要一步。
由SPOT®和現實世界的成功提供支援
這兩款 Helios 解決方案都建立在 Ambiq 的專利亞閾值功率優化技術 (SPOT) 之上,該技術是全球部署超過 2.7 億台設備的基礎。利用多年的軟硬體協同設計,這些工具為面向邊緣的開發人員提供了可衡量的性能提升和簡化的部署。
可用性
- HeliosRT 現已通過 neuralSPOT SDK 提供測試版,預計將於 2025 年第三季度全面發佈
- HeliosAOT 目前作為技術預覽版提供給精選合作夥伴,並計劃在 2025 年第 4 季度更廣泛地提供
這兩種解決方案都為強大的文檔、即用型示例和面向Ambiq客戶的專門工程説明提供支援。
關於 Ambiq
Ambiq 的使命是透過提供最低功耗的半導體解決方案來實現無處不在的人工智慧 (AI) 和智慧技術 。 我們幫助客戶在功耗挑戰最為嚴峻的邊緣端實現人工智慧 (AI) 計算。 我們的技術創新基於專利和專有技術——亞閾值功耗優化技術(SPOT®) ,與傳統半導體設計相比,從根本上將晶片功耗降低了數倍。 截至目前,我們已經為超過2.7億台設備提供支援。 有關更多資訊,請訪問 www.ambiq.com。
聯繫方式
Charlene Wan
企業行銷和投資者關係副總裁
cwan@ambiq.com
+1.512.879.2850
Edge Impulse 是 EdgeImpulse,Inc. 的商標或註冊商標。
閱讀更多: 發展歷程 | 文檔 | 新聞稿 | 博客文章