AI加速器為Raspberry Pi 5帶來(lái)低功耗生成式AI

EdgeCortex 宣布，其行業(yè)領(lǐng)先的 AI 加速器模塊 SAKURA-II M.2 現(xiàn)已可用于基于 Arm 的平臺(tái)，包括 Raspberry Pi 5 和 AETINA Rockchip 平臺(tái)。該模塊為邊緣 AI 計(jì)算應(yīng)用提供高性能和高效率，同時(shí)使實(shí)時(shí)生成式 AI 功能大眾化。

SAKURA-II M.2 模塊的設(shè)計(jì)注重低功耗和高 AI 吞吐量，使開發(fā)人員能夠直接在緊湊、經(jīng)濟(jì)實(shí)惠的平臺(tái)上運(yùn)行高級(jí)深度學(xué)習(xí)模型，例如 Raspberry Pi 5 和其他基于 Arm 的平臺(tái)，而無(wú)需依賴云基礎(chǔ)設(shè)施。嵌入式 Arm 平臺(tái)的生成式 AI 功能有望推動(dòng)下一波智能自主系統(tǒng)的發(fā)展。

EdgeCortex 創(chuàng)始人兼首席執(zhí)行官 Sakyasingha Dasgupta 博士表示：“將我們的低功耗 AI 加速技術(shù)帶給 Raspberry Pi 5 用戶，為世界各地的創(chuàng)新者和企業(yè)打開了一扇大門，讓他們能夠快速構(gòu)建更智能、更快、更高效的邊緣 AI 驅(qū)動(dòng)設(shè)備和系統(tǒng)。

“將 Raspberry Pi 5 與 EdgeCortex 的 SAKURA-II 配對(duì)，為邊緣的實(shí)時(shí)生成 AI 提供了一個(gè)非常高效和可擴(kuò)展的平臺(tái)”，Novo Tellus Capital Partners 的風(fēng)險(xiǎn)合伙人兼 Lantronix 和 Tessolve 的董事會(huì)成員 Sailesh Chittipeddi 說(shuō)。同樣引人注目的是 SAKURA-II 能夠加速各種基于 Arm 的系統(tǒng)，使下一代物聯(lián)網(wǎng)和邊緣應(yīng)用工程師能夠在各種應(yīng)用中部署高性能 AI，而不會(huì)產(chǎn)生傳統(tǒng)數(shù)據(jù)中心硬件的成本或功耗負(fù)擔(dān)。

該模塊帶有 Raspberry Pi 5 和其他支持 Arm 的平臺(tái)，能夠以最小的延遲和功耗在設(shè)備上直接執(zhí)行最新的生成式 AI，包括視覺轉(zhuǎn)換器、小語(yǔ)言模型和視覺語(yǔ)言模型 （VLM） 等高級(jí) AI 模型。此外，SAKURA-II 和 Raspberry Pi 以傳統(tǒng)產(chǎn)品的一小部分成本提供強(qiáng)大的邊緣 AI，從而減少基礎(chǔ)設(shè)施需求并實(shí)現(xiàn)經(jīng)濟(jì)高效的擴(kuò)展。

該模塊針對(duì) Arm 進(jìn)行了優(yōu)化，可從 Arm 處理器無(wú)縫卸載 AI 工作負(fù)載，從而實(shí)現(xiàn)性能和效率的平衡。開發(fā)人員可以使用帶有經(jīng)過(guò)認(rèn)證的 Raspberry Pi 5 和其他 Arm 平臺(tái)的生產(chǎn)就緒型 SAKURA-II M.2 模塊，從原型快速擴(kuò)展到生產(chǎn)。

這種組合非常適合在 SWaP-C 受限環(huán)境中實(shí)現(xiàn)自主 AI，非常適合無(wú)人機(jī)、機(jī)器人、智能農(nóng)業(yè)和安全，這些領(lǐng)域需要高效的設(shè)備端智能。

借助這些 Arm 平臺(tái)，EdgeCortix 正在為開發(fā)人員和硬件創(chuàng)新者的廣泛生態(tài)系統(tǒng)提供支持，以構(gòu)建經(jīng)濟(jì)高效、生產(chǎn)就緒的邊緣 AI。這使初創(chuàng)公司和企業(yè)能夠在不依賴云的情況下部署智能應(yīng)用程序，以最低的功耗要求在設(shè)備上運(yùn)行生成式 AI。