初創(chuàng)公司Untether推出了一款人工智能(AI)芯片,旨在為汽車、農業(yè)設備和其他極端情況下的AI應用提供支持。
英偉達和AMD生產(chǎn)的旗艦AI芯片旨在與數(shù)千或數(shù)萬個其他芯片連接在一起的數(shù)據(jù)中心內運行。此類安裝需要大量能源和額外設備,通常用于構建或訓練為ChatGPT等應用程序提供支持的大型語言模型。
總部位于加拿大多倫多的Untether表示,其芯片旨在在模型構建后運行AI應用程序,并且可以以更高的效率運行。
Untether產(chǎn)品副總裁Bob Beachler表示,到2027年,僅運行AI應用程序(也稱為“推理”)的芯片市場將遠遠超過訓練市場。該公司預計,到2027年,推理市場規(guī)模將增長至1020億美元。
“推理技術的應用范圍非常廣泛,”Bob Beachler說道。
Untether的芯片名為240 Slim,性能出色,但能耗卻低得多,適合在自動駕駛汽車、自動農業(yè)設備和一些數(shù)據(jù)中心內使用。
梅賽德斯-奔馳表示,正在與Untether合作開發(fā)其下一代自動駕駛汽車。
Untether生產(chǎn)的芯片是圍繞開源RISC-V技術開發(fā)的。RISC-V技術與Arm的設計相競爭。
在非營利組織MLCommons最近進行的同行評審基準測試中,Untether的芯片在針對硬件設計的應用程序的測試中表現(xiàn)良好。