飛象網(wǎng)訊（魏德齡/文）總是習(xí)慣性晚一步的蘋(píng)果，已經(jīng)悄然瞄向了大熱的AI，此前圍繞在iOS18傳聞周圍的關(guān)鍵詞正是AI與智慧助手的升級(jí)，本周關(guān)于這一傳聞?dòng)辛诉M(jìn)一步的指向性內(nèi)容，那就是端側(cè)AI。
蘋(píng)果瞄向端側(cè)AI
據(jù)彭博社記者M(jìn)ark Gurman在一檔節(jié)目中透露，蘋(píng)果在iOS18上的首批AI功能將無(wú)需依賴云端服務(wù)器的算力，可完全在本地運(yùn)行。
這意味著，蘋(píng)果將通過(guò)相關(guān)框架讓大語(yǔ)言模型得以小型化，通過(guò)模型量化技術(shù)減小模型大小和提高推理速度，同時(shí)實(shí)現(xiàn)并發(fā)處理和高效利用設(shè)備資源，從而能夠在終端本地安裝并運(yùn)行。實(shí)際上，目前已經(jīng)有相關(guān)AI應(yīng)用發(fā)布于蘋(píng)果App Store，并可在終端本地運(yùn)行16億-70億參數(shù)量不等的大語(yǔ)言模型。
此前，相關(guān)消息顯示，iOS 18系統(tǒng)內(nèi)的多個(gè)功能，以及相關(guān)蘋(píng)果生態(tài)下的官方應(yīng)用，都將因?yàn)锳I而受益。例如正在的開(kāi)發(fā)一個(gè)集成AI的消息應(yīng)用功能，能夠更快速恢復(fù)短信內(nèi)容。據(jù)福布斯的預(yù)測(cè)，生成式AI能力還將為蘋(píng)果的生產(chǎn)力工具帶來(lái)升級(jí)，例如Pages、Keynote、Numbers這三大辦公套件，將可獲得一系列新能力。
同時(shí)，蘋(píng)果還公布了自研的MM1多態(tài)大語(yǔ)言模型(Multimodal LLM)。MM1共分為三個(gè)參數(shù)規(guī)模，其中最大的擁有300億參數(shù)。根據(jù)科技博客Daily Dev的評(píng)測(cè)顯示，MM1在GLUE-Score等多項(xiàng)評(píng)測(cè)指標(biāo)上要略優(yōu)于GPT-4V和Gemini Pro。
硬件配置吃得消嗎？
不過(guò)，如果將升級(jí)的能力全部依托于端側(cè)的話，蘋(píng)果手機(jī)目前的硬件配置能否吃得消的問(wèn)題也浮出了水面。當(dāng)設(shè)備運(yùn)行生成式AI模型的時(shí)候，一般會(huì)占用一定的RAM空間，同時(shí)模型本身也會(huì)占據(jù)一定的硬盤(pán)空間。
而上述兩項(xiàng)對(duì)于蘋(píng)果設(shè)備來(lái)說(shuō)，顯然是個(gè)小痛點(diǎn)。目前iPhone 15 Pro系列的RAM為8GB，iPhone 15系列為6GB，而iPhone 13系列僅為4GB�？紤]到本地運(yùn)行模型運(yùn)算是對(duì)于RAM的占用，iPhone 15 Pro系列的8GB可能最為適宜，而6GB的iPhone 15系列只能將就。4GB的iPhone 13系列很可能將難以滿足運(yùn)行需求。
同時(shí)，對(duì)于一直被網(wǎng)友戲稱為把硬盤(pán)空間當(dāng)金子賣(mài)的蘋(píng)果來(lái)說(shuō)，一些舊有機(jī)型的用戶屆時(shí)在實(shí)現(xiàn)系統(tǒng)升級(jí)，并獲得相關(guān)本地生成式AI能力的時(shí)候，或?qū)⒚媾R本地存儲(chǔ)空間吃緊的問(wèn)題。要知道，因?yàn)榭臻g不足導(dǎo)致升級(jí)系統(tǒng)失敗的案例曾經(jīng)在iPhone 4s時(shí)代大規(guī)模出現(xiàn)過(guò)。
不過(guò)好消息是，大量現(xiàn)役iPhone機(jī)型的NPU算力并不成問(wèn)題，蘋(píng)果近年來(lái)在每代A系列芯片上的升級(jí)重點(diǎn)就在于NPU。例如A17 Pro的NPU在算力上實(shí)現(xiàn)了兩倍的提升，相比于提升10%的CPU與提升20%的GPU，可謂是牙膏爆擠。
端側(cè)AI大爆發(fā)的必然
其實(shí)，對(duì)于習(xí)慣性晚一步的蘋(píng)果來(lái)說(shuō)，發(fā)力端側(cè)AI更意味著對(duì)于該技術(shù)方向的肯定。同理在近期，蘋(píng)果也放棄了耗時(shí)10年的電動(dòng)車計(jì)劃，并同樣把該領(lǐng)域的研究經(jīng)費(fèi)轉(zhuǎn)向AI領(lǐng)域。
而端側(cè)AI也完全符合蘋(píng)果對(duì)于安全與隱私上的產(chǎn)品定位，由于端側(cè)AI能夠讓敏感數(shù)據(jù)完全在本地運(yùn)行，保證了數(shù)據(jù)不會(huì)上傳至云端，也就在實(shí)現(xiàn)AI能力的同時(shí)，保證了隱私。對(duì)于依靠云端服務(wù)器的AI而言，例如在近期宣布無(wú)需注冊(cè)就能使用的ChatGPT，如果用戶需要強(qiáng)化保護(hù)自身的聊天數(shù)據(jù)，就需要手動(dòng)在設(shè)置中選擇不將聊天記錄用于訓(xùn)練，但其實(shí)很多用戶在日常使用中都會(huì)忽略這點(diǎn)。
隨著生成式AI模型的變小，100億及更多參數(shù)的生成式AI模型也即將能夠在終端側(cè)運(yùn)行。實(shí)際上，目前在筆記本設(shè)備中，已經(jīng)能夠運(yùn)行130億參數(shù)的大語(yǔ)言模型，相信在智能手機(jī)流暢運(yùn)行已指日可待。這就意味著，在端側(cè)設(shè)備上，同樣可以實(shí)現(xiàn)媲美云端服務(wù)器的文字生成圖像、對(duì)話和NLP、協(xié)作機(jī)器人、圖像理解等功能，只要輸入與生成的量級(jí)可控，端側(cè)AI同樣能夠帶來(lái)令人滿意的表現(xiàn)。
這方面，Android陣營(yíng)已經(jīng)先行一步。
小米方面曾在去年透露，從2016年開(kāi)始，小米就開(kāi)始了對(duì)大模型的研究和開(kāi)發(fā)，今年更是成立了專門(mén)的大模型團(tuán)隊(duì)。目前，小米的AI相關(guān)團(tuán)隊(duì)已經(jīng)超過(guò)3000人。還有報(bào)道稱，小米AI大模型的一個(gè)13億參數(shù)大模型已經(jīng)成功在手機(jī)本地跑通，部分場(chǎng)景可以媲美60億參數(shù)模型在云端運(yùn)行結(jié)果。
今年MWC巴塞羅那上，高通展出了全球首個(gè)運(yùn)行多模態(tài)大模型（LMM）的手機(jī)，支持超過(guò)70億參數(shù)大模型，不僅能夠接受文本輸入，還可以接受圖像、音頻等其它輸入數(shù)據(jù)類型。
榮耀在今年年初發(fā)布了自研端側(cè) 70 億參數(shù)平臺(tái)級(jí) AI 大模型“魔法大模型”，并表示現(xiàn)有操作系統(tǒng)都值得用 AI 重做一遍。
vivo的AI藍(lán)心大模型也實(shí)現(xiàn)了“端側(cè)7B+云側(cè)70B”超大參數(shù)規(guī)模部署，能實(shí)現(xiàn)超過(guò)700種手機(jī)相關(guān)功能，為超過(guò)2000萬(wàn)用戶提供超能問(wèn)答、超能創(chuàng)作、超能搜索、超能管理、超能交互等AI服務(wù)。
不過(guò)，端側(cè)AI無(wú)疑才剛剛上路，至少目前它的很多功能展示更像是手機(jī)發(fā)燒友的玩具，然而，隨著習(xí)慣性晚一步的蘋(píng)果的引入，完全成熟可用的本地生成式AI功能即將到來(lái)。2024年，對(duì)于端側(cè)AI來(lái)說(shuō)，或許將是從“玩具”到“工具”的關(guān)鍵一年。
