聯(lián)發(fā)科與阿里聯(lián)手,大模型加速“上手機”
2024-03-28 18:00
文本設(shè)置
小號
默認
大號
Plus(0條)
《科創(chuàng)板日報》記者獲悉,智能手機芯片廠商聯(lián)發(fā)科,已成功在天璣9300等旗艦芯片上部署通義千問18億、40億參數(shù)大模型,實現(xiàn)大模型在手機芯片端深度適配,讓通義千問在離線情況下依然可以運行多輪AI對話。 | 相關(guān)閱讀(科創(chuàng)板日報)
56
董元元
旅居全球各地
這又是端側(cè)大模型發(fā)展的典型雙贏合作。自從2023年5月份,Google推出了可以在旗艦手機上離線運行的PaLM2輕量版 Gecko。從這一刻起,能夠在端側(cè)運行的大語言模型成了廠商們的重要任務(wù)。畢竟LLM要落地,移動終端是最好的載體之一,同時端側(cè)也有著巨大的市場空間。
于是,廠商們紛紛開啟狂飆模式,踏上LLM的優(yōu)化之路,要把自家的云端大模型先行裝進手機。也就是在這期間,高通提出了混合Al概念:AI處理必須分布在云端和終端進行,才能實現(xiàn)AI的規(guī)?;瘮U展并發(fā)揮其最大潛能。端側(cè)的市場規(guī)模,加上混合AI趨勢,就連微軟也與Meta 結(jié)盟共同推出了可以部署在端側(cè)的開源大語言模型 Llama 2。
在人工智能大模型大發(fā)展的當下,越來越多的跨界合作成為必然。這次全球最大的智能手機芯片供應(yīng)商聯(lián)發(fā)科,與國內(nèi)最大的AI大模型之一阿里的通義千問強強聯(lián)手,無論是增強聯(lián)發(fā)科芯片本身的產(chǎn)品力,還是幫助通義千問更好的迭代和研發(fā)都起到1+1>2的效果。