人工智能

高通攜手Meta利用Llama 2賦能終端側(cè)AI應(yīng)用

ainet.cn   2023年07月19日

● 高通計(jì)劃從2024年起,在旗艦智能手機(jī)和PC上支持基于Llama 2的AI部署,賦能開(kāi)發(fā)者使用驍龍平臺(tái)的AI能力,推出激動(dòng)人心的全新生成式AI應(yīng)用。

● 與僅僅使用云端AI部署和服務(wù)相比,終端側(cè)AI部署能夠助力開(kāi)發(fā)者以顯著降低的成本,提升用戶(hù)隱私保護(hù)、滿足用戶(hù)安全偏好、增強(qiáng)應(yīng)用可靠性,并實(shí)現(xiàn)個(gè)性化。

高通技術(shù)公司和Meta正在合作優(yōu)化Meta Llama 2大語(yǔ)言模型直接在終端側(cè)的執(zhí)行,無(wú)需僅依賴(lài)云服務(wù)。能夠在智能手機(jī)、PC、VR/AR頭顯和汽車(chē)等終端上運(yùn)行Llama 2一類(lèi)的生成式AI模型,將支持開(kāi)發(fā)者節(jié)省云成本,并為用戶(hù)提供更加私密、可靠和個(gè)性化的體驗(yàn)。

因此,高通技術(shù)公司計(jì)劃支持基于Llama 2的終端側(cè)AI部署,以賦能打造激動(dòng)人心的全新AI應(yīng)用。這將支持客戶(hù)、合作伙伴和開(kāi)發(fā)者構(gòu)建智能虛擬助手、生產(chǎn)力應(yīng)用、內(nèi)容創(chuàng)作工具和娛樂(lè)等用例。這些由驍龍?賦能的全新終端側(cè)AI體驗(yàn),可在沒(méi)有網(wǎng)絡(luò)連接的區(qū)域、甚至是飛行模式下工作。

高通技術(shù)公司高級(jí)副總裁兼技術(shù)、規(guī)劃和邊緣解決方案業(yè)務(wù)總經(jīng)理馬德嘉表示:我們十分贊賞Meta對(duì)于AI技術(shù)采取的開(kāi)放且負(fù)責(zé)的策略。高通技術(shù)公司致力于推動(dòng)創(chuàng)新,通過(guò)將生成式AI引入終端側(cè),將為各種規(guī)模的開(kāi)發(fā)者降低開(kāi)發(fā)門(mén)檻。為了將生成式AI有效地規(guī)模化擴(kuò)展至主流市場(chǎng),AI需要同時(shí)在云端和邊緣終端上運(yùn)行,比如智能手機(jī)、筆記本電腦、汽車(chē)和物聯(lián)網(wǎng)終端。

Meta和高通技術(shù)公司長(zhǎng)期合作,共同推動(dòng)技術(shù)創(chuàng)新,打造下一代卓越終端體驗(yàn)。雙方目前在支持Llama生態(tài)系統(tǒng)方面的合作,覆蓋了研究和產(chǎn)品工程技術(shù)工作。憑借終端側(cè)AI的領(lǐng)導(dǎo)力,高通技術(shù)公司在支持Llama生態(tài)系統(tǒng)方面具備獨(dú)特優(yōu)勢(shì)。公司擁有領(lǐng)先的邊緣側(cè)布局,其行業(yè)領(lǐng)先的AI硬件和軟件解決方案賦能了數(shù)十億智能手機(jī)、汽車(chē)、XR頭顯與眼鏡、PC和物聯(lián)網(wǎng)等終端,為生成式AI的規(guī)?;瘮U(kuò)展提供了廣闊機(jī)遇。

高通技術(shù)公司計(jì)劃從2024年起,在搭載驍龍平臺(tái)的終端上支持基于Llama 2的AI部署?,F(xiàn)在開(kāi)發(fā)者可以開(kāi)始使用高通AI軟件棧面向終端側(cè)AI進(jìn)行應(yīng)用優(yōu)化。高通AI軟件棧是一套支持在驍龍平臺(tái)上更高效處理AI的專(zhuān)用工具,讓輕薄的小型終端也能支持終端側(cè)AI。

(高通)

標(biāo)簽:高通 我要反饋 
泰科電子ECK、ECP系列高壓直流接觸器白皮書(shū)下載
ABB協(xié)作機(jī)器人,自動(dòng)化從未如此簡(jiǎn)單
優(yōu)傲機(jī)器人下載中心
億萬(wàn)克
專(zhuān)題報(bào)道
聚力同行 · 新智“碳”索
聚力同行 · 新智“碳”索

“新華社-智能·零碳”項(xiàng)目策劃以“聚力同行·新智‘碳’索”為主題的新能源專(zhuān)題,主要圍繞光伏、儲(chǔ)能、鋰電、氫能、風(fēng)能五大新... [更多]

2025中國(guó)國(guó)際機(jī)床展覽會(huì)
2025中國(guó)國(guó)際機(jī)床展覽會(huì)

4月21至26日,以“融合創(chuàng)新,數(shù)智未來(lái)”為主題的第十九屆中國(guó)國(guó)際機(jī)床展覽會(huì)在首都國(guó)際會(huì)展中心盛大舉辦。憑借場(chǎng)館的卓越服... [更多]

2023-2024 智能·零碳成果展映
2023-2024 智能·零碳成果展映

“2023-2024智能·零碳成果展映”展示國(guó)內(nèi)外企業(yè)推進(jìn)“雙碳”實(shí)踐的最新成果,鼓勵(lì)更多企業(yè)、科研機(jī)構(gòu)、投資機(jī)構(gòu)等廣泛... [更多]