五月四房婷婷-五月桃花网婷婷亚洲综合-五月天丁香花婷婷-五月天丁香色-天天射视频-天天射天

您當(dāng)前的位置 :環(huán)球傳媒網(wǎng)>科技 > 正文
壓縮算法為大語(yǔ)言模型“瘦身”
2024-11-23 10:36:05 來(lái)源:科技日?qǐng)?bào) 編輯:
據(jù)美國(guó)科學(xué)促進(jìn)會(huì)旗下網(wǎng)站19日?qǐng)?bào)道,美國(guó)普林斯頓大學(xué)和斯坦福大學(xué)團(tuán)隊(duì)開(kāi)發(fā)出一種新壓縮算法CALDERA,能精簡(jiǎn)大型語(yǔ)言模型(LLM)的海量數(shù)據(jù),為L(zhǎng)LM“瘦身”。這項(xiàng)算法不僅有助保護(hù)數(shù)據(jù)隱私、節(jié)約能源、降低成本,還能推動(dòng)LLM在手機(jī)和筆記本電腦上高效使用。

團(tuán)隊(duì)舉例稱(chēng),當(dāng)人們使用ChatGPT時(shí),請(qǐng)求會(huì)被發(fā)送到OpenAI公司的后端服務(wù)器進(jìn)行處理。這一過(guò)程不僅成本高昂、能耗巨大,通常還很慢。如果用戶(hù)想要使用消費(fèi)級(jí)圖形處理單元運(yùn)行LLM,就需要對(duì)這些LLM進(jìn)行壓縮。

CALDERA算法通過(guò)減少LLM冗余并降低信息層的精度來(lái)發(fā)揮作用。“瘦身”后的LLM更加精簡(jiǎn),可在手機(jī)或筆記本電腦等設(shè)備上存儲(chǔ)和訪(fǎng)問(wèn),同時(shí)提供了與未壓縮版本幾乎一樣準(zhǔn)確而微妙的性能。

雖然CALDERA并非首個(gè)壓縮LLM的算法,但其獨(dú)特之處在于兼具“低精度”和“低排序”兩種特性。其中,“低精度”減少了比特?cái)?shù),加快了數(shù)據(jù)存儲(chǔ)和處理速度。而“低排序”則降低了LLM數(shù)據(jù)中的冗余。

團(tuán)隊(duì)表示,使用CALDERA壓縮的LLM可能適用于那些對(duì)精度要求不是最高的場(chǎng)景。此外,用戶(hù)可在智能手機(jī)或筆記本電腦等設(shè)備上對(duì)壓縮后的LLM進(jìn)行微調(diào),這使其能根據(jù)特定需求調(diào)整模型來(lái)增強(qiáng)隱私,而無(wú)需與第三方共享敏感數(shù)據(jù)。

不過(guò)團(tuán)隊(duì)也提醒道,在智能手機(jī)或筆記本電腦上運(yùn)行LLM,可能會(huì)占用設(shè)備內(nèi)存。

關(guān)鍵詞:

相關(guān)閱讀
分享到:
版權(quán)和免責(zé)申明

凡注有"環(huán)球傳媒網(wǎng)"或電頭為"環(huán)球傳媒網(wǎng)"的稿件,均為環(huán)球傳媒網(wǎng)獨(dú)家版權(quán)所有,未經(jīng)許可不得轉(zhuǎn)載或鏡像;授權(quán)轉(zhuǎn)載必須注明來(lái)源為"環(huán)球傳媒網(wǎng)",并保留"環(huán)球傳媒網(wǎng)"的電頭。

Copyright ? 1999-2017 cqtimes.cn All Rights Reserved 環(huán)球傳媒網(wǎng)-重新發(fā)現(xiàn)生活版權(quán)所有 聯(lián)系郵箱:8553 591@qq.com
主站蜘蛛池模板: 杏色国产成人精品视频 | 天天躁夜夜躁狠狠躁躁 | 国产激情视频在线 | 国产免费黄 | 中国一级特黄大片毛片 | 五月综合色婷婷影院在线观看 | 超薄全透明无内肉色丝袜 | 国产精品无卡无在线播放 | 日韩欧美一区二区三区不卡 | 国产vr一区二区在线观看 | 亚洲免费高清视频 | 特级黄视频 | 黄色免费观看网站 | 欧美一级视频精品观看 | 国产精品视频分类一区 | 荡女淫春未删减在线观看 | 中文字幕免费在线视频 | 一区二区三区在线播放 | 在线观看亚洲精品专区 | 欧美日韩国产最新一区二区 | 超级h荡的辣文小说乱bh | 亚洲欧洲日韩综合 | 亚洲视频在线观看视频 | 亚洲欧美在线观看播放 | 在线影院福利 | 99九九99九九九视频精品 | 伦理片在线观看网站资源 | 国产精品亚洲二区在线 | 亚洲一级片免费看 | 美女黑丝网站 | 么公又大又硬又粗又爽小说 | 精品免费视在线观看 | 午夜私人影院在线观看 | 日韩久草 | 狠狠色噜噜综合社区 | 国产成人免费无庶挡视频 | 性色生活片在色在线观看 | 乱肉伦孕小说在线阅读 | 免费看黄色大片 | 播播网手机在线播放 | 日韩欧美伦理 |