厨房性猛交hd I 中文字幕一区不卡 I 色av综合av综合无码网站 I 国产高清不卡免费视频 I 4hu在线观看 I 欧美草草视频 I 日本99热 I 国产精品久久久精品 I 成人国产精品??电影 I 日本熟妇毛茸茸丰满 I 黑巨茎大战欧美白妞 I 888夜夜爽夜夜躁精品 I 国产又粗又黄又爽的大片 I 91香蕉污 I 久久欧美肥婆一二区 I 中文字幕不卡 I 一级日韩毛片 I 国产精品国产自线拍免费 I 97午夜理论片在线影院 I 欧美人人爱 I 新呦u视频一区二区 I 97在线视频网站 I 乌克兰少妇videos高潮 I 操女生视频 I 国产精品高潮久久久久 I av在线网站观看 I 亚洲精品国产v片在线观看 I 大龟挺进岳身体里 I 国产日本欧美一区二区 I 偷拍一区二区三区四区 I 日本一区二区视频免费 I 国产欧美日韩91 I 男女羞羞的视频 I 在线成人av影院 I 成人在线你懂的 I 精品动漫在线观看 I 韩国一区在线 I 人人超人人超碰国产 I 丰满的妻子 I 成人性生生活性生交3 I 亚洲精品一区在线观看 I 成人日韩 I 国内特级毛片 I 黄色片三级网站 I 国产又嫩又黄又猛视频在线观看 I 日韩视频亚洲视频 I 国产精品伊人 I 做爰小视频 I 自拍超碰 I www.99在线观看 I 男人av资源 I 丝袜调教91porn I 国产欧美精品区一区二区三区 I 产精品无码久久_亚洲国产精 I 国产精品久久久. I 蜜美杏av I 91在线看www

微軟攜手中科院大學團隊推出CPU驅動AI模型,1位架構實現低能耗運行

2025-04-28 11:35  瀏覽:  

微軟研究院與中國科學院大學合作團隊近日在arXiv平臺發布研究成果,推出全新人工智能模型。該模型突破性地在常規CPU而非GPU上運行,通過創新的數據處理架構顯著降低能耗,為人工智能技術落地提供新思路。

傳統GPU驅動模型的能耗困境

當前主流大語言模型(LLM)如ChatGPT依賴GPU芯片進行訓練與推理,此類模型在處理海量數據時需要強大算力支撐,導致能耗問題日益凸顯。數據中心為支持聊天機器人等應用消耗大量電力,引發業界對可持續發展的擔憂。研究團隊針對這一痛點展開技術攻關,提出更智能的數據處理方法。

1位架構實現算力優化

新模型摒棄傳統8位或16位浮點數存儲權重的方式,轉而采用“1位架構”。其核心創新在于將模型權重簡化為-1、0、1三種離散值,使推理過程僅需基礎加減法運算。這種設計極大降低了內存占用與CPU處理負擔,實驗數據顯示該架構在保持性能的同時,內存需求減少至傳統方案的1/16,能耗降低超90%。研究團隊強調,此方法使普通計算機或移動設備即可運行高效AI模型,無需依賴專業GPU硬件。

BitNet b1.58模型與專用運行環境

為適配1位架構,團隊開發了配套運行時環境bitnet.cpp。該系統針對離散權重矩陣優化內存分配與指令調度,支持20億參數規模的模型在單核CPU上穩定運行。測試結果表明,新模型在CPU環境下的推理速度接近傳統GPU方案,且模型精度損失控制在可接受范圍內。在MNIST、GLUE等基準測試中,其性能表現與同類GPU模型相當,部分場景下甚至實現超越。

本地化部署提升隱私與能效

該技術突破為AI應用帶來雙重價值。在隱私保護層面,用戶數據無需上傳云端即可完成處理,支持完全離線的智能助手開發。研究團隊在樹莓派等邊緣設備上成功部署聊天機器人系統,響應延遲低于300毫秒,且支持斷網運行。在能效層面,單個推理任務的耗電量較傳統方案減少92%,單次交互能耗不足0.03Wh。這一特性使其在移動終端、物聯網設備等場景中具備顯著優勢。

免責聲明:本網轉載自合作媒體、機構或其他網站的信息,登載此文出于傳遞更多信息之目的,并不意味著贊同其觀點或證實其內容的真實性。本網所有信息僅供參考,不做交易和服務的根據。本網內容如有侵權或其它問題請及時告之,本網將及時修改或刪除。凡以任何方式登錄本網站或直接、間接使用本網站資料者,視為自愿接受本網站聲明的約束。
相關推薦
鴻蒙電腦正式亮相

鴻蒙電腦正式亮相

5月8日,華為技術有限公司在廣東省深圳市舉辦鴻蒙電腦技術與生態溝通會,搭載鴻蒙操作系統的鴻蒙電腦在會上正式亮相,這代表國產操作系統在個人電腦(PC)領域實現重要突破。記者從會上了解到,鴻蒙電腦研發歷經5年布局,集結上萬名工程師、聯合20多家研究所共同完成,積累超過2700項核心專利。鴻蒙操作系統是由華為公司開發的全場景智能操作系統,于2015年立項,用不到10年的時間走完同行30年的歷程。2019年,華為公司正式對外發布鴻蒙操作系統,2021年...
05-08
臺積電應對新臺幣升值壓力 要求供貨商下修成本

臺積電應對新臺幣升值壓力 要求供貨商下修成本

5月7日消息,據業界消息,目前臺積電已要求供貨商提出成本下修計劃,以因應新臺幣升值影響。根據業界人士的說法,臺積電原本要求供貨商明年裸晶圓(Raw wafer)至少降價 30%。如今因匯兌壓力急速上升,據悉臺積電已擴大要求多家供貨商提早于本月繳交新報價。市場預期,新臺幣每升值 1%,營業利益率恐下降 0.4 個百分點。臺積電 2025 年第二季展望是合并營收介于 284 億至 292 億美元。若以新臺幣 32.5 元兌 1 美元匯率假設,毛利率介于 57%~59%,營業利...
英特爾股東通過新任CEO陳立武薪酬方案

英特爾股東通過新任CEO陳立武薪酬方案

5月7日消息,英特爾股東投票通過了新任CEO陳立武的薪酬方案,根據方案,陳立武將獲得最高達3億人民幣的股票獎勵!該獎勵將與公司股價表現掛鉤,分階段發放!在股東會議中,陳立武闡述了其任內的三大戰略重點:重振人工智能業務、提升產品競爭力以及推進組織架構優化。陳立武特別強調,英特爾將充分發揮其在PC和數據中心市場的傳統優勢,聚焦于開發更具市場競爭力的產品和技術。同時,公司正在實施管理層級精簡計劃,旨在提升決策效率并降低運營成本。在AI...
特朗普政府擬放寬AI芯片出口限制 重塑半導體貿易政策

特朗普政府擬放寬AI芯片出口限制 重塑半導體貿易政策

據知情人士透露,特朗普政府計劃撤銷拜登時期實施的AI芯片出口限制措施,原定于5月15日生效的"人工智能擴散規則"將暫停執行。此舉旨在調整半導體貿易政策,推動更開放的國際貿易環境,同時美國商務部將制定新規強化海外芯片管控。拜登政府去年推出的限制政策將芯片出口國分為三類進行分級管控,引發科技業及多國反對。AMD首席執行官蘇姿豐強調,需平衡國家安全與產業競爭力;英偉達CEO黃仁勛警告,失去中國市場將造成重大損失。新政策擬取消分級制...
騰訊與烏茲別克斯坦攜手合作,微信支付將打通烏茲別克斯坦

騰訊與烏茲別克斯坦攜手合作,微信支付將打通烏茲別克斯坦

根據烏茲別克斯坦數字技術部最新公告,中國互聯網科技巨頭騰訊集團副總裁馬斌率代表團與該國數字技術部核心管理層展開高層對話,雙方就數字經濟領域多維合作達成系列共識。會談期間,騰訊代表團系統考察了烏茲別克斯坦IT產業園區的政策支持體系,重點包括針對入駐企業的稅收減免機制、數字服務出口促進方案以及外資科技企業準入路徑。代表團還深入調研了國家統一信息整合平臺Uzinfocom的運營架構,對該國數字化基礎設施建設取得的技術突破給...

推薦閱讀

熱點文章

Copyright © 能源界
主站蜘蛛池模板: 丰镇市| 穆棱市| 宜都市| 克拉玛依市| 前郭尔| 上蔡县| 新巴尔虎左旗| 叶城县| 东丰县| 阳新县| 南投市| 衡水市| 文水县| 彰武县| 双牌县| 威信县| 会泽县| 隆安县| 武陟县| 北流市| 汤阴县| 永新县| 蒙城县| 滦南县| 会东县| 尉氏县| 平陆县| 禄丰县| 光泽县| 贵德县| 夏邑县| 乌恰县| 万载县| 瑞丽市| 靖江市| 仁化县| 保山市| 思南县| 永川市| 沅陵县| 新兴县|