美股
基金
外匯、加密貨幣
滬、深港通
港股
 
納斯達克
 
恆生指數
 
道瓊斯
 
標準普爾
 
 
新聞分享
如欲分享新聞,請填寫收件人及閣下之電郵,再按「送出」。*必需填寫
收件者電郵*
請用分號「;」分隔不同電郵地址,例子:a@a.com;b@b.com
閣下之電郵*
分享內容
楊立昆對了?從生成式到理解式 小模型性能直追大型AI
在人工智慧產業持續追逐更大模型與更高算力之際,一條不同於主流的技術路線正逐漸受到關注。被譽為「深度學習三巨頭」之一、Meta 首席 AI 科學家楊立昆(Yann LeCun)近期提出的新研究,再次挑戰...
重設
送出
視窗將於5秒內關閉
楊立昆對了?從生成式到理解式 小模型性能直追大型AI
鉅亨網新聞
推薦
1
利好
0
利淡
0
 
 

在人工智慧產業持續追逐更大模型與更高算力之際,一條不同於主流的技術路線正逐漸受到關注。被譽為「深度學習三巨頭」之一、Meta 首席 AI 科學家楊立昆(Yann LeCun)近期提出的新研究,再次挑戰生成式 AI 以規模取勝的發展方向。

楊立昆長期主張,當前主流生成式 AI 透過預測下一個詞或像素來運作,本質上效率低落,模型更偏向記憶統計規律,而非真正理解現實世界。他提出的替代架構「聯合嵌入預測架構」(JEPA)試圖讓 AI 在壓縮後的抽象表徵空間中進行預測,而非逐像素生成,藉此學習更接近物理世界運作的內在結構。

然而,JEPA 過去面臨「表徵崩塌」問題,即模型為降低計算負擔,過度簡化輸入資訊,導致不同物體在模型內部表徵趨於一致,失去辨識能力。為解決此問題,過去研究需引入凍結編碼器、指數移動平均等多種工程補丁,增加系統複雜度與計算成本。

根據楊立昆最新發布於 arXiv 的論文,其團隊提出名為 LeWorldModel 的新模型,透過一項稱為 SIGReg 的數學正則化方法,要求模型內部表徵符合高斯分布,從根本上抑制表徵崩塌。該方法使模型訓練可直接端到端進行,並將原本多達 6 至 7 個的超參數大幅簡化至接近單一參數(λ約為 0.1)。

在效能與成本方面,該模型展現顯著突破。LeWorldModel 僅約 1500 萬參數,可在單張 GPU 上於數小時內完成訓練,無需額外獎勵信號,僅依賴帶有動作標註的離線影像資料。相較之下,目前主流大型模型動輒數百億甚至上兆參數,訓練成本高達數十億美元。

實驗結果顯示,在機器人控制任務中,包括推動方塊、機械臂操作、雙房間導航與三維抓取等場景,LeWorldModel 的表現可與更大型模型相當甚至超越,同時在規劃速度上快約 48 倍,完整規劃時間從 47 秒縮短至約 1 秒。其關鍵在於將每一幀影像壓縮為 192 維隱向量,使 token 數量減少約 200 倍。

此外,該模型的內部表徵具備可解釋性。研究人員透過線性探針即可讀取物體位置、速度等物理資訊,並能辨識違反物理規律的異常事件,例如物體瞬間位移。

儘管成果引發關注,論文亦指出限制,包括目前僅支援約 5 步的短期規劃、僅在模擬環境驗證,尚未部署於真實機器人系統,以及在低維度簡單場景中,高斯先驗可能影響表現。

業界對此方向的興趣正在升溫。近年 AI 競爭焦點多集中於如 Alphabet(GOOGL.US)      與 OpenAI 等公司推動的大型語言模型,而 Anthropic 亦持續推出高性能生成式模型。另一方面,Tesla(TSLA.US)      執行長馬斯克近期亦對該研究表達興趣,顯示產業對替代路線的關注正在增加。

分析指出,若此類小型世界模型能在真實環境中驗證成功,將可能大幅改變 AI 產業的成本結構與發展方向,特別是在機器人與具身智能領域。相較於過去依賴巨型模型與資料中心的發展模式,小型高效率模型可能成為下一階段突破關鍵。

整體而言,楊立昆提出的路線並非否定生成式 AI,而是補充另一種更貼近物理世界理解的技術途徑。在產業已投入數千億美元發展大型模型的背景下,低成本且具可解釋性的世界模型,正逐步成為 AI 發展的重要分支。

(美股為即時串流報價; OTC市場股票除外,資料延遲最少15分鐘。)
新聞來源 (不包括新聞圖片): 鉅亨網
相關股份
0/0
 
美股網站地圖
支援電郵: support@aastocks.com
阿斯達克網絡信息有限公司 (AASTOCKS.COM LIMITED) 版權所有,不得轉載
免責聲明
閣下明確同意使用本網站/應用程式的風險是由閣下個人承擔。

AASTOCKS.com Ltd、香港交易所資訊服務有限公司、中國投資信息有限公司、深圳證券信息有限公司、Nasdaq, Inc.、其控股公司及/或該等控股公司的任何附屬公司、或其資訊來源及/或其他第三方數據供應商均竭力確保所提供資訊的準確和可靠度,但不能保證其絕對準確和可靠,且亦不會承擔因任何不準確或遺漏而引起的任何損失或損害的責任(不管是否侵權法下的責任或合約責任又或其他責任)。

AASTOCKS.com Ltd、香港交易所資訊服務有限公司、中國投資信息有限公司、深圳證券信息有限公司、Nasdaq, Inc.、其控股公司及/或該等控股公司的任何附屬公司、或其資訊來源及/或其他第三方數據供應商均對資訊不作任何明示或隱含的要約、陳述或保證 (包括但不限於可銷售性及特殊用途合適性的資訊保證) 。

AASTOCKS.com Ltd、香港交易所資訊服務有限公司、中國投資信息有限公司、深圳證券信息有限公司、Nasdaq, Inc.、或其控股公司及/或該等控股公司的任何附屬公司、或其資訊來源及/或其他第三方數據供應商不會就任何原因導致的中斷、不準確、錯誤或遺漏或因此而造成的任何損害賠償(不論直接或間接、相應而生、懲罰性或懲戒性)對任何人承擔責任。

AASTOCKS.com Ltd不負責,亦不承擔任何由於不可抗力的事故或在AASTOCKS.com Ltd不可合理控制的情況下導致的損失或損害,如颱風、暴雨、其他自然災難、政府或有關機構的限制、騷動、戰爭、病毒爆發,網絡故障或電信故障,引致AASTOCKS.com Ltd不能履行協議內的責任或提供服務。

Morningstar 免責聲明:版權所有©2020 Morningstar,Inc。保留所有權利此處包含的資料,數據,分析和意見(“信息”):(1)包含Morningstar及其內容提供者的專營資料; (2)除特別授權外,不得複製或轉載; (3) 不構成投資建議; (4)僅供參考,(5)並未為所載資料的完整性、準確性及時間性作出保證。Morningstar對於閣下使用任何相關資料而作出的任何有關交易決定、傷害及其它損失均不承擔任何責任。 請在使用所有資料前作出核實,並且在諮詢專業投資顧問意見前勿作任何投資決定。 過往業績並不代表將來表現,任何投資項目的價值及所得收入皆可升可跌。

本網站/應用程式包含的內容和信息乃根據公開資料分析和演釋,該公開資料,乃從相信屬可靠之來源搜集,這些分析和信息並未經獨立核實和AASTOCKS.com Limited並不保證他們的準確性、完整性、實時性或者正確性。

在本網站/應用程式的資料、金融市場數據、報價、圖表、統計數據、匯率、新聞、研究、分析、購買或者出售評分、財金教學及其他資訊僅作參考使用,在根據資訊執行證券或任何交易前,應諮詢獨立專業意見,以核實定價資料或獲取更詳細的市場信息。AASTOCKS.com Limited不應被視為游說任何訂戶或訪客執行任何交易,閣下須為所有跟隨在本網站/應用程式的資料、評論和購買或出售評分執行的交易負責。

為了方便使用者,阿斯達克網絡信息有限公司增加了由 Azure OpenAI開發的翻譯功能,以幫助使用者理解阿斯達克網絡信息有限公司平台上的資訊中文以外的語言。 翻譯後的文字可能會失去一些原本的意義。資訊的某些項目(包括包含文字的圖像、帶字幕的影片、PDF 文件或地圖)可能無法翻譯,某些功能可能無法在翻譯版本中使用。

阿斯達克網絡信息有限公司不保證翻譯的準確性及完整性,並且翻譯後的文本不應被認為是準確的及完整的。 對於因使用翻譯功能而造成的任何形式的損害或損失,阿斯達克網絡信息有限公司不承擔任何責任。

AASTOCKS.com Limited之信息服務基於「現況」及「現有」的基礎提供,網站/應用程式的信息和內容如有更改恕不另行通知。AASTOCKS.com Limited有權但無此義務,改善或更正在本網站/應用程式的任何部分之錯誤或疏漏。

用戶在沒有AASTOCKS.com Limited明確的書面同意情況下,不得以任何方式複製、傳播、出售、出版、廣播、公佈、傳遞資訊內容或者利用在本網站/應用程式的信息和內容作商業用途。

投資涉及風險。 閣下可自行决定利用本網站的財金教學作學術參考用途,但 AASTOCKS.com Limited不能並不會保證任何在本網站/應用程式現在或未來的購買或出售評論和訊息會否帶來贏利。過往之表現不一定反映未來之表現,AASTOCKS.com Limited不可能作出該保證及用戶不應該作出該假設。

AASTOCKS.com Limited也許連結訂戶或訪客至其有興趣的網站,但AASTOCKS.com Limited只提供此服務給訂戶或訪客並不為此安排負責。

AASTOCKS.com Limited對於任何包含於、經由、連結、下載或從任何與本網站/應用程式有關服務所獲得之資訊、內容或廣告,不聲明或保證其內容之正確性或可靠性。 對於閣下透過本網站/應用程式上之廣告、資訊或要約而展示、購買或取得之任何產品、資訊資料,本公司亦不負品質保證之責任。

AATV是AASTOCKS.com Limited旗下的視頻網站平台。

閣下確認:(i) AATV只為提供資訊,並不為了任何交易目的;(ii) AATV節目內容以及其提供的資料並不構成任何AASTOCKS為售賣任何證券作出招攬、提出要約、意見或推薦,或對任何證劵或投資的收益或是否合適提供法律、稅務、會計、或投資意見或服務;及(iii)AATV並非為任何人士或法律實體在其他司法管轄區或國家使用,而在當地可能因該使用或分發而違反當地法律或法規。

AATV中節目內容中的個人意見和觀點僅供參考及討論,亦並不代表AASTOCKS.com Limited的立場。投資者必須按其本身投資目標及財務狀況自行作出投資決定。AASTOCKS.com Limited不對以下任何情況對閣下或任何人直接或間接負責:(i)AATV的不准確性,錯誤或遺漏,包括但不限於報價和財務數據; (ii)AATV中節目傳輸的延遲,錯誤或中斷; (iii)閣下由AATV中節目內容招致任何損失。

我們保留權利不時更改本免責聲明並於本網站/應用程式刊登更新版本。閣下必須定期查閱於本網站/應用程式刊登的資訊,以確保您即時知悉任何有關的改動。 如閣下於本免責聲明更新後仍繼續使用本網站/應用程式,即代表閣下同意接受更改後的本免責聲明的約束。

本免責聲明應受中華人民共和國香港特別行政區(「香港」)法律管限。閣下同意接受香港法院的專屬司法管轄權管轄。

本免責聲明的中英原文如有任何岐異,一切以英文原文為準。

更新日期為: 2026年2月9日