訪客:

兆源官網

台股追蹤登入

兆源官網|新聞

2026-07-15 02:30:00

270億參數塞進iPhone!蘋果洽談AI新創 54GB大模型縮至不到4GB

《CNBC》周二 (14 日) 報導,蘋果 (AAPL-US) 正與矽谷人工智慧 (AI) 新創 PrismML 進行初步洽談,評估一項能將大型 AI 模型大幅壓縮、直接在 iPhone 上運行的技術。PrismML 聲稱,已成功將阿里巴巴 (BABA-US)(09988-HK) 開源通義千問 (Qwen) 模型從約 54GB 壓縮至不到 4GB,使擁有 270 億個參數的完整模型得以在 iPhone 15 或更新機型上運行,有望突破蘋果 AI 策略長期面臨的記憶體與運算能力限制。

PrismML 執行長哈西比 (Babak Hassibi) 向《CNBC》表示,蘋果及其他企業目前正評估該公司的模型,測試其在裝置上的速度、能源效率及效能。他形容雙方討論仍處於非常初期階段,未來結果尚不明朗,但「進展相當順利」。

蘋果並未立即回應置評請求。PrismML 則在周二公開發布兩個免費的壓縮模型版本,可在 iPhone、MacBook 及搭載輝達 (NVDA-US) 晶片的個人電腦 (PC) 等一般消費性裝置上運行。

270 億參數塞進 iPhone AI 模型記憶體需求大減

PrismML 是由加州理工學院 (Caltech) 研究團隊衍生的新創公司,獲 Khosla Ventures 支持,今年 3 月完成 1,625 萬美元種子輪融資。

該公司的核心技術在於大幅簡化 AI 模型內部資訊的儲存方式,將每個數值從原本 16 位元 (bit) 降低至僅 1 位元,或只使用三種可能數值,藉此大幅降低儲存及運行模型所需的記憶體。

根據 PrismML 說法,經過壓縮的模型可減少 10 至 15 倍記憶體需求,生成回應速度提高 6 至 8 倍,能源消耗則降低 3 至 6 倍。以阿里巴巴通義千問模型為例,原本約 54GB 的模型可縮小至不到 4GB,讓全部 270 億個參數直接在 iPhone 15 或更新機型上運行。

不過,壓縮並非毫無代價。哈西比坦言,PrismML 模型的整體效能通常會損失幾個百分點,其中事實記憶能力較早受到影響,但推理、數學及程式設計等能力相對能夠保留。

PrismML 目前已免費發布兩個壓縮模型版本,可在 iPhone、MacBook 及搭載輝達晶片的 PC 等一般裝置上運行,下一步則計畫挑戰 Google(GOOGL-US) 開源 Gemma 模型,以及目前通常需要資料中心硬體才能運行的更大型模型。

蘋果尋找 AI 突破口 更多 Siri 功能有望留在 iPhone

這項技術正值蘋果尋求強化 AI 競爭力的關鍵時刻。蘋果日前開放 iOS 27 公開測試版,讓更多 iPhone 用戶首次接觸延宕已久的 Siri 重大改版。面對 OpenAI 及 Anthropic 等業者的 AI 助理競爭,蘋果正試圖提升 Siri 能力,同時維持將個人資料與更多 AI 運算留在裝置端的隱私策略。

目前最強大的 AI 模型通常需要大量記憶體及運算能力,難以直接在智慧手機運行。若能將更多 AI 功能直接搬進 iPhone,不僅可以降低資料傳送至遠端伺服器造成的延遲及雲端運算成本,也能強化隱私保護,甚至讓部分功能在沒有網路連線時正常運作。

分析師認為,更小型的模型可能讓蘋果把運算攝影、影片生成,以及涉及敏感個人資料的健康與健身工具等更多高運算需求功能移至 iPhone 端。

蘋果同時設計 iPhone 晶片與軟體,因此能更精準控制 AI 模型在裝置上的運行方式,相較其他業者可能具有軟硬體垂直整合優勢。不過分析師也警告,PrismML 提出的驚人效能數據仍需接受真實世界的大規模測試,包括長提示詞下的模型表現、多工處理時的電池消耗,以及面對數百萬次查詢時的可靠性。

AI 模型愈來愈省記憶體 晶片需求會被顛覆嗎?

PrismML 的技術突破也正值市場激烈爭論 AI 效率提升是否最終會降低記憶體晶片及昂貴資料中心基礎設施需求之際。

記憶體已成為消費電子產品與 AI 伺服器最大的供應瓶頸及成本來源之一。摩根士丹利估計,蘋果 2027 會計年度平均 DRAM 每位元成本可能較去年同期飆升約 190%,NAND 成本則可能增加約 180%。為保護利潤率,大摩預期蘋果可能將同級 iPhone 18 機型起售價提高約 200 美元。

PrismML 聲稱,其技術可以讓原本需要 8 顆 GPU 運行的雲端模型縮減至僅需 1 顆,甚至讓過去必須依靠伺服器的 AI 模型直接移至手機及筆電,因此可能降低完成特定 AI 任務所需的記憶體或運算能力。

不過,這並不必然代表整體晶片需求將下降。D.A. Davidson 分析師盧里亞 (Gil Luria) 指出,縮小 AI 模型並不會消除對處理器或記憶體的需求,而可能只是將更多晶片需求從資料中心轉移至手機及其他終端裝置。

此外,AI 效率提升也可能刺激更多使用需求,而非降低整體支出,因為更便宜、更快速的 AI 將催生新產品,並鼓勵消費者更頻繁使用模型。

對蘋果而言,如果能將更強大的 AI 直接放進 iPhone,可能有助於改善 Siri,同時保留隱私與軟硬體整合兩項核心優勢。未來更可能形成雲端與裝置端 AI 分工模式:複雜任務交由雲端處理,涉及敏感資料、低延遲及高度隱私需求的工作,則直接在裝置端執行。

< CNYES 來源網頁 >