智通財經APP獲悉,長江證券發佈研報稱,在2024年的全球開發者大會上,蘋果(AAPL.US)推出了個人智能助理Apple Intelligence。該助手包含了多個功能強大的生成模型,可以快速、高效地處理用戶日常任務,並能即時適應用戶當前的活動。此外,蘋果發佈了基礎模型AFM,爲底層操作系統賦能。Apple Intelligence正是由AFM基礎模型賦能的。在算力層面,AFM模型由谷歌(GOOG.US)TPU算力芯片提供支持,該TPU性能追及英偉達(NVDA.US)旗艦算力芯片。
蘋果發佈Apple Intelligence智能助手
蘋果發佈了基礎模型AFM,爲底層操作系統賦能。在2024年的全球開發者大會上,蘋果推出了個人智能助理Apple Intelligence。Apple Intelligence包含了多個功能強大的生成模型,可以快速、高效地處理用戶日常任務,並能即時適應用戶當前的活動。Apple Intelligence可以實現撰寫和潤色文本、優先處理和總結通知、爲與家人朋友的對話創建有趣的圖片等功能,以及採取應用內操作以簡化跨應用交互。Apple Intelligence將被搭載於IOS18、IOS18ipad以及MacOS18操作系統上。目前Apple Intelligence搭載於iOS18.1Beta版上,僅限註冊開發者試用,訂閱價格爲99美金一年;普通用戶仍需要排隊等待。
Apple Intelligence由AFM基礎模型賦能
AFM基礎模型主要包含了端側模型和雲端模型兩個部分。其中端側模型專爲端側應用的特定場景所設計,只能處理語言相關的單模態任務,可以本地化搭載於iphone、ipad、Mac等設備上,模型包含30億參數量。雲端模型爲私有云應用場景所設計,具備多模態能力,有更高的泛化能力,可應對更加通用的任務。這兩個基礎模型是蘋果創建的生成式模型家族中的一部分,除了上述兩個模型,Apple Intelligence還包含了一個編碼模型和一個擴散模型。編碼模型基於AFM語言模型,用於爲Xcode注入智能功能;擴散模型幫助用戶以視覺方式表達自己,比如在Messages應用中使用。
AFM雲端模型性能追及GPT-3.5,略遜於GPT-4。
在模型性能評估階段,蘋果設計了1393個任務,將AFM模型與其他主流模型的性能進行了對比。對比結果顯示,AFM雲端模型性能超越Mixtral-8x22混合專家模型、GPT-3.5等模型,略遜於GPT-4和LLaMA-3-70B模型;在端側模型方面,AFM端側模型性能接近市場主流端側模型。人類測評結果顯示,AFM端側模型性能超越Gemma-7B、Phi-3-mini、Mistral-7B、Gemma-2B等主流模型,略遜於LLaMA-3-8B模型;結果證明了AFM端側模型的優異性能,有望在iPhone、iPad等設備上發揮較高實用性。
異構芯片或成AI算力發展新方向
在算力層面,AFM模型由谷歌TPU算力芯片提供支持。谷歌爲本次訓練提供了算力支持,雲端的AFM-server模型由8192個TPU V4算力芯片訓練得到,在訓練階段,蘋果把8192芯片分成8組,每組1024個芯片相互串聯形成一個基本單位,各組之間保持平行關係,訓練數據與迭代僅在組內完成;端側的AFM-on-device模型由2048個TPU V5p算力芯片訓練得到。
谷歌TPU性能追及英偉達旗艦算力芯片。TPU(Tensor Processing Unit),是一種專爲處理張量運算而設計的ASIC芯片。TPU通過脈動陣列機制實現高效運算。與GPU相比,TPU不需要再頻繁地訪問內存,減少了與存儲器的交互次數,從而大幅度提高了計算效率。因此,TPU的有效算力利用率相比於GPU更高;GPU的算力利用率通常爲20%-40%,而TPU的算力利用率往往超過50%。
風險提示
1、AI技術推進不及預期;
2、下游應用需求不及預期。