蘋果剛剛推出了 M5 Max MacBook Pro,這是一台 AI 強者。相較於 M4 Max,AI 計算速度提升了 4 倍。 這些規格真是瘋狂: - 18 核 CPU,包含 6 個 "超級核心" = 世界上最快的 CPU 核心 - 40 核 GPU = 在筆記型電腦中可與 RTX 4070 媲美 - 128GB 統一記憶體 = 超過大多數伺服器 - 614 GB/s 帶寬 = 是 DGX Spark 的 4 倍 - 24 小時電池壽命 你現在可以在當地咖啡店的筆記型電腦上運行 Llama 70B,這個模型在 18 個月前需要一個價值 40,000 美元的 GPU 集群。 以約 20-30 個標記/秒的速度,它足夠快,可以實際使用。 "本地 AI" 革命剛剛以 3,499 美元的價格上市。