KingDavid520 wrote:
台積電7月營收下周出...(恕刪)
Google Gemini Embedded (Frozen v2) vs AMD taalas (HC1),又是一場大混戰

AMD 收購新創 Taalas 有助提供推論晶片
超微(AMD)6日宣布,已簽署最終協議,收購總部位於加拿大多倫多的AI晶片新創公司Taalas,交易金額未公開。此舉將使AMD在通用圖形處理器(GPU)之外,向蓬勃發展的資料中心市場提供專用AI推論晶片,提升產品線的多元性。
Taalas的技術可以把特定AI模型直接寫入晶片。與可支援不同模型的通用GPU相比,這種設計雖然犧牲靈活性,但可提高特定模型的運算效率並降低成本。
AMD目前為全球第二大GPU製造商,隨著產業重心逐潮從訓練模型,轉向部署服務,市場日益重視能快速、高效執行推論工作的替代晶片。AMD表示,將把Taalas的晶片及技術納入產品路線圖,並與旗下中央處理器、Instinct GPU及伺服器系統整合,以建立涵蓋多種晶片的資料中心平台。
Taalas聲稱,它的客製化加速器處理特定模型時,輸出速度可比傳統GPU快數千倍,特別適合重視首次回應速度的低延遲應用。目前的晶片可運行Meta較小型的Llama 3.1模型,該公司正開發支援更大型、先進模型的產品。它的晶片採用台積電較舊製程,搭載晶片內部的高速SRAM記憶體。
Taalas執行長巴伊奇(Ljubisa Bajic)表示,該公司開發的平台可以把任何AI模型轉成客製化晶片,收到全新模型後,最快兩個月便能完成硬體化。Taalas自2023年成立以來,總共已募得2.19億美元創投資金。
應該只適用特定領域
























































































