台積電未來三年營運爆發

KingDavid520 wrote:
台積電7月營收下周出...(恕刪)


Google Gemini Embedded (Frozen v2) vs AMD taalas (HC1),又是一場大混戰

AMD 收購新創 Taalas 有助提供推論晶片

超微(AMD)6日宣布,已簽署最終協議,收購總部位於加拿大多倫多的AI晶片新創公司Taalas,交易金額未公開。此舉將使AMD在通用圖形處理器(GPU)之外,向蓬勃發展的資料中心市場提供專用AI推論晶片,提升產品線的多元性。

Taalas的技術可以把特定AI模型直接寫入晶片。與可支援不同模型的通用GPU相比,這種設計雖然犧牲靈活性,但可提高特定模型的運算效率並降低成本。

AMD目前為全球第二大GPU製造商,隨著產業重心逐潮從訓練模型,轉向部署服務,市場日益重視能快速、高效執行推論工作的替代晶片。AMD表示,將把Taalas的晶片及技術納入產品路線圖,並與旗下中央處理器、Instinct GPU及伺服器系統整合,以建立涵蓋多種晶片的資料中心平台。

Taalas聲稱,它的客製化加速器處理特定模型時,輸出速度可比傳統GPU快數千倍,特別適合重視首次回應速度的低延遲應用。目前的晶片可運行Meta較小型的Llama 3.1模型,該公司正開發支援更大型、先進模型的產品。它的晶片採用台積電較舊製程,搭載晶片內部的高速SRAM記憶體。

Taalas執行長巴伊奇(Ljubisa Bajic)表示,該公司開發的平台可以把任何AI模型轉成客製化晶片,收到全新模型後,最快兩個月便能完成硬體化。Taalas自2023年成立以來,總共已募得2.19億美元創投資金。



應該只適用特定領域
烈嶼倖存別狼煙,懵懂落寞入中研;藏經閣中得奇遇,九微從此落凡間。
KingDavid520 wrote:
Google Gemini...(恕刪)


這怎麼讓我想起幾十年前的兩家公司:FPGA領域的Xilinx & Altera.....可程式邏輯晶片
然後 Xilinx被 AMD併購, Altera被Intel 吃下
現在在AI又開始上演了........特殊某一可直接把某一模型直接塞入晶片的FPGA GPU企業, 又被 AMD 吃下了
KingDavid520 wrote:
Google Gemini...(恕刪)


AI邊緣裝置、自駕車、無人機、特定用途機器人等需要低延遲、低功耗的應用,都非常適合

Taalas將大模型直接「蝕刻」入矽,推理速度飆升百倍

加拿大新創公司Taalas推出革命性HC1晶片,將Llama 3.1 8B大語言模型直接硬編碼到台積電6奈米製程的矽晶片中,實現「模型即晶片」。該晶片推理速度高達每秒17,000個token,遠超輝達旗艦GPU,同時硬體成本降低20倍,功耗減少90%。其核心創新在於極致的「存算合一」設計,徹底消除了記憶體頻寬瓶頸。然而,該晶片僅能執行特定固化模型,任何更新都需重新流片,與AI模型的快速迭代週期形成根本矛盾。分析認為,此技術難以成為通用AI研發的主流,但在工業控制、智慧駕駛、高頻交易等模型穩定、對延遲有極致要求的利基領域,具有不可替代的潛在價值。其未來發展取決於AI技術迭代速度與晶片製造成本之間的經濟博弈。

當全球科技巨頭仍在為爭奪GPU算力與建設萬卡資料中心而激烈競爭時,一家名為Taalas的新創公司選擇了一條截然不同、近乎顛覆性的道路。這家成立於2023年的多倫多企業,其核心產品HC1晶片並非用於「執行」人工智慧模型,而是將整個大模型——具體來說是擁有80億引數的Llama 3.1 8B模型——直接「蝕刻」或「硬編碼」到晶片的物理結構中。這種被稱為「模型專用矽」的技術,旨在從根本上解決AI推理環節的「記憶體牆」瓶頸,並已展現出驚人的效能資料。

據《eefocus》報導,Taalas的HC1晶片在台積電6奈米製程上製造,面積815平方毫米,整合了530億個電晶體。其最引人注目的效能指標是推理速度:在2.5千瓦的伺服器配置下,能為每個使用者提供每秒超過17,000個token的處理能力。作為對比,人類語音的峰值速度約為每秒三個單字。該公司搭建的線上演示顯示,在處理「2+2等於多少?」這類簡單問題時,速度可達19,600 token/s;對於更複雜的開放式問題,速度也穩定在15,000至16,000 token/s區間。當被要求生成一份關於人生意義的100頁書稿大綱時,晶片僅用0.064秒便完成了包含14章的內容,處理速度為15,651 token/s。

效能與成本的雙重優勢

與傳統AI加速方案相比,HC1晶片在多個維度上實現了數量級的提升。報導援引Taalas的資料稱,其速度比Cerebras的晶圓級晶片快約10倍,硬體製造成本低20倍,功耗也低10倍。與輝達的旗艦GPU相比,優勢更為顯著:其token處理速度達到輝達H200 GPU(約230 tokens/秒)的70多倍,也遠超其最新B200 GPU(約2000 tokens/秒)。

這種效能飛躍的核心在於其「存算一體」的極致設計。傳統硬體加速器通常面臨記憶體頻寬瓶頸,因為計算單元需要頻繁從獨立的記憶體中讀寫資料。Taalas的技術則將模型的權重直接硬編碼在晶片的金屬互連層中,實現了儲存與計算單元的物理整合,密度達到DRAM級別,從而幾乎消除了資料搬運的開銷和延遲。



AI伺服器端短期難以撼動Nvidia霸權,看來AMD要強攻AI邊緣應用了,蘇媽,強!
烈嶼倖存別狼煙,懵懂落寞入中研;藏經閣中得奇遇,九微從此落凡間。
欸喔欸五
KingDavid520 wrote:
AI邊緣裝置、自駕車...(恕刪)


10倍速暴衝!Anthropic空前絕後的營收表現,輝達、谷歌、馬斯克都要靠邊站
2024年底年化營收才10億美元,2025年底衝到90億美元,2026年7月突破710億美元
千億在即,何時破兆?


賣token賺很大!Anthropic營收輾壓星巴克+麥當勞 有望入選《財星》美國500百強企業

最新數據顯示,OpenAI 與 Anthropic 合計年化營收 (ARR) 可望逼近 1200 億美元,兩家皆具備躋身《財星》美國 500 大公司 (Fortune 500) 營收百強榜單的規模。

Anthropic 憑企業級客戶與 Claude Code 等程式設計產品放量,預估年化營收約 710 億美元,佔合計規模近六成,OpenAI 正急起直追。

至於 710 億美元是什麼概念,星巴克最新的年度營收約 372 億美元、麥當勞約 269 億美元,兩家相加 641 億美元,還不及 Anthropic 一家,且近乎等於星巴克 + 麥當勞 + 肯德基母公司百勝餐飲三家體量之和。

這些餐飲巨頭各有 50 至 100 年歷史、全球門市數以萬計,而 Anthropic 2021 年才成立,不靠線下客流,靠向企業賣 API、模型調用與代碼代理,把「賣 token」跑出消費品牌賣杯子的現金流速。

市場真正在意的是兌現:當 AI 收入以年化千億計,數兆美元的 AI 基建開支 (GPU、HBM、資料中心) 就不再只是故事。

不過,上述 ARR 不是已審計年度財報數字,且 Anthropic、OpenAI 仍處重資產投入期,營收高增不等於淨利轉正。

但即便保守看待,AI 軟體層的變現速度已倒逼資本市場重估「投入—回報」的時間窗口。



燦爛耀眼的科技界新星即將誕生
烈嶼倖存別狼煙,懵懂落寞入中研;藏經閣中得奇遇,九微從此落凡間。
AI 摘要

Taalas 與加拿大電信巨頭 Telus(泰勒斯電信)在業務與公司本質上沒有直接關係。Taalas 是一家總部位於加拿大多倫多的 AI 晶片新創公司(由前 Tenstorrent 高層創立),專門開發將 AI 模型權重直接燒錄進晶片中的專用推論晶片。該公司近期受到高度關注,是因為被半導體大廠 AMD 宣布簽約收購。Telus 則是加拿大主要的電信公司之一,提供行動通訊、網路與數位服務,兩者屬於完全不同的產業領域。兩者唯一的共同點僅在於英文拼字有些許相似,以及 Taalas 的總部同樣位於加拿大。
KingDavid520 wrote:
Taalas將大模型直接「蝕刻」入矽,推理速度飆升百倍
KingDavid520 wrote:
據此估計,台積電7月營收將月增約200億台幣,達4600-4700億之間


好像又猜對

台積電7月營收4,675.8 億元,月增5.6%,年增44.7%


台積電收盤2380元
烈嶼倖存別狼煙,懵懂落寞入中研;藏經閣中得奇遇,九微從此落凡間。
KingDavid520 wrote:
好像又猜對 台積電7...(恕刪)


30萬顆很多嗎?台積電一個廠不用一星期就生產好了
微軟和Meta這2咖魯蛇在自研晶片賽道已經落後很久了

微軟新AI晶片Maia 300 最快9月亮相 與台積洽談30萬顆產能

The Information網站報導,微軟計劃今年秋季發表新一代自研AI晶片Maia 300,最快9月亮相,並正與台積電洽談產能,目標2027年交付超過30萬顆。較Maia 200僅數萬顆的產量大幅提升,顯示微軟正加速自研晶片布局,降低對輝達高價AI處理器的依賴。

知情人士指出,微軟正積極與Anthropic等大型雲端客戶洽談採用Maia晶片。成本優勢是主要吸引力之一。微軟在7月曾向投資人透露,Maia 200執行OpenAI及微軟自有模型時,營運成本較輝達高階晶片低30%至40%;據悉,針對微軟模型優化的Maia 300,效能與成本效益更佳。

即使未能成功取得大型外部客戶,微軟也可將更多內部AI工作負載轉移至Maia,同時繼續向Azure雲端客戶出租價格較高的輝達晶片,藉此提高自研晶片利用率。

微軟在自研AI晶片領域仍落後Google及亞馬遜。Google TPU與亞馬遜Trainium晶片已獲多家客戶採用,Google甚至開始對外銷售TPU;相比之下,Maia 200目前主要由微軟自用,截至7月底僅部署於美國兩座資料中心。

摩根士丹利估算,Google今年TPU產量將超過300萬顆,明年更可能達500萬顆,遠高於微軟目前洽談的Maia 300逾30萬顆產能。

微軟Azure Maia總經理沃爾(Andrew Wall)未評論具體產量。他表示:「微軟持續投資晶片,作為我們長期AI基礎設施戰略的組成部分。我們預計Azure Maia部署將支持以GW計量的AI工作負載需求。」



30萬顆只夠塞牙縫,如果又不肯用CSP同業的ASIC,只能繼續被輝達壓榨了


台積電收盤2395元
烈嶼倖存別狼煙,懵懂落寞入中研;藏經閣中得奇遇,九微從此落凡間。
KingDavid520 wrote:
30萬顆只夠塞牙縫,如果又不肯用CSP同業的ASIC,只能繼續被輝達壓榨了


目前趨勢越來越明顯了~~~
AI模型訓練階段.......沒人可以跟nVidia比, Vera Rubin應該可以持續大賣(而且是賣高價)......Google TPU是唯一例外!
至於消費者下指令回應的AI推理.......用nVidia晶片太貴了, 大家紛紛想辦法改成自家設計的TPU, 希望可以降低推理成本, 但是Token還是要想辦法賣高價.......這樣才能回收投資
KingDavid520 wrote:
30萬顆很多嗎?台積...(恕刪)


Google大神Jeff Dean離職,創立RSI新創公司Discovery Loop,用AI自動改善AI

Google首席科學家Jeff Dean離職,是轟動AI界的大事,RSI更是現今AI科技界的當紅炸子雞

RSI就是所謂的遞迴式自我進化(recursive self-improvement)。

另一家RSI公司Recursive Superintelligence已經獲得AI大咖投資,包括Google、Nvidia、AMD等

除了RSI外,研發用AI自主研發新晶片的新創公司Ricursive Intelligence也獲得市場關注

目標是將曠日廢時的晶片研發設計,從耗時一、二年大幅降低到幾天的時間

聯發科是國內第一家進入這領域的先行者,前途如何自不待言

從Anthropic營收10倍速跳增到新創公司紛紛設立,AI早已如日中天、勢不可擋了


台積電收盤2415元
烈嶼倖存別狼煙,懵懂落寞入中研;藏經閣中得奇遇,九微從此落凡間。
關閉廣告
文章分享
評分
評分
複製連結
請輸入您要前往的頁數(1 ~ 69)

今日熱門文章 網友點擊推薦!