A laptop keyboard, a binary code reflected and Nvidia logo displayed on a phone screen are seen in this illustration photo taken in Krakow, Poland on January 2, 2024. (Photo by Jakub Porzycki/NurPhoto via Getty Images)
Photo Credit: Getty Images

傳輝達成立新部門 角逐價值 300 億美元的客製化晶片市場

輝達有意擴大不斷成長的客製化 AI 晶片市場,公司高層已經會見了亞馬遜、Meta、微軟、谷歌和 OpenAI 的代表,討論為其製造定製晶片。

本文來自合作媒體 鉅亨網,INSIDE 經授權轉載。

根據熟悉內情的消息人士透露,輝達正在建立一個新的業務部門,專注於為雲端運算公司和其他公司設計客製化晶片,包括先進的人工智慧 (AI) 處理器。

這家全球 AI 晶片設計商龍頭和供應商有意擴大不斷成長的客製化 AI 晶片市場,並保護自己免受越來越多有興趣尋找替代品的公司的影響。

輝達目前控制著高階 AI 晶片約 80% 的市場,這種地位使其市值在 2023 年增加了 2 倍多,今年至今已增加 40%,至 1.73 兆美元。

其客戶包括 ChatGPT 創作者 OpenAI、微軟、Alphabet 和 Meta Platforms,競相搶購日益減少的輝達晶片供應,以在快速新興的生成式 AI 領域展開競爭。

輝達的 H100 和 A100 晶片為許多主要客戶提供通用的 AI 處理器。但科技公司已經開始開發自有內部晶片以滿足特定需求。這樣做有助於減少能源消耗,並有可能縮短設計成本和時間。

根據絕透露姓名的消息人士透露,輝達現在正試圖幫助這些公司開發客製化 AI 晶片,這些晶片已流向博通和 Marvell Technology 等競爭對手。

創投公司 Eclipse Ventures 普通合夥人瑞丘 (Greg Reichow) 表示:「如果真的想優化功耗,或者優化應用程式的成本,那麼就無法排除在其中放置 H100 或 A100。」「每個人都希望擁有正確的計算組合以及需要的計算類型。」

輝達並未透露 H100 的價格,但肯定高於上一代 A100,���個晶片���價��� 1.6 萬美元到 10 萬美元不等,具體取決於數量和其他因素。Meta 表示,計劃今年 H100 的總庫存量達到 35 萬顆。

消息人士透露,輝達高層已經會見了亞馬遜、Meta、微軟、谷歌和 OpenAI 的代表,討論為其製造定製晶片。除了資料中心晶片之外,該公司還接觸電信、汽車和電玩客戶。

輝達 2022 年時表示,將允許第三方客戶將部分專有網路技術與其晶片整合。之後沒有就該計劃發表任何言論。

研究公司 650 Group 分析師威克爾 (Alan Weckel) 估計,資料中心客製化晶片市場今年將成長至 100 億美元,到 2025 年將翻倍。

Needham 分析師 Charles Shi 表示,2023 年整體客製化晶片市場價值約為 300 億美元,約占全球晶片年銷售額的 5%。

目前,資料中心的客製化晶片設計由博通和 Marvell 主導。

其基本操作模式是:輝達等設計公司會提供智慧財產權和技術,但將晶片製造、封裝和其他步驟留給台積電或其他合約晶片製造商。

輝達跨入這個領域有可能蠶食博通和 Marvell 的銷售額。

晶片研究集團 SemiAnalysis 創始人帕特爾 (Dylan Patel) 表示,「博通的客製化晶片業務達 100 億美元,Marvell 約為 20 億美元,輝達將成為一個真正的威脅。」

責任編輯:Jocelyn

快加入 INSIDE Google News 按下追蹤,給你最新、最 IN 的科技新聞!

延伸閱讀:

最新發展:

AWS 在台設立基礎設施區域(Region)資料中心,2025 正式啟動未來將投資數十億美元

Amazon Web Services (AWS) 日前正式宣布將於 2025 年在台灣設立 AWS 亞太(台北)區域(Region),目的賦能台灣企業客戶獲得三大目標效益,並且伴隨日後將展開數十億美元的投資計畫,支持台灣市場擁有更充沛能量發展雲端服務產業。

2006 年成立的 AWS ,經過十多年的醞釀,日前正式宣布將於 2025 年在台灣設立 AWS 亞太(台北)區域(Region),目的賦能台灣企業客戶獲得三大目標效益,並且伴隨日後將展開數十億美元的投資計畫,支持台灣市場擁有更充沛能量發展雲端服務產業。

事實上, AWS 在台灣的投資案可看出具規劃性的策略。從 2014 年先推出兩個 Amazon CloudFront (邊緣節點),主要用來提供 CDN (內容交付網路)、 DNS (網域名稱系統)服務;接著 2018 年在台北開設第一座 AWS Direct Connect 站點,並於四年後在 2022 年啟動 AWS Local Zones (本地區域),接著就是 2025 年將打造首座 AWS 亞太(台北)區域級的資料中心��Region)。

Photo Credit: TNL Brand Studio

AWS 在台首座區域級資料中心,目標賦能企業客戶三大目標

所有的投資,背後一定有務實的戰略考量。 AWS 台灣解決方案架構師主管 Ivan 解釋, AWS 會在台北設立 Region 主要瞄準三大關鍵要素。

第一是讓台灣的開發者、新創、企業、教育、娛樂、金融和非營利組織,直接在本地的區域資料中心執行應用程式,相較把應用程式放在鄰近區域(如東京、新加坡)的資料中心運行,在地的資料中心能展現更高效率,儲存資料或應付工作負載,達成低延遲的效益。

第二個目標則是賦能台灣的用戶,加速驅動數位轉型、商業創新的腳步。因為新的 AWS 區域資料中心可以執行運算、儲存、資料庫、分析、機器學習(ML)和人工智慧(AI)等 AWS 提供的技術,讓用戶在雲端釋放創新潛力。

第三個實質的效益,則是可以幫助特殊行業,例如政府機關、金融業者得以因應法律規範。因為機敏資料在過去是無法存放在其他區域的資料中心,而 AWS 資料中心落地台灣之後,得以合規方式,儲存像是顧客或公部門的重要資料,有助提升資料安全,又可以符合監管要求。

台北 Region 共三個 Availability Zones 組成,強化數位韌性

AWS 的區域級資料中心,實際規模比想像中更龐大。 Ivan 舉例,台北的 AWS 區域資料中心啟用後,屆時會有三個可用區域(Availability Zones, AZ)組成,每個 AZ 之中又會有至少一個、至多數個資料中心所組成。為什麼台北的區域資料中心特別規劃三個 AZ ? Ivan 解釋,核心考量就是為了達到「數位韌性」備援目的。

三個 AZ 坐落在不同位置,讓距離有所區隔,每個 AZ 之間也會有獨立的水電系統、冷卻裝置、以及相關安全硬體措施;而且 AZ 與 AZ 之間,會透過超低延遲的高速頻寬網路相連接,來達到三個 AZ 彼此後援。若遇到特殊狀況一個 AZ 若毀損,其他兩個 AZ 就能立刻啟動備援機制,讓數據及程式應用持續運行,達到實際分散風險的價值。

除了關注運作韌性,對於資料須符合國際(特別是歐盟)的一般資料保護規則(GDPR)規範, AWS 針對這部分也有相對應的��措。 Ivan 指出,因為牽涉資料合規要求,企業客戶有自主權選擇把資料落地到某個 Region 儲存、處理, AWS 不會主動幫客戶把他們的資料備份到其他的 Region。

除此之外,有些企業客戶的終端用戶資料可能來自不同市場,特別是歐洲顧客的資料,這時候,使用 AWS 的雲端應用如何確保符合 GDPR 相關規範?對此, Ivan 提到 AWS 符合 143 個相關合規及認證等標準,包含球資訊安全性標準支付卡行業(PCI)資料安全標準(DSS)、聯邦資訊處理標準(Federal Information Processing Standards, FIPS)。另外在 AWS 的架構環境,也有提供 300 多個聚焦在資料安全、資料合規、資料治理等面向的服務給客戶運用。

除了硬體基礎建設,AWS 還挹注更多軟性服務能量

AWS 亞太(台北)區域(Region)正式營運後,除了有硬體基礎設施在運作,對於客戶的服務還包含其他面向,特別是培訓與認證方面,將有 AWS 的業務經理、解決方案架構師、專業服務顧問、合作夥伴等角色,幫助台灣的客戶實現數位轉型。「從 2014 至今,我們在台灣已經培訓十多萬位的技術人才、雲端人才, AWS 的長遠目標是放眼 2025 年,在全球達到 2,900 萬人的培訓與認證計畫,」 Ivan 補充道。

對於要把地端 IT 環境搬到雲端,或是要把其他 Region 資料搬遷到AWS 亞太(台北)區域(Region), AWS 會提供哪些具體協助?Ivan 提到他們所給予的遷移解決方案,會示範遷移過程的 Best Practice ,過程當中也會提供遷移白皮書,內容有具體的方法論或工具說明,指引客戶以最有效率的方式完成搬遷作業。

等搬遷之後,企業在使用 AWS 資源或在雲端執行應用程式之際,若遇到問題或想把雲端資源的使用更為優化,後續可以透過 AWS Trusted Advisor ,也就是藉由機器引擎來檢查、評估用戶的雲端環境之效能、彈性、安全性、營運狀況。 AWS Trusted Advisor 會進一步給予建議及實作,來達到成本最佳化目的。

從 Ivan 分享的內容可發現, 2025 年 AWS 在台灣本地資料中心上路後,得以與 AWS 在全球的機房串聯成巨大網絡,而且也可以為台灣用戶帶來4個層面的實際效益,包含增加營運彈性、降低傳輸的延遲、資料儲存合規、擴大服務深度及廣度,讓更多台灣企業享受雲端帶來的便利及效率,為台灣的創新能量增添更多薪火。