AUDIO READER
TAP TO PLAY
top of page

【科技速解】用光取代電!揭密矽光子與 CPO:AI 資料中心的終極高速公路,拆解台積電與 Intel 的下個十年佈局

  • 作家相片: Sonya
    Sonya
  • 10月19日
  • 讀畢需時 7 分鐘

秒懂重點:為什麼你現在非懂不可?


我們已經知道,AI 的強大來自於被稱為 GPU 的超級大腦,以及為它輸送能量的 HBM 記憶體,但現在,一個新的問題浮現了:當我們把成千上萬個這樣的超級大腦聚集在一起,組成一個巨大的 AI 工廠(資料中心)時,它們之間該如何溝通?


傳統的方式是使用「銅線」,但隨著 AI 運算需求暴增,數據量大到銅線開始「消化不良」,這就像試圖用城市裡的巷弄來疏通 F1 賽車的車流,結果就是大規模的交通堵塞、高熱量(功耗)以及速度瓶頸,AI 算力再強,如果數據送不過來,一切都是空談。


矽光子 (Silicon Photonics) 就是解決這個世紀難題的答案,它的核心思想極其簡單而優雅:用光來傳輸數據,它在一塊矽晶片上,製造出微縮了數百萬倍的光纖、雷射、調變器等光學元件,打造出一條「晶片上的光速網路」,而 共同封裝光學 (Co-Packaged Optics, CPO) 則是更進一步,直接將這個「光學引擎」和 GPU、CPU 等運算晶片「黏」在一起封裝,實現晶片與光纖之間的無縫對接。


簡單來說,矽光子和 CPO 就是在為 AI 晶片打造一條專屬的、零延遲的蟲洞傳輸系統,這項技術的成熟度,將直接決定 AI 能否突破目前的算力瓶頸,邁向真正的超大規模智慧,這也是為何台積電、Intel、Broadcom、NVIDIA 等科技巨擘,正傾盡全力搶佔這條未來科技的制高點。


ree

技術白話文:原理解析與核心突破


過去的瓶頸:它解決了什麼關鍵問題?


在一個大型 AI 資料中心裡,交換器(負責引導數據流向的交通警察)和伺服器(運算單元)之間需要大量的數據傳輸,傳統的可插拔光學模組 (Pluggable Optics) 已經使用了數十年光纖通訊,但它存在一個致命缺陷:


電訊號的「最後一哩路」太長了。


具體來說,數據在伺服器機箱內,是先以「電訊號」的形式,從 GPU 晶片出發,經過一段長達數十公分的印刷電路板 (PCB) 銅線,跑到機箱邊緣的一個插槽,才插入光學模組,轉換成「光訊號」送出去,這段路程造成了三大問題:


  1. 功耗驚人 (High Power Consumption): 電訊號在銅線上長距離奔跑,就像逆風跑步,會因為電阻而損失大量能量,這些能量最終都變成了廢熱,據統計,在 AI 資料中心裡,光是數據傳輸就佔掉了總功耗的很大一部分。

  2. 訊號衰減 (Signal Degradation): 速度越快,電訊號在銅線上的衰減就越嚴重,為了維持訊號品質,需要加入各種昂貴的訊號放大器,這讓成本和複雜度都大幅增加。

  3. 頻寬密度低 (Low Bandwidth Density): 銅線的物理尺寸限制了 I/O(輸入/輸出)埠的密度,你無法在晶片周圍塞進無限數量的銅線,這限制了晶片總的對外溝通能力。


CPO 技術的目標,就是徹底消滅這段低效率的「電訊號最後一哩路」



它是如何運作的?(務必使用精妙比喻)


矽光子與 CPO 的運作原理,可以想像成為一座超級城市(AI 晶片)建立一個全新的物流系統


  • 傳統方式 (可插拔模組) 就像城市的貨物(數據)必須先用燃油卡車(電訊號),穿過擁擠、耗油的市區道路(PCB 電路板),開到城市邊緣的跨海大橋收費站(可插拔模組),才能裝上貨輪(光訊號),運送到另一座城市。這個過程緩慢、昂貴又污染嚴重(高功耗)。

  • CPO (共同封裝光學) 則是直接在城市的正中心(緊鄰 GPU 晶片),挖了一條深水港(矽光子光學引擎),讓貨輪可以直接駛入。

    1. 矽光子引擎 (Silicon Photonics Engine):科學家利用成熟的半導體製程,在矽晶圓上「雕刻」出所有需要的光學元件,這就像用樂高積木蓋出一個包含迷你雷射燈塔 (Laser Source)、訊號調變碼頭 (Modulator)、光波導航道 (Waveguide) 和光電探測器 (Photodetector) 的微型港口。

    2. 電光轉換 (Electrical-to-Optical):當 GPU 有一批貨物(電訊號)要送出時,它不再需要卡車,而是直接送到隔壁的「調變碼頭」,這個碼頭會將電訊號的 "0" 和 "1",變成雷射光的 "明" 與 "暗",瞬間完成「裝船」(電光轉換)。

    3. 共同封裝 (Co-Packaging):最關鍵的一步,是利用先進封裝技術,將這座「微型港口」和 GPU 這座「城市」直接封裝在同一個基板上,兩者肩並肩,距離極短。

    4. 光纖直連 (Fiber Optic Connection):貨物上船後,就直接沿著光纖這條無阻力的海上高速公路,以光速駛向目的地,幾乎沒有能量損耗。


為什麼這是革命性的?


CPO 的革命性在於它從根本上改變了晶片與世界溝通的方式,帶來了驚人的效益躍升。


  • 功耗巨幅降低:透過消除晶片到板卡邊緣那段最耗電的銅線路徑,CPO 有潛力將 I/O 功耗降低 30% 以上,對於整個資料中心而言,這意味著每年可以省下數百萬甚至數千萬美元的電費。

  • 頻寬密度翻倍:光纖的體積遠小於銅線,在同樣的晶片周長下,CPO 可以佈置的通道數量遠超傳統方案,讓晶片的總頻寬實現數倍的成長,這代表著 AI 晶片可以同時與更多的鄰居溝通,極大提升了整個集群的運算效率。

  • 成本與延遲:雖然初期導入成本高,但長期來看,隨著產量放大,高度整合的矽光子晶片將比使用多個分立元件的傳統方案更具成本效益,同時,超短的連接路徑也意味著更低的數據傳輸延遲。


產業影響與競爭格局


誰是主要玩家?(供應鏈解析)


矽光子與 CPO 的賽道上,聚集了來自半導體、網路通訊和雲端運算的各路巨頭:


  1. 半導體與晶圓代工廠

    • Intel:矽光子領域的先驅與長期領導者,憑藉其數十年的研發積累和 IDM(整合元件製造)模式,英特爾能夠在其晶圓廠中同時製造邏輯晶片和矽光子晶片,提供高度整合的解決方案。

    • 台積電 (TSMC):半導體製造的王者,正挾其先進的製程與封裝技術(如 CoWoS)切入此領域,台積電推出的 COUPE (Compact Universal Photonic Engine) 技術平台,重點在讓 IC 設計公司可以像設計普通晶片一樣,輕鬆地將矽光子功能整合進來,其平台化策略極具威脅性。

    • 格羅方德 (GlobalFoundries):另一家晶圓代工大廠,也擁有自己專屬的矽光子製程平台 (GF Fotonix™),是市場上重要的供應商之一。

  2. 網路設備與晶片商

    • Broadcom (博通) / Marvell (邁威爾):這兩家是傳統網路交換器晶片的霸主,它們正積極將 CPO 技術整合進其下一代交換器產品中,以滿足資料中心客戶的需求。

  3. 雲端巨頭與終端用戶

    • NVIDIA:作為 AI 算力的定義者,NVIDIA 對 CPO 技術極為重視,其下一代 AI 平台勢必會導入 CPO 來解決 GPU 之間的互連瓶頸,它既是 CPO 技術的最大潛在客戶,也可能親自下場設計相關晶片。

    • Google, Meta, Amazon (AWS):這些雲端服務供應商是 CPO 的最終使用者,它們的採購決策和自研晶片的技術路線,將深刻影響整個 CPO 市場的發展方向。


技術的普及時程與挑戰


目前,CPO 技術仍處於大規模商用的前夕,市場普遍預計,隨著 800G、1.6T 等更高速網路標準的普及,CPO 將在 2025-2027 年開始被大規模導入 AI 資料中心的交換器和伺服器中。


挑戰依然存在:


  • 光源整合:目前最高效能的雷射光源材料(磷化銦, InP)很難直接與矽晶圓整合,如何以低成本、高可靠性的方式將光源與矽光子晶片結合,是業界的一大難題。

  • 標準化與生態系:CPO 是一個跨領域的技術,需要晶片設計、封裝、光學、測試等多个環節的緊密合作。建立統一的產業標準和健康的生態系至關重要。

  • 可靠性與維護:將光學元件與晶片封裝在一起,代表著一旦光學部分失效,可能需要更換整塊昂貴的模組,這對產品的長期可靠性提出了極高的要求。


潛在的風險與替代方案


短期內,CPO 的主要風險在於技術成熟度和成本下降的速度能否跟上市場的期待,如果導入過程不順利,產業界可能會轉向一些改良型的方案,例如線性驅動可插拔光學 (Linear Drive Pluggable Optics, LPO),這是一種功耗和成本介於傳統模組和 CPO 之間的過渡方案。


但從長期來看,物理定律決定了「光進銅退」是不可逆轉的大趨勢。矽光子和 CPO 是目前可見的最具潛力的終極解決方案。


未來展望與投資視角


矽光子與 CPO 的崛起,標誌著一個新時代的到來:半導體技術與光通訊技術的深度融合,這不再是兩個獨立發展的產業,而是一個相互依存、共同演進的生態系統。


對投資人而言,這場技術變革帶來了全新的觀察維度:


  1. 超越摩爾定律的新戰場:當單一晶片的性能提升越來越難時,晶片與晶片之間的「連接能力」成為了新的價值所在,擁有 CPO 核心技術平台的公司,將在全球算力基礎設施中佔據戰略性的地位。

  2. 價值鏈的重塑:過去,光學元件和半導體晶片的供應鏈相對獨立,CPO 將兩者緊密耦合,這表示像台積電這樣的晶圓代工廠,其業務將從傳統的邏輯晶片、SoC,延伸至高附加價值的光學 I/O 領域。

  3. 關注生態系與標準制定者:在這場跨界競賽中,能夠整合最多合作夥伴、主導產業標準的公司,將最有可能成為最終的贏家,投資機會不僅存在於技術領先者,也存在於整個生態鏈中的關鍵材料、設備和測試廠商。


從銅線到光纖,從電子到光子,這不僅是傳輸介質的改變,更是對未來運算架構的一次徹底重構。CPO 的戰役已經打響,它將是決定下一代 AI 資料中心效能與成本的關鍵,並為半導體產業開啟一個充滿想像力的「光」明未來。

留言


Subscribe to AmiNext Newsletter

Thanks for submitting!

  • LinkedIn
  • Facebook

© 2024 by AmiNext 金融與科技筆記

bottom of page