top of page

[輕鬆聊] CoWoS、EMIB、Foveros 大比拚:AI 晶片背後,那些默默付出的隱形英雄?

  • 作家相片: Amiee
    Amiee
  • 5月7日
  • 讀畢需時 8 分鐘

AI 無處不在,但晶片的“成長”遇到瓶頸了?


你可能感覺到了,從手機裡的語音助理,到推薦給你的下一部電影,再到改變醫療診斷方式的工具,AI 就像空氣一樣,悄悄地滲透到我們生活的每個角落。這背後,是對計算能力瘋狂的渴求。我們總希望晶片能更快、更強、更省電,但工程師們發現,單純把晶片越做越大的老路子,好像快走到盡頭了——就像想在一塊小小的麵包上,擠下越來越多的果醬一樣,總有個極限,而且成本高得嚇人。


怎麼辦呢?聰明的工程師們想出了新點子:「與其硬塞,不如分工合作吧!」他們開始把一個大晶片拆成幾個各有所長的小晶片(Chiplet),有的專管計算、有的專管記憶,然後像玩樂高一樣,用一種叫做「先進封裝」的魔法,把它們緊密地組合起來。這樣不僅更靈活、良率更高,還能讓每個小零件都發揮到極致。而 CoWoS、EMIB 和 Foveros,就是目前舞台上最耀眼的三位「封裝大師」,是它們,讓 AI 晶片得以不斷進化,成為我們數位世界的隱形英雄。



核心概念輕鬆聊:2.5D 和 3D 封裝,就像蓋房子?


在認識這三位大師之前,我們先來聊聊它們的「建築風格」:2.5D 和 3D。


  • 2.5D 封裝: 想像一下,你不是直接把所有房間(小晶片)疊起來蓋高樓,而是先蓋一個超豪華、自帶高速通道的「地基平台」(中介層),然後把不同的房間(小晶片)肩並肩地放在這個平台上。房間之間要溝通?沒問題,透過平台裡的專用通道就能飛速傳遞訊息。這種蓋法,能讓房間們靠得很近,溝通效率超高。台積電的 CoWoS 和英特爾的 EMIB 就屬於這種風格。

  • 3D 封裝: 這就更厲害了,直接挑戰「摩天大樓」!把不同的房間(小晶片)垂直疊起來,然後在樓層之間打通「電梯」(垂直導線),讓訊息可以直接上下穿梭。這樣一來,不僅溝通路徑最短,整棟樓佔地面積也最小。當然,蓋這種樓的技術難度也更高。英特爾的 Foveros 就是 3D 建築的代表作。


不管是哪種風格,目標都是一樣的:讓晶片之間「住得」更近,「說話」更快,同時還更「節能」。



CoWoS 技術深入看:那個可靠穩重的「矽基座」大師


CoWoS(Chip on Wafer on Substrate)是台積電的拿手好戲,也是目前 AI 和高效能運算領域的「老大哥」。你看那些最強的 AI 訓練晶片,肚子裡幾乎都少不了它。


  • 它是怎麼蓋的: CoWoS 的絕招,是用一片精心打造的「矽中介層」。你可以把它想像成一個微縮版的、佈滿超細緻高速公路的矽晶圓。GPU、CPU 這些主要的運算晶片,還有負責快取記憶體的高頻寬記憶體(HBM),都會先被安放到這個矽基座上,腳對腳(透過微凸塊)接上裡面的高速公路。然後,這整個「豪華地基+上面的房間」組合,再被放到一個更大的載板上,跟外界連接。

  • 關鍵技術「矽穿孔」: 這個矽基座本身是矽做的,訊號怎麼穿過去跟下面的載板溝通呢?靠的就是「矽穿孔」(TSV)。就像在地基裡打了很多垂直的秘密通道,讓訊號可以暢通無阻地上下樓。

  • 為什麼它很受歡迎: CoWoS 能提供超高的傳輸頻寬,特別適合需要跟 HBM 大量溝通的 AI 晶片。加上技術成熟、夥伴眾多(生態系完整),就像一個經驗老道、值得信賴的老師傅。

  • 它也有不同風格: 為了滿足不同客戶的需求,台積電還推出了 CoWoS-S、-L、-R 等不同版本,就像同一個師傅,能做出不同風味的菜餚。



EMIB 技術巧妙談:那個精打細算的「搭橋」高手


EMIB(Embedded Multi-die Interconnect Bridge)則是英特爾的獨門絕技,它走了一條更「聰明」的路,不需要那個又大又貴的矽基座。


  • 它是怎麼做的: EMIB 的聰明之處在於,它不安裝一整個豪華地基,而是在需要高速連接的地方,「精準地」在傳統的載板裡埋下幾座小小的「矽橋」。就像在普通馬路之間,只針對最需要的地方,架設幾座迷你高速天橋。晶片們直接放在普通載板上,但到了需要高速交流的邊界,就透過這些埋好的矽橋來「握手」。

  • 關鍵技術「嵌入式矽橋」: 這些小矽橋雖然不大,但裡面的線路可是精密得很,密度遠超普通載板。它們被巧妙地藏在載板裡,讓晶片能直接連上。

  • 它的優點在哪: 不用大型矽基座,成本自然就下來了,製造流程也相對簡單些。而且,想放多大的晶片、怎麼排列組合,彈性也更大。對於那些「好鋼用在刀刃上」,只需要局部高速通道的應用,EMIB 顯得特別划算。

  • 哪裡能看到它: 英特爾自家的 FPGA(一種可程式化的晶片)、某些 CPU,還有部分 AI 加速器(像 Ponte Vecchio,同時用了 EMIB 和 Foveros 兩種技術)裡,都能找到 EMIB 的身影。



Foveros 技術新探索:那個勇闖 3D「摩天樓」的先鋒


Foveros 是英特爾力推的「真 3D」堆疊技術,是把晶片從「平房」帶向「高樓」的勇敢嘗試。


  • 它是怎麼堆的: Foveros 不玩並排了,直接把不同功能、甚至不同工藝製造的小晶片,「臉貼臉」地垂直疊起來。想像一下,把兩片晶片佈滿電路的那一面,像蓋印章一樣直接對準、壓合,中間透過超微小的銅對銅直接連接(混合鍵合)或微凸塊連起來。底下的晶片通常當作「地基」,負責供電和對外溝通,上面再疊加負責思考的邏輯晶片或記憶晶片。

  • 關鍵技術「混合鍵合/微凸塊」: Foveros 的核心就是要把垂直方向的連接做得又密又好。最新的 Foveros Direct 技術,用的「混合鍵合」甚至能把連接點做得比頭髮絲還細很多倍,讓訊號傳遞更快、耗電更少。

  • 它厲害在哪: 3D 堆疊讓晶片之間的距離縮到最短,帶來的頻寬更高、延遲更低、功耗也更少,還能在同樣大小的空間裡塞進更多功能。而且,可以更自由地把不同工廠、不同技術做的晶片「混搭」在一起。

  • 它也在進化: Foveros 家族還有 Foveros Omni 和 Foveros Direct 這些新成員,不斷追求更好的堆疊方式和更高的連接密度。

  • 哪裡用上了: 英特爾的 Lakefield 處理器是第一個吃螃蟹的消費級產品,而未來更強大的 CPU 和 AI 晶片,都將是 Foveros 大展身手的舞台。





CoWoS vs. EMIB vs. Foveros:三位大師風格快速比較

說了這麼多,是不是有點眼花撩亂?沒關係,我們用一張表格,把這三位封裝大師的風格特點抓出來比一比:

特性

CoWoS (台積電) - 可靠的基座大師

EMIB (英特爾) - 精準的搭橋高手

Foveros (英特爾) - 勇敢的 3D 先鋒

建築風格

2.5D 平房 (帶豪華地基)

2.5D 平房 (帶局部天橋)

3D 摩天樓

核心結構

矽中介層 (大片地基)

嵌入式矽橋 (小型天橋)

垂直晶片堆疊 (樓層直接疊)

主要連接方式

微凸塊 + 矽穿孔 (地基內部通道)

微凸塊 (連接天橋)

微凸塊 或 混合鍵合 (樓層直接連接)

溝通效率 (密度)

非常高 (地基上)

高 (天橋區域)

極高 (垂直方向)

地基材料

需要矽地基,再放載板上

直接用普通載板

直接疊在底層晶片或中介層上

拿手好戲

HBM 整合能力強、技術成熟穩定

成本效益好、設計靈活、無需大地基

密度最高、速度最快、最省空間

頭痛問題

成本高、地基大小有限

效率不如矽地基、散熱要留意

設計超複雜、散熱是大挑戰、測試貴

代表作

NVIDIA GPU、各種 AI 訓練晶片

Intel FPGA、部分 CPU、AI 加速器 (局部)

Intel Lakefield、Ponte Vecchio、未來 CPU



製造中的汗水與智慧:良率、散熱和技術的下一步


雖然這些先進封裝技術聽起來很神奇,但背後的工程師們可是付出了巨大的努力,克服了重重難關:


  • 良率的挑戰: 把好幾個原本可能都沒問題的小晶片組合在一起,只要其中一個環節出錯,比如黏合沒弄好,或者某個小晶片本身有瑕疵,那整個昂貴的成品可能就報廢了。這就像做一道極其複雜的菜,每一步都不能出錯。

  • 散熱的煩惱: 把這麼多高效能的晶片擠在一起,就像一個房間裡開了好幾個暖爐,熱量非常驚人。特別是 3D 堆疊,熱氣很難散出去,是工程師們最頭痛的問題之一,需要不斷尋找新的散熱材料和方法。

  • 「通用語言」的重要性: 要讓不同工廠、不同設計師做的小晶片能夠順利地「對話」,就需要統一的標準和工具。這就像來自世界各地的人,需要一種共通的語言(比如 UCIe 標準)才能無障礙交流。

  • 成本的考量: 這些高科技的封裝方法,都需要非常精密且昂貴的設備和工藝,這也使得最終產品的價格不菲。如何在效能和成本之間找到平衡點,是永恆的課題。


但挑戰也激發了創新。工程師們正在研究更厲害的連接技術(像混合鍵合)、更聰明的散熱方法(比如在晶片裡開微小的水冷通道),以及更有效率的測試手段。



應用場景與未來想像:從 AI 到你我的生活


目前,這些先進封裝技術最大的舞台,是在 AI 和高效能運算領域,它們是這些「超級大腦」能夠運轉的基石。


  • AI 加速卡的心臟:  無論是雲端幫你訓練模型的 NVIDIA GPU(大量使用 CoWoS),還是英特爾的 AI 晶片(混合使用 EMIB 和 Foveros),都需要先進封裝來提供超大的「食量」(記憶體頻寬),才能餵飽它們強大的「胃口」(運算核心)。

  • 超級電腦的引擎:  科學研究、氣象預報、新藥研發,這些都需要超級電腦,而先進封裝正是打造這些「計算巨獸」的關鍵零件之一。


未來呢?隨著技術越來越成熟,成本逐漸降低,它們的身影會出現在更多地方:

  • 更酷的電腦和手機:  也許未來你的筆記型電腦會因為用了 3D 封裝,變得更輕薄、續航更久、效能卻更強。

  • 無處不在的網路:  讓網路更快更穩定的交換器、路由器裡,也會有它們的功勞。

  • 更安全的自動駕駛:  未來的自動駕駛汽車需要極其強大的「大腦」來處理路況,先進封裝技術將是實現這一切的幕後功臣。


可以預見,先進封裝這個市場會越來越火熱,成為半導體世界裡不可或缺的重要角色。



未來的趨勢:晶片世界的「樂高」會怎麼玩?


CoWoS、EMIB、Foveros 只是個開始,技術的腳步從未停歇。未來,我們會看到:


  • 「混合鍵合」成為主流:  這種更精密、效能更好的連接方式,會被越來越廣泛地應用。

  • 用「光」來傳輸?  當電線傳輸遇到瓶頸,也許未來晶片之間會用光纖來溝通,實現更驚人的速度。

  • Chiplet 的「自由市場」:  就像樂高積木一樣,未來不同廠商設計的小晶片,可以更容易地互相搭配使用,創造出更多樣化、客製化的晶片。

  • 更瘋狂的組合:  也許會出現結合 2.5D 和 3D 的「混血」封裝,比如用 CoWoS 鋪好 HBM 的地基,再用 Foveros 在上面蓋邏輯晶片的摩天樓,追求極致中的極致。



選對工具,釋放晶片的無限潛能


所以,CoWoS、EMIB、Foveros 到底誰更好?


其實沒有標準答案。它們就像不同風格的建築大師,各有專長,適用於不同的場景和預算。CoWoS 穩重可靠,是 AI 訓練場上的常勝軍;EMIB 聰明靈活,懂得精打細算;Foveros 則是大膽的探險家,不斷向 3D 的高峰邁進。


了解這些技術背後的故事和挑戰,不僅能幫助專業人士做出更好的選擇,也能讓我們這些科技愛好者,更深切地感受到,每一次 AI 帶來的驚喜,背後都凝聚了多少工程師的汗水與智慧。正是這些看似不起眼的封裝技術,這些默默付出的隱形英雄,不斷為晶片注入新的活力,推動著我們進入一個更加智能、更加精彩的未來。

Subscribe to AmiNext Newsletter

Thanks for submitting!

  • LinkedIn
  • Facebook

© 2024 by AmiNext 金融與科技筆記

bottom of page