4 płytki obliczeniowe, 12 lokalizacji HBM stworzonych przez TSMC

TL;DR: Firma Broadcom wprowadziła technologię 3.5D eXtreme Dimension System in Package (XDSiP), umożliwiającą klientom AI opracowywanie zaawansowanych, niestandardowych akceleratorów. Platforma ta integruje ponad 6000 mm² krzemu i do 12 stosów HBM, zwiększając wydajność i zmniejszając zużycie energii. Łączy w sobie układanie krzemu 3D z opakowaniem 2,5D, oferując lepszą gęstość połączeń, efektywność energetyczną i zmniejszone opóźnienia. Ta innowacja eliminuje ograniczenia prawa Moore’a,

Firma Broadcom właśnie ogłosiła nową technologię platformy 3.5D eXtreme Dimension System in Package (XDSiP), która umożliwia klientom konsumenckim zajmującym się sztuczną inteligencją opracowywanie niestandardowych akceleratorów (XPU) nowej generacji.

ZOBACZ GALERIĘ – 2 ZDJĘCIA

Nowy 3.55D XDSiP integruje ponad 6000 mm2 krzemu i do 12 stosów HBM w jednej obudowie, umożliwiając wysokowydajne obliczenia o niższym poborze mocy dla sztucznej inteligencji na dużą skalę. Broadcom twierdzi, że osiągnął ten znaczący kamień milowy, opracowując i wprowadzając na rynek pierwszy w branży procesor 3,5D XPU typu Face-to-Face (F2F).

Popularne teraz: Eksperci branżowi przewidują, że Ubisoft zmierza w kierunku „prywatyzacji i demontażu” w 2025 roku

Broradcom wyjaśnia: „Ogromna moc obliczeniowa wymagana do szkolenia generatywnych modeli sztucznej inteligencji opiera się na ogromnych klastrach liczących 100 000 jednostek, których liczba rośnie do 1 miliona jednostek XPU. Te jednostki XPU wymagają coraz bardziej wyrafinowanej integracji mocy obliczeniowej, pamięci i możliwości we/wy, aby osiągnąć niezbędną wydajność przy jednoczesnej minimalizacji zużycia energii zużycie i koszty Tradycyjne metody, takie jak prawo Moore'a i skalowanie procesów, nie są w stanie sprostać tym wymaganiom Integracja systemu w pakiecie (SiP) staje się kluczowa dla procesorów XPU nowej generacji”.

Firma kontynuuje: „W ciągu ostatniej dekady integracja 2.5D, która obejmuje integrację wielu chipletów o powierzchni do 2500 mm² krzemu i modułów HBM do 8 HBM na przejściówce, okazała się cenna dla rozwoju XPU. Jednak jako nowe i coraz bardziej złożone Wprowadzono LLM, ich szkolenie wymaga układania krzemu 3D w celu uzyskania lepszego rozmiaru, mocy i kosztów. W konsekwencji integracja 3.5D, która łączy 3D układanie krzemu w opakowaniu 2,5D ma szansę stać się technologią wybieraną w procesorach XPU nowej generacji w nadchodzącej dekadzie”.

Kluczowe zalety XDSiP 3,5D firmy Broadcom

  • Zwiększona gęstość połączeń międzysieciowych: Osiąga 7-krotny wzrost gęstości sygnału pomiędzy ułożonymi w stos matrycami w porównaniu z technologią F2B.
  • Doskonała wydajność energetyczna: zapewnia 10-krotną redukcję zużycia energii w interfejsach typu die-to-die poprzez wykorzystanie 3D HCB zamiast planarnych układów PHY typu die-to-die.
  • Zmniejszone opóźnienia: minimalizują opóźnienia między komponentami obliczeniowymi, pamięcią i wejściami/wyjściami w stosie 3D.
  • Kompaktowa obudowa: umożliwia stosowanie mniejszych przekładek i rozmiarów opakowań, co skutkuje oszczędnościami i mniejszym wypaczeniem opakowań.

Frank Ostojic, starszy wiceprezes i dyrektor generalny działu produktów ASIC w firmie Broadcom, wyjaśnia: „Zaawansowane opakowanie ma kluczowe znaczenie dla klastrów XPU nowej generacji, ponieważ osiągnęliśmy granice prawa Moore'a. W ścisłej współpracy z naszymi klientami stworzyliśmy platformę 3.5D XDSiP w oparciu o technologię i narzędzia partnerów TSMC i EDA. Układając komponenty chipów w pionie, platforma 3.5D firmy Broadcom umożliwia projektantom chipów sparowanie odpowiednich procesów produkcyjnych dla każdego komponentu, jednocześnie zmniejszając przekładkę i rozmiar opakowania, co prowadzi do znacznej poprawy wydajności, wydajności i kosztów„.

dr. Kevin Zhang, starszy wiceprezes ds. rozwoju biznesu i sprzedaży globalnej oraz zastępca dyrektora operacyjnego w Taiwan Semiconductor Manufacturing Company, dodał: „TSMC i Broadcom blisko współpracowały przez ostatnie kilka lat, aby połączyć najbardziej zaawansowane procesy logiczne TSMC i technologie układania chipów 3D z doświadczeniem projektowym Broadcom. Nie możemy się doczekać stworzenia tej platformy, aby uwolnić innowacje w zakresie sztucznej inteligencji i umożliwić przyszły rozwój„.

Naoki Shinjo, wiceprezes i dyrektor ds. rozwoju zaawansowanych technologii w Fujitsu, powiedział: „Dzięki ponad dziesięcioletniej współpracy firmy Fujitsu i Broadcom z powodzeniem wprowadziły na rynek wiele generacji wysokowydajnych układów ASIC do obliczeń. Najnowsza platforma 3.5D firmy Broadcom umożliwia nowej generacji 2-nanometrowego procesora Fujitsu opartego na ARM, FUJITSU-MONAKA, osiągnięcie wysokiej wydajności, niskiego zużycia energii i niższych kosztów„.