wiadomości o firmie Beyond the Rack: Jak optyka wraz z opakowaniami (CPO) i przechowywanie nowej generacji rozwiązują problem przemieszczania danych AI

# Poza szafą: jak wspólnie pakowana optyka (CPO) i pamięć masowa nowej generacji rozwiązują problem przenoszenia danych AI

Słoń w centrum danych: nie chodzi już o obliczenia

Podczas CIOE 2026 w Shenzhen wśród architektów centrów danych nastąpiła fascynująca zmiana w dyskusji. Pięć lat temu dyskusje skupiały się naLiczba TFLOPS GPU i rdzeni procesora. Dzisiaj? Obsesja jestPB/s (petabajty na sekundę)Ibudżety opóźnień nanosekundowych.

Dlaczego? Ponieważ w dobie bilionowych modeli sztucznej inteligencji i wnioskowania w czasie rzeczywistymwąskie gardło przeniosło się z obliczeń do przenoszenia danych. Nowoczesny procesor graficzny H200 może przetworzyć 4,8 PFLOPS, ale brakuje mu danych. Uczenie modelu klasy GPT-4 wymaga tasowania45 petabajtów danych treningowychna tysiącach procesorów graficznych, miliardy razy.

W tym artykule omówiono dwie zbieżne technologie zaprezentowane na konferencji CIOE 2026, które na nowo definiują infrastrukturę sztucznej inteligencji: 1.Optyka pakowana wspólnie (CPO) i optyka zbliżona do opakowania (NPO)– eliminacja wąskich gardeł elektrycznych 2.Pamięć masowa nowej generacji dla przedsiębiorstw– Dyski SSD i systemy pamięci zbudowane z myślą o nienasyconym apetycie sztucznej inteligencji

Część 1: CPO/NPO – Kiedy光spotyka krzem

Problem: Połączenia elektryczne uderzają w ścianę

Tradycyjne moduły optyczne łączą się z przełącznikami za pomocą ścieżek elektrycznych na płytce drukowanej. W miarę jak szybkość transmisji danych przekracza 1,6 Tb/s, ślady te stają się barierami nie do pokonania:

-Utrata sygnału: 30-40 dB/m przy 112 Gb/s PAM4 (56 GHz) -Zużycie energii: Retimery i DSP zużywają 15-20 W na moduł -Utajenie: Elektryczny SerDes dodaje 100-200 ns w obie strony -Gęstość: Ograniczenia płyty czołowej QSFP-DD do ~51Tbps na przełącznik ASIC

WchodzićOptyka w pakiecie: integracja silników optycznychwewnątrz tego samego opakowaniajako krzem przełączający.

Co ujawniło CIOE 2026: CPO jest faktem

Spacerując po wystawie, CPO przeszedł od artykułów konferencyjnych dowysyłka silikonu:

#### 1.Silniki optyczne 6,4T NPO(华工正源/Huagong Zhongyuan) -Konfiguracja: 8 linii 800G wykorzystujących lasery DWDM z kropkami kwantowymi -Efektywność energetyczna: 3,5 pJ/bit (w porównaniu z 8 pJ/bit w przypadku modułów wtykowych) -Współczynnik kształtu: Zintegrowany z podłożem pakietu przełącznika -Status: Próbkowanie do hiperskalerów poziomu 1 w czwartym kwartale 2026 r

#### 2.Platformy fotoniki krzemowej(GlobalFoundries) IchSiPh zgodny z technologią 45 nm CMOSproces umożliwia: -Integracja monolitycznalaserów, modulatorów i fotodetektorów -Testowanie w skali waflowejredukcja kosztów montażu o 60% -Źródła o wielu długościach faldla aplikacji DWDM

#### 3.Przełom sprzętowy firmy LightChiński startup zaprezentowałBezmaskowy programowalny system litograficzny ZW1000dla fotoniki krzemowej: -Szybkie prototypowanie: Tygodnie zamiast miesięcy w przypadku nowych projektów -Produkcja niskonakładowa: Ekonomiczny dla <10 tys. jednostek/rok -Elastyczność: Falowody z możliwością rekonfiguracji do zastosowań niestandardowych

Rozwiązuje to największe wyzwanie stojące przed CPO:cykle iteracji projektowania. Koszty tradycyjnych fotomasek (ponad 200 tys. dolarów) sprawiły, że eksperymenty były zbyt drogie.

CPO vs. NPO vs. Pluggable: Matryca wdrożeń

Nie wszystkie aplikacje wymagają złożoności CPO. Oto, kiedy każda technologia ma sens:

| Architektura | Najlepsze dla | Przepustowość | Moc | Koszt | Dostępność | |-------------|----------|-----------|-------|------|--------------| |Możliwość podłączenia (QSFP-DD)| Sieci kręgosłupa | 800G-1,6T | 15-20W | $ | Teraz | |LPO (wtykowy liniowy)| Regał do regału <100m | 800G | 8-12W | $$ | Teraz | |NPO (w pobliżu pakietu)| Klastry szkoleniowe AI | 3,2-6,4T | 5-8W | $$$ | 2027 | |CPO (w opakowaniu zbiorczym)| Zmień tkaniny | 12,8T+ | 3-5 W | $$$$ | 2028 |

Kluczowe spostrzeżenia CIOE: W przypadku wdrożeń w latach 2026–2027Dominują architektury hybrydowe: - CPO dla przełączników Spine (51,2 Tbps+ na ASIC) - Wtykowe 800G dla przełączników typu Leaf - LPO dla połączeń wzajemnych GPU Compute Fabric

Głębokie informacje techniczne: jak faktycznie działa CPO

Dla inżynierów oceniających rozwiązania CPO zrozumienie architektury ma kluczowe znaczenie:

#### Ścieżka tradycyjnego modułu wtykowego: ``` GPU → PCIe → NIC ASIC → Ścieżki PCB (30cm) → Retimer → Moduł DSP → Laser → Światłowód → Fotodioda → DSP → Retimer → Ślady PCB → Przełącznik ASIC ```Całkowite opóźnienie: ~800nsMoc: ~35 W dla transmisji dwukierunkowej 800G

#### Ścieżka CPO: ``` Przełącznik ASIC → Falowód znajdujący się w pakiecie (3 mm) → Modulator → Światłowód → Fotodioda → Falowód → Przełącznik ASIC ```Całkowite opóźnienie: ~200nsMoc: ~8 W dla transmisji dwukierunkowej 800G

Redukcja opóźnień ma charakter transformacyjnysynchroniczne szkolenie równoległe(np. ZeRO-3, FSDP), gdzie prymitywy komunikacji zbiorowej (wszystko-redukuj, wszystko zbieraj) dominują w czasie wykonywania.

Wyzwanie ekosystemowe: dlaczego adopcja jest stopniowa

Pomimo istotnych zalet technicznych, CPO napotyka przeszkody:

1.Niedojrzałość łańcucha dostaw: Tylko 3-4 wykwalifikowanych dostawców na całym świecie 2.Przełącz przeprojektowanie ASIC: Wymaga współpracy z Broadcom/Nvidia/Marvell 3.Zarządzanie ciepłem: 400 W+ przełączniki ASIC + silniki optyczne = złożone chłodzenie 4.Ekonomika naprawy: Martwy silnik optyczny = złomowanie całego modułu przełącznika (ponad 50 tys. USD)

Konsensus branżowy w CIOE: CPO przechwyci15-20% rynku przełączników w 2028 roku, skoncentrowane w hiperskalowych klastrach AI. Moduły wtykowe pozostają dominujące w przedsiębiorstwach i telekomunikacji.

Część 2: Strona przechowywania – karmienie bestii

Podczas gdy wszyscy skupiają się na procesorach graficznych, wystawy CIOE dotyczące pamięci masowych dla przedsiębiorstw opowiadają równie ważną historię:Potok danych sztucznej inteligencji jest tak szybki, jak jego najwolniejszy element.

Dylemat przechowywania AI

Uczenie modelu o 1 bilionie parametrów na 10 TB danych wymaga: -Ładowanie zbioru danych: 10 TB odczytane z pamięci → Pamięć GPU -Punkty kontrolne: Masy modeli 2TB zapisywane w każdej epoce (10-100× na przebieg treningowy) -Operacje losowe: Wzorce dostępu losowego w całym zbiorze danych -Synchronizacja gradientowa: Zapis rozproszony podczas propagacji wstecznej

Tradycyjne dyski twarde SAS?Śmiesznie niewystarczające. Nawet dyski SSD SATA mają problemy. To jest gdzieDyski SSD NVMe PCIe 5.0IPamięć trwała DDR5wejdź na zdjęcie.

Co zaprezentowali wystawcy CIOE 2026 Storage

#### 1.Dyski SSD PCIe 5.0 dla przedsiębiorstw: Zawiera wystawę New Baseline TopstarSeria Micron 7500IKingstona DC1500Mdyski wykazujące: -Czytanie sekwencyjne: 14 000 MB/s (w porównaniu z 3500 MB/s dla PCIe 3.0) -Losowy odczyt IOPS: 2,5M (kluczowe dla rozproszonego ładowania danych szkoleniowych) -Wytrzymałość: 3 DWPD (zapisy dysku dziennie) przez 5 lat = łącznie 82 PB zapisów na dysku 15 TB

Wpływ na świat rzeczywisty: 16-dyskowy moduł NVMe JBOF może nasycić dwa łącza 100GbE na potrzeby przesyłania strumieniowego zestawów danych, eliminując pamięć masową stanowiącą wąskie gardło podczas szkoleń.

#### 2.Pamięć serwerowa DDR5-5600: Obciążenia AI wykraczające poza pojemność wymagają obupojemność(512 GB–2 TB na serwer) iprzepustowość łącza(>400 GB/s na gniazdo). DDR5-5600 zapewnia: -Przepustowość łącza: 44,8 GB/s na moduł DIMM (w porównaniu z 32 GB/s w przypadku pamięci DDR4-3200) -Pojemność: Moduły RDIMM 128 GB stają się standardem -Efektywność energetyczna: 1,1 V w porównaniu z 1,2 V dla DDR4 (redukcja o 10%)

W CIOE widzieliśmyModuły RDIMM DDR5-5600 firmy Samsung o pojemności 512 GB– umożliwienie 2 TB na gniazdo (16× DIMM) dla serwerów wnioskowania LLM. Dzięki temu można zachować całe modele z parametrami 70Brezydent w DRAM, eliminując narzut związany z zamianą modelu.

#### 3.Rozszerzenie pamięci CXL: Włącza Game Changer Compute Express Link (CXL) 2.0łączenie pamięcina serwerach: -Wspólna pula pamięci: Wiele procesorów ma dostęp do wspólnej pamięci DRAM/stałej -Utajenie: <200 ns dla zdalnego dostępu do pamięci (w porównaniu do milisekund dla NVMe) -Użyj przypadku: Klastry wnioskowania LLM współdzielą pamięć podręczną KV między węzłami

Rozszerzenie pamięci CXL może się jeszcze pojawić (ograniczona produkcja w 2026 r.).zmniejsz koszty klastra wnioskowania o 30%poprzez eliminację nadmiernej alokacji pamięci na węzeł.

Architektura pamięci masowej dla przedsiębiorstw dla sztucznej inteligencji: model 3-warstwowy

Z rozmów CIOE z architektami centrów danych wynika, że ​​optymalny stos pamięci masowej AI to:

####Poziom 1: GPU HBM (pamięć o dużej przepustowości)-Pojemność: 80-192 GB na procesor graficzny (H200/B200) -Przepustowość łącza: 4-5 TB/s -Zamiar: Aktywne partie treningowe, ciężary modelu podczas przejścia do przodu/do tyłu

####Poziom 2: DRAM hosta (DDR5)-Pojemność: 1-2 TB na serwer -Przepustowość łącza: 400-800 GB/s na gniazdo -Zamiar: Wstępne pobieranie zestawu danych, akumulacja gradientów, wnioskowanie KV-cache

####Poziom 3: Pamięć masowa SSD NVMe-Pojemność: 60–240 TB na serwer (4–16 × 15 TB dysków) -Przepustowość łącza: 50-200 GB/s (RAID 0 na dyskach) -Zamiar: Pełne przechowywanie zbiorów danych, punkty kontrolne, długoterminowe wersjonowanie modelu

Krytyczny współczynnik: CelujHost DRAM: NVMe = 1:50(np. 2 TB DRAM, 100 TB NVMe). Dzięki temu wstępne pobieranie zestawu danych nigdy nie zatrzymuje szkolenia procesora graficznego.

Argument TCO: Dlaczego pamięć masowa Premium się opłaca

Rozważ klaster szkoleniowy AI z 1000 procesorami graficznymi: -Koszt procesora graficznego: 30 mln USD (1000 × 30 tys. USD na H100) -Roczna moc: 5 mln USD (150 USD/GPU × 1000 × 8760 godzin × 0,12 USD/kWh) -Koszt alternatywny: 5000 USD/godz. dla bezczynnego klastra (43 mln USD/rok przy 100% wykorzystaniu)

Teraz wyobraź sobie, że wąskie gardła w pamięci masowej zmniejszają efektywne wykorzystanie procesora graficznego85%(15% bezczynności w oczekiwaniu na dane): -Zmarnowany czas GPU: 6,45 mln dolarów rocznie –Koszt usunięcia wąskiego gardła: 500 tys. USD (sieć premium NVMe + DDR5 + 100GbE)

Zwrot z inwestycji: 1200% w pierwszym roku. Właśnie dlatego hiperskalownicy nie wahają się wdrożyć dysków SSD PCIe 5.0 o wartości 2000 USD.

Część 3: Zintegrowane rozwiązanie Topstar – sprzęt + wiedza specjalistyczna

Zarówno jako uczestnik CIOE 2026, jak i dostawca branżowy,Technologia Topstarw unikalny sposób zapewnia klientom sukces w zakresie infrastruktury AI:

Nasza kompleksowa oferta produktów

####Interkonekt optyczny- Moduły 800G/1,6T QSFP-DD/OSFP - Rozwiązania 400G/200G dla architektur hybrydowych - Kable AOC/DAC do łączności w skali szafy - Wiązki światłowodowe MPO/MTP

####Pamięć masowa dla przedsiębiorstw-dyski SSD: Micron, Kingston, Samsung Enterprise NVMe (PCIe 4.0/5.0) -Pamięć serwera: Moduły DDR5-4800/5600 RDIMM i LRDIMM -Pamięć GPU: HBM2e/HBM3 dla akceleratorów AI (zaopatrzenie OEM)

####Komponenty serwera AI- Procesory graficzne NVIDIA H100/H200/B100 (autoryzowany dystrybutor) - Karty sieciowe Mellanox ConnectX-7 (400GbE dla RDMA) - Przełączniki Broadcom i karty SmartNIC

Dlaczego klienci wybierają Topstar

#### 1.Prostota jednego dostawcyPrzestań zarządzać 10 różnymi dostawcami. Dostarczamy kompletne rozwiązania regałów AI: - Optymalizacja zestawienia materiałów (BOM) - Wstępna weryfikacja zgodności - Skonsolidowana wysyłka i wsparcie

#### 2.Elastyczne opcje zaopatrzenia-Komponenty klasy OEMw przypadku wdrożeń hiperskalowych -Oryginalna markamoduły (kompatybilne z Cisco/Arista/Mellanox) -Rozwiązania typu „biała skrzynka”.dla projektów wrażliwych kosztowo

#### 3.Wspólny rozwój technicznyNasi inżynierowie współpracują przy: -Projektowanie topologii sieci(Clos, Grube drzewo, Ważka) -Rozmiar warstwy pamięci masowejw oparciu o profilowanie obciążenia -Budżety na energię i chłodzeniedo wdrożeń na poziomie szafy

#### 4.Szybkie terminy wdrożeńW branży, w której czas realizacji wynosi 16–24 tygodnie, utrzymujemy: -Inwentaryzacja komponentów strategicznych(5 mln dolarów + akcje) –Dostawa w ciągu 4-8 tygodnidla konfiguracji standardowych -Przyspieszone opcjedo pilnych wdrożeń

Studium przypadku: wdrożenie klastra szkoleniowego 500-GPU

Niedawny projekt klienta ilustruje nasze kompleksowe możliwości:

Wymagania:- 500 procesorów graficznych NVIDIA H100 - 100 TB miejsca na zbiory danych na węzeł - Opóźnienie sieci <10 μs dla operacji all-reduce

Rozwiązanie Topstar:-Sieć: - 500 kart sieciowych Mellanox ConnectX-7 400GbE - 64 moduły optyczne 800G QSFP-DD do przełączników typu „spine” - 1024 × 400G moduły QSFP-DD do przełączników liściowych -Składowanie: - 4000 dysków SSD Kingston DC1500M 15 TB NVMe (8 na serwer) - Kontrolery RAID z 8 GB pamięci podręcznej na serwer -Pamięć: - 32 000× modułów RDIMM Samsung DDR5-5600 64 GB (64 na serwer, 4 TB/węzeł)

Harmonogram wdrożenia:- Tydzień 1-2: Finalizacja BOM i zakup - Tydzień 3-6: Dostawa i integracja komponentów - Tydzień 7-8: Instalacja szafy i uruchomienie sieci - Tydzień 9: Walidacja obciążenia i przekazanie

Wynik: Klaster osiągniętyWykorzystanie procesora graficznego na poziomie 94,2%.podczas tygodniowych treningów – jedne z najwyższych w branży.

Droga przed nami: ewolucja technologii w latach 2027–2030

Na podstawie spostrzeżeń CIOE 2026 i branżowych planów działania oto, co nadchodzi:

2027: Główny nurt infrastruktury AI

-Moduły optyczne 3,2Twejść do produkcji seryjnej -Próbkowanie DDR6zaczyna się (7200 MT/s, 60 GB/s na moduł DIMM) -Dyski SSD PCIe 6.0dostarczaj odczyty sekwencyjne z szybkością 28 GB/s -CXL 3.0umożliwia łączenie pamięci w szafach

2028: Zmiana w przyjęciu CPO

-Przełączniki ASIC 12,8Tze zintegrowanym CPO -Sygnalizacja 400G na pas(w porównaniu z dzisiejszym maks. 200G) -Przełączanie obwodów optycznychdo dynamicznego przydzielania pasma -Pierwsze komercyjne akceleratory fotoniczne AI(obliczenia analogowo-optyczne)

2030: Centrum danych połączone optycznie

-Przełączanie optyczne na poziomie stojakawymiana dystrybucji energii elektrycznej -Fotonika krzemowa staje się tańsza od miedziprzy >100 Gb/s -Trwała pamięć(dołączony CXL) zastępuje NVMe do przechowywania w cieple -Bezpieczne łącza splątane kwantowodo synchronizacji modeli AI między DC

Wniosek: Infrastruktura to inteligencja

Modele AI trafiające na pierwsze strony gazet – GPT-5, Gemini Ultra, Claude Opus – są tak skuteczne, jakpod nimi infrastruktura. Na CIOE 2026 przekaz był jednoznaczny:w epoce sztucznej inteligencji budowany jest jeden moduł optyczny, jeden dysk SSD i jeden moduł pamięci DIMM na raz.

W przypadku organizacji wdrażających infrastrukturę AI pojawiły się trzy imperatywy:

1.Nie czekaj na idealną technologię– 800G i DDR5 są teraz gotowe do produkcji 2.Projektuj pod kątem przenoszenia danych, a nie tylko obliczeń– Pamięć masowa i sieci są na równi z procesorami graficznymi 3.Współpracuj z dostawcami, którzy rozumieją stos– Układ optyczny, pamięć masowa i obliczeniowa muszą być zaprojektowane razem

Technologia Topstarstoi na tym skrzyżowaniu — łącząc najnowocześniejsze komponenty, głęboką wiedzę techniczną i elastyczność łańcucha dostaw, aby zapewnić rygorystyczne harmonogramy wdrożeń. Niezależnie od tego, czy budujesz swój pierwszy klaster AI, czy skalujesz go do 100 000 procesorów graficznych, jesteśmy gotowi zostać Twoim partnerem infrastrukturalnym.

Przyszłość inteligencji buduje się dziś. Zbudujmy to razem.

---

O technologii Topstar

Najwyższa gwiazdajest wiodącym dostawcą komponentów infrastruktury AI, specjalizującym się w: -Moduły optyczne: Rozwiązania 800G/1,6T QSFP-DD, 400G OSFP, CPO/NPO -Pamięć masowa dla przedsiębiorstw: Dyski SSD NVMe (PCIe 4.0/5.0), format Enterprise SATA, U.2/U.3 -Pamięć serwera: Moduły DDR5 RDIMM/LRDIMM, HBM dla akceleratorów AI -Karta graficzna i sieć: Procesory graficzne NVIDIA AI, karty Mellanox SmartNIC, przełączniki Broadcom

Łączymy siły, obsługując hiperskalowe centra danych, operatorów telekomunikacyjnych i klientów korporacyjnych od ponad 15 latJakość na poziomie OEMzekonomia białej skrzynki.

📧Zapytania inżynieryjne: dsale@topsfp.com 🌐Katalog produktów: www.opticalmodulemanufacturers.com | www.qsfp28module.com 📱Łączyć: [Facebook](https://www.facebook.com/topstar.sfp/) | [LinkedIn](https://www.linkedin.com/company/13177171/)

---

Słowa kluczowe: Optyka w pakiecie, CPO, NPO, centrum danych AI, korporacyjny dysk SSD, pamięć serwerowa DDR5, NVMe PCIe 5.0, fotonika krzemowa, połączenie optyczne, pamięć masowa GPU, CIOE 2026, szybka sieć, infrastruktura AI

Tagi SEO: #CoPackagedOptics #CPO #NPO #AIInfrastructure #EnterpriseSSD #DDR5Memory #DataCenter #CIOE2026 #SiliconPhotonics #GPUStorage #OpticalModules #NVMe