Den 27. december offentliggjorde IEEE Spectrum et blogindlæg, der rapporterede, at startups Point2 og AttoTude har udviklet en "aktivt RF-kabel"-løsning ved hjælp af radiofrekvens (RF)/terahertz (THB) teknologi. Denne løsning kombinerer de lave omkostninger ved kobberkabler med den lange-afstandsfordel ved fiberoptik for at give høj-udvidet tilslutning til rack-monterede AI-systemer.
Hastigheden af træning af AI-modeller afhænger af "skaler-ud" og "skaler-op".
"Scale-out" forbinder flere computere via et netværk til kollaborativ databehandling, hvilket typisk kræver lang-transmission og primært er afhængig af fiberoptik. "Scale-up" involverer på den anden side at pakke flere GPU'er ind i en supercomputer, så de kan arbejde sammen som en gigantisk hjerne, primært afhængig af kobberkabler til korte-afstande,-højdensitetsforbindelser.
Point2s kabel består af otte e-rørfibre, som hver er i stand til at transmittere over 200 gigabit data pr. sekund.
Med Nvidias plan om at øge antallet af GPU'er pr. system fra 72 til 576 inden 2027, er dataoverførselshastighederne skyhøje til terabit-niveauer. På dette tidspunkt støder kobberkabler på den fysiske grænse for "hudeffekten".
Hudeffekten refererer til det fænomen, hvor der, når der løber vekselstrøm gennem en leder, jo højere frekvensen er, jo mere har strømmen en tendens til at flyde på overfladen (huden) af lederen, hvilket resulterer i spildplads i midten og øget modstand.
Stillet over for de fysiske flaskehalse ved kobberkabler og de høje omkostninger ved fiberoptik har startups Point2 Technology og AttoTude taget en anden tilgang, idet de bruger radiobølgeteknologi til at transmittere data.
Point2 er ved at masseproducere-et polymerbølgelederkabel kaldet "e-Tube", som inkorporerer en chip, der konverterer elektriske signaler til millimeter-bølgesignaler. Dens 1,6 Tb/s version indeholder otte tynde kerner, hvor hver bølgeleder bruger både 90 GHz og 225 GHz frekvensbånd til at overføre data.
De pluggbare moduler i begge ender af kablet kan direkte konvertere digitale signaler til modulerede millimeter-radiofrekvenssignaler. Et enkelt kabel kan give en samlet båndbredde på 1,6 Tb/s og en transmissionsafstand på op til 7 meter, tilstrækkeligt til rack-udvidelsesbehov.
e-Rørkablet, der transmitterer 1,6 terabit pr. sekund, har et tværsnitsareal, der kun er det halve af et 32-gauge kobberkabel, men dets transmissionsafstand er 20 gange større. (Billedkilde: Point2) RF-kabler løser ikke kun afstandsproblemet, men opnår også gennembrud i energieffektivitet og omkostninger. Point2-data viser, at dets systemstrømforbrug og -omkostninger kun er en-tredjedel af optiske transmissionsløsninger, med latens så lav som en tusindedel.
I modsætning hertil, mens producenter som Credo har introduceret aktive kabler (AEC) med indbyggede- "retimere" for at forlænge kobberkablernes levetid, øger dette strømforbruget og kompleksiteten.
Et andet firma, AttoTude, udforsker også lignende koncepter, men målretter mod et højere frekvensområde. Systemet integrerer et digitalt interface, en terahertz-signalgenerator og en mixer, der muliggør datakodning på bærebølger fra 300 til 3000 GHz og transmission via en smal dielektrisk bølgeleder.
Virksomheden har med succes demonstreret en transmissionshastighed på 224 Gb/s ved 970 GHz ved hjælp af en 4-meter-lang bølgeleder og forventer en fremtidig mulig transmissionsafstand på cirka 20 meter, hvilket viser teknologiens potentiale for applikationer over længere afstande.
AttoTude-grundlægger Dave Welch påpeger, at fotonikteknologi lider af pålidelighedsproblemer såsom "linkoscillation" og kræver ekstrem høj fremstillingspræcision; mens radiofrekvensteknologi (RF) baseret på modne elektroniske fremstillingsprocesser tilbyder højere pålidelighed og ikke kræver mikrometer-niveaujusteringspræcisionen af optiske fibre.
Selvom RF-kabler i første omgang vises i pluggbar interfaceform, er det ultimative mål for begge virksomheder at integrere RF-transceivere direkte i GPU-pakken. Nvidia og Broadcom forsøger i øjeblikket at-sampakke optiske moduler med processorer (CPO), men står over for betydelige produktions- og varmeafledningsudfordringer.
Radiofrekvensløsninger (RF) giver på grund af deres længere bølgelængder langt større tolerance for emballagejusteringspræcision end fiberoptik og reducerer kravene til varmeafledning betydeligt. Med connector-giganter som Molex og Foxconn på vej ind på markedet, forventes denne "radio waveguide"-teknologi at erstatte nogle kobberkabler og optiske fibre i fremtidige AI-datacentre og blive en ny arterie for udvidelse af computerkraft.
