Optiske fibre transporterer tale og data ved høje hastigheder over lange afstande. IBM Research-forskere bringer nu denne hastighed og kapacitet ind i datacentre og på printkort, hvor de vil hjælpe med at accelerere generativ AI-databehandling. Den nye proces forventes markant at reducere energiforbruget ved træning af AI-modeller, at fremskynde træningsprocessen og øge energieffektiviteten i datacentre.
Når energien i de optiske forbindelser bringes videre til printet og hele vejen til de enkelte chips kan det resultere i en mere end 80 % reduktion i energiforbruget sammenlignet med konventionelle elektriske forbindelser, hvilket vil føre til betydelige besparelser og forbedret ydeevne for chip-til-chip og enhed-til-enhed kommunikation.
Den banebrydende innovation inden for chipmontering og emballering benævnes ”co-packaged optics” og vil forbedre energieffektiviteten og øge båndbredden ved at integrere optiske linkforbindelser direkte på kredsløbskort og chips.
– Store sprogmodeller har gjort AI meget populær i hele tech-industrien. Væksten i LLM’er – og generativ AI generelt – kræver eksponentiel vækst i højhastighedsforbindelser mellem chips og datacentre, siger John Knickerbocker, fremtrædende ingeniør ved IBM Research.
John Knickerbocker og hans team har demonstreret, at ”co-packaged optics” teknologien er kompatibel med stress tests, som optiske links tidligere ikke har bestået, hvilket gør teknologien klar til industriel produktion.
Flere detaljer om den banebrydende innovation kan findes her: https://ibm.biz/BdGSsV
