IBM ha sviluppato con successo una nuova tecnologia ottica in grado di supportare l'addestramento di modelli di intelligenza artificiale alla "velocità della luce", con un notevole risparmio energetico. IBM afferma che applicando queste nuove innovazioni ai data center, il risparmio energetico ottenuto addestrando un tipico modello di intelligenza artificiale equivale al consumo energetico annuo di 5.000 famiglie statunitensi.
Secondo IBM, mentre i data center si collegano al mondo esterno tramite cavi in fibra ottica, all'interno il materiale predominante utilizzato è ancora il cablaggio in rame. Questi fili con anima in rame che collegano gli acceleratori GPU trascorrono molto tempo in attesa di dati da altri dispositivi mentre consumano energia, il che aumenta notevolmente i costi operativi. Commentando la nuova tecnologia di trasmissione ottica dei dati, Dario Gil, Senior Vice President e Direttore della ricerca di IBM, ha affermato:
Poiché l'intelligenza artificiale crea la necessità di maggiore potenza e capacità di elaborazione, i data center devono evolversi e la tecnologia ottica generica in pacchetti può aiutare i data center su larga scala ad adattarsi meglio alle esigenze future. Grazie a questa svolta, i processori del futuro comunicheranno nello stesso modo in cui i cavi in fibra ottica trasportano i dati dentro e fuori dai data center, inaugurando una nuova era di comunicazioni più veloci e sostenibili, in grado di gestire enormi carichi di lavoro di intelligenza artificiale.

IBM illustra il prototipo della sua nuova tecnologia di ottica co-package (CPO) in un documento tecnico . In sostanza, aumentando significativamente la larghezza di banda nei data center, è possibile ridurre al minimo i tempi di inattività della GPU, accelerando l'elaborazione dell'intelligenza artificiale.
IBM promette con sicurezza che questa tecnologia potrà contribuire a ridurre i tempi di formazione per i modelli linguistici di grandi dimensioni (LLM) da tre mesi a tre settimane. Allo stesso tempo, una maggiore efficienza energetica ridurrà il consumo di energia e i costi associati alla formazione LLM.