Case Study: Creare un'intelligenza artificiale sostenibile in Salesforce

La sfida

(link: https://www.salesforce.com/ class: mylink lang: de rel: nofollow role: button target: _blank title: Wikipedia text: Salesforce) è guidata dai suoi valori fondamentali di fiducia, successo dei clienti, innovazione, uguaglianza e sostenibilità. Questi valori si riflettono nel suo impegno a sviluppare e implementare, in modo responsabile, nuove tecnologie come l'IA generativa per conto degli stakeholder, dagli azionisti ai clienti e al pianeta.

I modelli linguistici di grandi dimensioni (LLM) che alimentano l'IA generativa richiedono enormi risorse di calcolo per funzionare, con conseguenti impatti ambientali negativi, come emissioni di carbonio, esaurimento delle risorse idriche ed estrazione di risorse lungo la catena di approvvigionamento. Mentre il mondo registra livelli record di emissioni e temperature, che intensificano gli eventi meteorologici estremi e altri impatti climatici in tutto il globo, la necessità di ridurre le emissioni che causano il riscaldamento del pianeta non è mai stata così urgente. In un momento in cui ogni tonnellata di carbonio in più emessa è importante, lo sviluppo delle tecnologie basate sull'IA non dovrebbe superare i limiti del pianeta.

Sebbene i benefici ipotetici a lungo termine dell'IA in termini di sostenibilità siano significativi, con la possibilità di ridurre le emissioni globali dal 5 al 10% entro il 2030, Salesforce rimane concentrata anche sulla riduzione al minimo dell'impatto ambientale a breve termine.

Obiettivi

• Ridurre al minimo l'impatto ambientale dello sviluppo e dell'implementazione dell'IA
• Bilanciare i requisiti di calcolo degli LLM con gli obiettivi di sostenibilità
• Contrastare la tendenza alla crescita esponenziale del consumo energetico dei modelli di IA
• Allineare lo sviluppo dell'IA agli obiettivi globali di sostenibilità
• Dimostrare che è possibile creare un'IA potente con un impatto ambientale minore

Approccio

• Ottimizzare i modelli concentrandosi su specifici per dominio: Salesforce AI Research rimane concentrata sullo sviluppo di modelli specifici per dominio, personalizzati in base alle applicazioni previste. Ad esempio, il modello CodeGen, inizialmente rilasciato nel 2022, è stato tra i primi LLM a consentire agli utenti di tradurre il linguaggio naturale in linguaggi di programmazione. L'ultima versione, (link: https://www.salesforce.com/blog/codegen25/ class: mylink lang: de rel: nofollow role: button target: _blank title: Wikipedia text: CodeGen 2.5) , è stata ottimizzata in termini di efficienza attraverso l'addestramento multi-epoca e l'attenzione flash, ottenendo un modello che funziona bene come i modelli più grandi ma con dimensioni inferiori alla metà.
• Utilizzare hardware efficiente: i produttori di hardware AI presentano spesso nuove versioni con notevoli miglioramenti in termini di efficienza. Salesforce AI Research ha sfruttato i progressi della Tensor Processing Unit (TPU) di Google, addestrando i modelli più recenti su TPU v4, che è 2,7 volte più efficiente rispetto a TPU v3. I test iniziali hanno rilevato che la nuovissima TPU v5p supera di ben 2 volte la TPU v4 della generazione precedente.
• Scegliete data center a basse emissioni di carbonio: Salesforce ha addestrato i propri modelli in data center alimentati da energia elettrica, che emettono il 68,8% in meno di CO2 rispetto alla media globale. Ciò ha portato a una riduzione di 105 tonnellate di anidride carbonica equivalente (tCO2e) rispetto all'utilizzo di data center con intensità di carbonio media globale per l'addestramento.
• Implementazione di tecniche di prompt engineering sostenibili: Salesforce ha integrato in (link: https://www.salesforce.com/ca/artificial-intelligence/prompt-builder/ class: mylink lang: de rel: nofollow role: button target: _blank title: Wikipedia text: Generatore di prompt) tecniche che ottimizzano i prompt per la soddisfazione dei clienti, i costi e la sostenibilità ambientale, offrendo risultati eccellenti con un utilizzo minimo delle risorse.
• Monitoraggio dell'utilizzo e limiti di velocità: Salesforce ha implementato strumenti di monitoraggio e soglie di utilizzo all'interno del proprio (link: https://www.salesforce.com/news/press-releases/2023/09/12/salesforce-platform-news-dreamforce/ class: mylink lang: de rel: nofollow role: button target: _blank title: Wikipedia text: Piattaforma Einstein 1) basato su Hyperforce. Queste funzionalità tracciano i modelli di utilizzo dei sistemi di IA e impostano limiti appropriati per prevenire un consumo eccessivo di risorse, promuovendo un uso consapevole, responsabile e sicuro dei sistemi di IA e riducendo al contempo il dispendio energetico superfluo.

Impatto

• Risparmio energetico: riduzione significativa del consumo energetico grazie all'uso di hardware efficiente e a modelli ottimizzati.
• Riduzione delle emissioni di carbonio: il pre-addestramento dei modelli di IA di Salesforce ha portato a 48 tCO2e, 11 volte meno rispetto alle emissioni di GPT-3.
• Maggiore efficienza: i modelli più piccoli, come CodeGen 2.5, sono più convenienti, più facili da mettere a punto e funzionano più velocemente, migliorando l'esperienza dell'utente.
• Maggiore sicurezza: l'implementazione locale dei modelli riduce il consumo energetico, aumenta la velocità e migliora la sicurezza e la personalizzazione.

Punti chiave

• Adottare l'ottimizzazione: lo sviluppo di modelli specifici per ciascun dominio e l'ottimizzazione dell'efficienza possono ridurre drasticamente l'impatto ambientale dell'IA.
• Sfruttare hardware efficiente: l'adozione delle ultime innovazioni nell'hardware IA può migliorare significativamente l'efficienza energetica.
• Dare priorità alle operazioni a basse emissioni di carbonio: la scelta di data center a basse emissioni di carbonio e l'implementazione di tecniche di IA sostenibili sono fondamentali per ridurre al minimo l'impatto ambientale.

Passi futuri

Salesforce continua a promuovere pratiche di IA sostenibili attraverso:

• Ricerca continua su ulteriori tecniche di ottimizzazione dei modelli
• Esplorazione di hardware di nuova generazione ad alta efficienza energetica
• Sviluppo di strumenti più sofisticati per il monitoraggio e la riduzione delle emissioni di carbonio
• Espansione dei principi di IA sostenibile in tutto il proprio ecosistema di prodotti
• Collaborazione con partner industriali per stabilire standard di IA sostenibili

Conclusione

L'approccio di Salesforce alla creazione di un'IA sostenibile dimostra l'impatto significativo che l'ottimizzazione, la selezione di hardware efficiente e la priorità alle operazioni a basse emissioni di carbonio possono avere sulla riduzione delle emissioni di carbonio e sul miglioramento dell'efficienza operativa. Questo caso di studio funge da modello per altre aziende che mirano a raggiungere obiettivi di sostenibilità attraverso soluzioni tecnologiche innovative.

Scopri di più sullo sviluppo responsabile dell'IA di Salesforce nel loro blog e unisciti alla loro Talent Community per partecipare. Dai un'occhiata ai loro team Tecnologia e Prodotto per ulteriori informazioni sulle loro iniziative.