Case Study: Créer une IA durable chez Salesforce

Challenge

(link: https://www.salesforce.com/ class: mylink lang: de rel: nofollow role: button target: _blank title: Wikipédia text: Salesforce)est guidé par ses valeurs fondamentales que sont la confiance, la réussite des clients, l'innovation, l'égalité et la durabilité. Ces valeurs se reflètent dans son engagement à développer et à déployer de manière responsable de nouvelles technologies telles que l'IA générative au nom des parties prenantes, qu'il s'agisse des actionnaires, des clients ou de la planète.

Les grands modèles linguistiques (LLM) qui alimentent l'IA générative nécessitent d'énormes ressources informatiques pour fonctionner, ce qui a des impacts négatifs sur l'environnement, tels que les émissions de carbone, l'épuisement des ressources en eau et l'extraction de ressources au sein de la chaîne d'approvisionnement. Alors que le monde enregistre des records d'émissions et de températures, qui intensifient les phénomènes météorologiques extrêmes et autres impacts climatiques à travers le globe, la nécessité de réduire les émissions responsables du réchauffement climatique n'a jamais été aussi urgente. À une époque où chaque tonne supplémentaire de carbone émise compte, le développement des technologies d'IA ne doit pas dépasser les limites de la planète.

Si les avantages hypothétiques à long terme de l'IA en matière de durabilité sont importants, avec un potentiel de réduction des émissions mondiales de 5 à 10 % d'ici 2030, Salesforce continue également de se concentrer sur la minimisation des impacts environnementaux à court terme.

Objectifs

• Minimiser l'impact environnemental du développement et du déploiement de l'IA
• Équilibrer les besoins informatiques des LLM avec les objectifs de durabilité
• Contrer la tendance à la croissance exponentielle de la consommation d'énergie par les modèles d'IA
• Aligner le développement de l'IA sur les objectifs mondiaux de durabilité
• Démontrer qu'il est possible de créer une IA puissante avec une empreinte environnementale réduite

Approche

• Optimiser les modèles en se concentrant sur des modèles spécifiques à un domaine : Salesforce AI Research continue de se concentrer sur le développement de modèles spécifiques à un domaine, adaptés à leurs applications prévues. Par exemple, le modèle CodeGen, initialement lancé en 2022, a été l'un des premiers LLM à permettre aux utilisateurs de traduire le langage naturel en langages de programmation. La dernière version, (link: https://www.salesforce.com/blog/codegen25/ class: mylink lang: de rel: nofollow role: button target: _blank title: Wikipédia text: CodeGen 2.5) , a été optimisée pour plus d'efficacité grâce à un entraînement multi-époque et à une attention flash, ce qui a permis d'obtenir un modèle aussi performant que des modèles plus volumineux, mais dont la taille est inférieure de plus de moitié.
• Utiliser du matériel efficace : les fabricants de matériel IA dévoilent fréquemment de nouvelles versions offrant des améliorations substantielles en termes d'efficacité. Salesforce AI Research a tiré parti des avancées du Tensor Processor Unit (TPU) de Google, en formant les modèles les plus récents sur le TPU v4, qui est 2,7 fois plus efficace que le TPU v3. Les premiers tests ont montré que le tout nouveau TPU v5p surpasse la génération précédente TPU v4 de près de 2 fois.
• Choisissez des centres de données à faible émission de carbone : Salesforce a formé ses modèles dans des centres de données alimentés par une électricité qui émet 68,8 % moins de carbone que la moyenne mondiale. Cela a permis de réduire de 105 tonnes les équivalents de dioxyde de carbone (tCO2e) par rapport à l'utilisation de centres de données dont l'intensité carbone correspond à la moyenne mondiale pour la formation.
• Mettre en œuvre des techniques d'ingénierie durable : Salesforce a intégré à (link: https://www.salesforce.com/ca/artificial-intelligence/prompt-builder/ class: mylink lang: de rel: nofollow role: button target: _blank title: Wikipédia text: Générateur de messages) des techniques qui optimisent les invites pour la satisfaction des clients, les coûts et la durabilité environnementale, offrant ainsi des résultats optimaux avec une utilisation minimale des ressources.
• Suivi de l'utilisation et limites de débit : Salesforce a mis en place des outils de surveillance et des seuils d'utilisation dans son (link: https://www.salesforce.com/news/press-releases/2023/09/12/salesforce-platform-news-dreamforce/ class: mylink lang: de rel: nofollow role: button target: _blank title: Wikipédia text: Plateforme Einstein 1) basé sur Hyperforce. Ces fonctionnalités permettent de suivre les modèles d'utilisation du système d'IA et de fixer des limites appropriées pour éviter une consommation excessive de ressources, favorisant ainsi une utilisation réfléchie, responsable et sécurisée des systèmes d'IA tout en réduisant les dépenses énergétiques inutiles.

Impact

• Économie d'énergie : réduction significative de la consommation d'énergie grâce à l'utilisation de matériel efficace et de modèles optimisés.
• Réduction des émissions de carbone : la préformation des modèles d'IA de Salesforce a permis de réduire les émissions de 48 tCO2e, soit 11 fois moins que les émissions de GPT-3.
• Efficacité accrue : les modèles plus petits comme CodeGen 2.5 sont plus rentables, plus faciles à affiner et fonctionnent plus rapidement, ce qui améliore l'expérience utilisateur.
• Sécurité renforcée : le déploiement local des modèles réduit la consommation d'énergie, augmente la vitesse et renforce la sécurité et la personnalisation.

Points clés

• Adopter l'optimisation : le développement de modèles spécifiques à un domaine et l'optimisation de l'efficacité peuvent réduire considérablement l'impact environnemental de l'IA.
• Tirer parti d'un matériel efficace : l'utilisation des dernières avancées en matière de matériel IA peut améliorer considérablement l'efficacité énergétique.
• Donner la priorité aux opérations à faible émission de carbone : le choix de centres de données à faible émission de carbone et la mise en œuvre de techniques d'IA durables sont essentiels pour minimiser l'impact environnemental.

Prochaines étapes

Salesforce continue de faire progresser les pratiques d'IA durables grâce à :

• La recherche continue sur les techniques d'optimisation des modèles
• L'exploration de matériel informatique de nouvelle génération à faible consommation d'énergie
• Le développement d'outils plus sophistiqués de suivi et de réduction des émissions de carbone
• L'extension des principes d'IA durable à l'ensemble de son écosystème de produits
• La collaboration avec des partenaires industriels pour établir des normes d'IA durable

Conclusion

L'approche de Salesforce en matière de création d'une IA durable démontre l'impact significatif que l'optimisation, la sélection de matériel efficace et la priorité accordée aux opérations à faible émission de carbone peuvent avoir sur la réduction des émissions de carbone et l'amélioration de l'efficacité opérationnelle. Cette étude de cas sert de modèle à d'autres entreprises qui souhaitent atteindre leurs objectifs de durabilité grâce à des solutions technologiques innovantes.

Pour en savoir plus sur le développement responsable de l'IA par Salesforce, consultez leur blog et rejoignez leur communauté de talents pour vous impliquer. Consultez leurs équipes Technologie et Produits pour plus d'informations sur leurs initiatives.