Case Study: Creación de IA sostenible en Salesforce

El reto de

(link: https://www.salesforce.com/ class: mylink lang: de rel: nofollow role: button target: _blank title: Wikipedia text: Salesforce)se rige por sus valores fundamentales de confianza, éxito de los clientes, innovación, igualdad y sostenibilidad. Estos valores se reflejan en su compromiso de desarrollar y desplegar de forma responsable nuevas tecnologías, como la IA generativa, en nombre de las partes interesadas, desde los accionistas hasta los clientes y el planeta.

Los grandes modelos de lenguaje (LLM) que alimentan la IA generativa requieren enormes recursos informáticos para funcionar, lo que tiene un impacto negativo en el medio ambiente, como emisiones de carbono, agotamiento de los recursos hídricos y extracción de recursos dentro de la cadena de suministro. A medida que el mundo bate récords de emisiones y temperaturas, lo que intensifica los fenómenos meteorológicos extremos y otros impactos climáticos en todo el planeta, la necesidad de reducir las emisiones que calientan el planeta nunca ha sido tan acuciante. En un momento en el que cada tonelada adicional de carbono emitida cuenta, el desarrollo de tecnologías de IA no debe exceder los límites planetarios.

Si bien los hipotéticos beneficios de la IA a largo plazo en materia de sostenibilidad son significativos, con el potencial de reducir las emisiones globales entre un 5 % y un 10 % para 2030, Salesforce también sigue centrada en minimizar el impacto medioambiental a corto plazo.

Objetivos

• Minimizar el impacto medioambiental del desarrollo y la implementación de la IA.
• Equilibrar los requisitos informáticos de los LLM con los objetivos de sostenibilidad.
• Contrarrestar la tendencia de crecimiento exponencial del consumo energético de los modelos de IA.
• Alinear el desarrollo de la IA con los objetivos globales de sostenibilidad.
• Demostrar que se puede crear una IA potente con una menor huella medioambiental.

Enfoque

• Optimizar los modelos centrándose en modelos específicos de dominio: Salesforce AI Research sigue centrándose en el desarrollo de modelos específicos de dominio, personalizados para sus aplicaciones previstas. Por ejemplo, el modelo CodeGen, lanzado inicialmente en 2022, fue uno de los primeros LLM que permitió a los usuarios traducir el lenguaje natural a lenguajes de programación. La última versión, (link: https://www.salesforce.com/blog/codegen25/ class: mylink lang: de rel: nofollow role: button target: _blank title: Wikipedia text: CodeGen 2.5) , se ha optimizado para mejorar la eficiencia mediante el entrenamiento multiepoca y la atención flash, lo que ha dado como resultado un modelo que funciona tan bien como los modelos más grandes con menos de la mitad de tamaño.
• Utilizar hardware eficiente: Los fabricantes de hardware de IA suelen presentar nuevas versiones con mejoras sustanciales en materia de eficiencia. Salesforce AI Research ha aprovechado los avances de la unidad de procesamiento Tensor (TPU) de Google para entrenar los modelos más recientes en la TPU v4, que es 2,7 veces más eficiente que la TPU v3. Las pruebas iniciales han revelado que la nueva TPU v5p supera en rendimiento a la TPU v4 de la generación anterior hasta en dos veces.
• Elija centros de datos con bajas emisiones de carbono: Salesforce entrenó sus modelos en centros de datos alimentados con electricidad que emite un 68,8 % menos de carbono que la electricidad media mundial. Esto supuso 105 toneladas menos de dióxido de carbono equivalente (tCO2e) que si se hubieran utilizado para el entrenamiento centros de datos con una intensidad de carbono media mundial.
• Implementar técnicas de ingeniería de prompts sostenibles: Salesforce incorporó técnicas en (link: https://www.salesforce.com/ca/artificial-intelligence/prompt-builder/ class: mylink lang: de rel: nofollow role: button target: _blank title: Wikipedia text: Generador de mensajes) que optimizan los prompts para la satisfacción del cliente, el coste y la sostenibilidad medioambiental, ofreciendo los mejores resultados con un uso mínimo de recursos.
• Seguimiento del uso y límites de velocidad: Salesforce implementó herramientas de supervisión y umbrales de uso dentro de su (link: https://www.salesforce.com/news/press-releases/2023/09/12/salesforce-platform-news-dreamforce/ class: mylink lang: de rel: nofollow role: button target: _blank title: Wikipedia text: Plataforma Einstein 1) construido sobre Hyperforce. Estas funciones realizan un seguimiento de los patrones de uso del sistema de IA y establecen límites adecuados para evitar el consumo excesivo de recursos, promoviendo un uso consciente, responsable y seguro de los sistemas de IA, al tiempo que se reduce el gasto energético innecesario.

Impacto

• Ahorro de energía: reducción significativa del consumo de energía mediante el uso de hardware eficiente y modelos optimizados.
• Reducción de las emisiones de carbono: el preentrenamiento de los modelos de IA de Salesforce dio como resultado 48 tCO2e, 11 veces menos que las emisiones de GPT-3.
• Mayor eficiencia: los modelos más pequeños, como CodeGen 2.5, son más rentables, más fáciles de ajustar y funcionan más rápido, lo que mejora la experiencia del usuario.
• Mayor seguridad: la implementación local de los modelos reduce el consumo de energía, aumenta la velocidad y mejora la seguridad y la personalización.

Conclusiones clave

• Adoptar la optimización: el desarrollo de modelos específicos para cada dominio y la optimización de la eficiencia pueden reducir drásticamente el impacto medioambiental de la IA.
• Aprovechar el hardware eficiente: el uso de los últimos avances en hardware de IA puede mejorar significativamente la eficiencia energética.
• Dar prioridad a las operaciones con bajas emisiones de carbono: la elección de centros de datos con bajas emisiones de carbono y la implementación de técnicas de IA sostenibles son fundamentales para minimizar el impacto medioambiental.

Pasos futuros

Salesforce sigue avanzando en las prácticas de IA sostenible a través de:

• Investigación continua sobre técnicas de optimización de modelos.
• Exploración de hardware de última generación energéticamente eficiente.
• Desarrollo de herramientas más sofisticadas de seguimiento y reducción de carbono.
• Expansión de los principios de IA sostenible en todo su ecosistema de productos.
• Colaboración con socios del sector para establecer estándares de IA sostenible.

Conclusión

El enfoque de Salesforce para crear una IA sostenible demuestra el importante impacto que la optimización, la selección de hardware eficiente y la priorización de operaciones con bajas emisiones de carbono pueden tener en la reducción de las emisiones de carbono y la mejora de la eficiencia operativa. Este caso práctico sirve de modelo para otras empresas que desean alcanzar objetivos de sostenibilidad mediante soluciones tecnológicas innovadoras.

Obtenga más información sobre el desarrollo responsable de la IA de Salesforce en su blog y únase a su comunidad de talentos para participar. Consulte sus equipos de tecnología y productos para obtener más información sobre sus iniciativas.