SAP crea un Manual para el uso ético de la inteligencia artificial

SAP ha creado un Manual para el uso ético de la inteligencia artificial. Se trata de una guía para la aplicación de su política de Inteligencia Artificial, que rige el desarrollo, la implementación, el uso y la comercialización de los sistemas de IA. El manual, dirigido a sus empleados, establece cómo se debe actuar a lo largo de todo el proceso de desarrollo de la Inteligencia Artificial y marca las líneas rojas que no se deben traspasar. 

La compañía considera que la inteligencia artificial puede abrir posibilidades ilimitadas a empresas, gobiernos y a la sociedad en general, pero también puede generar desafíos económicos, políticos y sociales, dependiendo de cómo se utilice e implemente. 

El manual consta de dos capítulos. El primero de ellos, denominado ‘Líneas rojas’, aclara qué casos de uso de la IA están prohibidos en SAP: aquellos que atenten contra la libertad individual de los usuarios – desglosada en la pérdida del anonimato, la discriminación y la vigilancia–; los derechos sociales –la IA nunca debe comprometer el debate humano ni ser empleada para la manipulación de los usuarios–; y los daños al medioambiente. Además, incluye la definición de casos de alto riesgo, es decir, aquéllos que no están prohibidos, pero necesitan aprobación para poder desarrollarse. En esos casos, es imprescindible consultar al Comité directivo de ética de la IA de SAP. 

En el segundo, ‘AI Factory Process’, se ofrecen las directrices generales a seguir en cada paso del proceso de desarrollo, que consta de cinco etapas: la ideación, la validación, la realización, la creación del producto y las operaciones, en cada una de las cuales deben aplicarse los tres pilares para lograr una IA de confianza. Es imprescindible que el uso de la Inteligencia Artificial sea ético en todas y cada una de las fases del proceso, desde la identificación inicial de necesidades hasta la recepción del producto final por parte de los clientes, pasando por el diseño de las soluciones y su integración en los procesos de negocio existentes.