Software

Todas las líneas rojas del Manual de ética de la IA de SAP

El nuevo Manual de SAP relacionado con la IA está dirigido a sus empleados. Éste establece cómo se debe actuar a lo largo de todo el proceso de desarrollo de la inteligencia artificial, marcando las líneas rojas que no deben ser traspasadas. En definitiva, se trata de una guía para la aplicación de la política de IA en la empresa, y que se regirá entorno al desarrollo, la implementación, el uso y también la comercialización de los sistemas de Inteligencia Artificial.

La política de SAP se basa en valores fundamentales, tales como el diseño centrado en las personas, la promoción de negocios libres de prejuicios, la transparencia y la integridad en todas las actividades, el cumplimiento de estándares de calidad y seguridad, además de la priorización de la protección de datos y la privacidad, o el compromiso de abordar los grandes desafíos sociales planteados por la inteligencia artificial.

En este sentido, la política se sustenta en tres pilares esenciales para generar confianza en las soluciones de IA: la dirección y supervisión humanas, la mitigación del sesgo y la discriminación, así como la transparencia y explicación del proceso para comprender las decisiones tomadas por el software.

El enfoque ético de SAP se fundamenta en su compromiso de respaldar y defender la Declaración Universal de los Derechos Humanos. Como parte integral de este compromiso, se prohíbe la discriminación y el acoso hacia seres humanos basados en características personales, como la raza, el origen étnico, la religión, la edad y el sexo.

El Manual sobre ética de la inteligencia artificial de SAP se divide en dos capítulos esenciales

El primero se titula "Líneas rojas" y tiene como objetivo definir claramente los casos de uso de IA que están prohibidos dentro de SAP. Estas restricciones se aplican a situaciones que violen la libertad individual de los usuarios, como la pérdida del anonimato, la discriminación y la vigilancia. También se prohíben los casos en los que la IA comprometa los derechos sociales, como manipulación de usuarios o interferencia en el debate humano. Además, se abordan los posibles daños al medioambiente. El capítulo también incluye la identificación de casos de alto riesgo que, aunque no están prohibidos, requieren una aprobación del Comité Directivo de Ética de IA de SAP para poder ser desarrollados.

Proceso de fabricación de IA

En el segundo capítulo, titulado "Proceso de fabricación de IA", se presentan las directrices generales para cada etapa del proceso de desarrollo, que consta de cinco fases: ideación, validación, realización, creación del producto y operaciones. En cada una de estas etapas, se deben aplicar los tres pilares fundamentales para lograr una IA confiable. Es esencial que el uso de la inteligencia artificial se realice de manera ética en todas las fases del proceso, desde la identificación inicial de las necesidades hasta la entrega final del producto a los clientes, incluyendo el diseño de soluciones y su integración en los procesos de negocio existentes.