La escasez de mano de obra y habilidades, además de una agitación económica, están dejando a muchas organizaciones preguntándose: “¿Qué puedo hacer para que mi negocio sea más eficiente mientras mantengo (o idealmente mejoro) la calidad y la experiencia del cliente/empleado?” Muchos están recurriendo a la inteligencia artificial (IA) para llenar esos vacíos y ayudar en procesos de toma de decisiones más efectivos.

Dado que la IA crea constantemente nuevas oportunidades, también plantea preguntas sobre la ética de la tecnología: justicia, igualdad, privacidad, transparencia, confianza y control.

En este artículo, veremos:

• Qué es la IA responsable y cómo mitigar los riesgos.
• Los beneficios de implementar una automatización responsable de la IA.
• Prácticas recomendadas al desarrollar e implementar una solución de IA.
• Nuestros cinco principios básicos para la adopción responsable de la IA.

¿Qué es la IA responsable?

La IA responsable consiste en abordar el proceso de desarrollo de la IA desde un punto de vista ético y legal. El objetivo es emplear un uso seguro, confiable y transparente de la IA. Esto lo protege al garantizar que su organización cumpla con las normas y cumpla con todas las leyes y regulaciones aplicables; también garantiza que su organización mantenga una buena reputación. Los sistemas de IA deben tratar a las personas, la seguridad y el medio ambiente con los más altos estándares en todo momento.

• La gobernanza de la IA debe incluir canalizaciones de documentación y auditoría de modelos de IA para mostrar cómo se entrena y prueba la IA y cómo se comporta a lo largo de su ciclo de vida.
• El cumplimiento de la IA garantiza que sus sistemas impulsados por IA cumplan con las leyes o normativas aplicables y pueden incluir la privacidad de los datos y la propiedad intelectual.

Una buena IA es buena para su empresa. Eso incluye:

• Responsabilidad: Evaluar el rendimiento de sus sistemas de IA, ya sea de forma intencionada y no intencionada, es fundamental para crear productos y servicios responsables.
• Confianza: Si no puede confiar en sus sistemas de IA, se crea una barrera para adoptar más tecnologías en toda su empresa. Un enfoque responsable gana confianza y lealtad.
• Una cultura de responsabilidad: Debe capacitar a los responsables de la toma de decisiones y a los desarrolladores de su empresa para que consideren el lado ético de la adopción de la IA y permitirles encontrar formas innovadoras de impulsar el éxito sin sacrificar las prácticas responsables.

¿Dónde encaja la automatización?

La automatización inteligente (AI) combina la automatización robótica de procesos (RPA), la gestión de procesos comerciales (BPM) y la IA para automatizar y optimizar los procesos comerciales. La IA es un factor clave en la automatización inteligente, por eso es tan imperativa una IA responsable. La forma en que esté capacitando y adaptando su iniciativa de AI afectará directamente la reputación de su organización y el cumplimiento de las leyes y normativas.

¿Cuáles son los riesgos de la IA?

Si no adopta un enfoque responsable para aprovechar la IA, puede enfrentarse a sanciones legales, financieras y de reputación. Los conjuntos de datos que usa para entrenar sus modelos de aprendizaje automático (ML) pueden introducir sesgos en su sistema de IA. Esto puede deberse a datos defectuosos o incompletos.

Si no se tienen en cuenta aspectos como la calidad de los datos al entrenar los modelos, esto puede dar lugar a un programa de IA sesgado, que puede afectar negativamente a las personas y a las empresas. La adopción irresponsable de la IA corre el riesgo de:

• Errores o datos incorrectos
• Sesgo y discriminación
• Falta de interpretabilidad
• Inestabilidad del rendimiento
• Imposibilidad de ampliación
• Sanciones y multas costosas

Entonces, ¿cómo se puede hacer un uso responsable de la IA?

Cree sistemas de IA más transparentes para aumentar la confianza de los usuarios finales y proteger a su personal y organización de las repercusiones negativas. Porque, al final del día, si usa tecnologías como la IA de manera correcta, tendrá la confianza que necesita para ampliar y desarrollar procesos aún mejores en toda su empresa.

En la siguiente sección, le mostraremos algunas prácticas recomendadas y herramientas que lo ayudarán a implementar estándares de IA responsable.

¿Cuáles son las prácticas responsables de IA?

Más allá de las prácticas recomendadas generales para implementar cualquier sistema de software nuevo en sus unidades de negocio, veamos algunos enfoques clave para garantizar la ética de la IA.

Antes de implementar la IA en sus prácticas comerciales del mundo real, comience con:

• Modelos de ML e IA claramente definidos.
• Comprobación de la fiabilidad y seguridad de los datos de entrenamiento.
• IA explicable que muestra cómo y por qué su IA obtuvo sus resultados.
• Gestionar la equidad abordando los sesgos y la discriminación de la IA.
• Aplicar prácticas de privacidad para salvaguardar los datos.
• Buscar amenazas potenciales, como ataques de confrontación.
• Crear un sistema de IA seguro y resiliente.
• Validar y supervisar continuamente el rendimiento de la IA mediante la incorporación de una persona al bucle.
• Garantizar la seguridad a todos los niveles, teniendo en cuenta los factores normativos.

¿Cómo puedo prepararme para la IA generativa?

Antes de implementar tecnologías emergentes, como la IA generativa, debe desarrollar un plan estratégico. Nuestra encuesta de 2022 a 850 altos ejecutivos de todo el mundo reveló un reconocimiento generalizado de la importancia de la IA responsable y de la regulación de la IA. Sin embargo, solo el 6% de las organizaciones sentían que contaban con una base de IA completamente sólida y responsable. (Accenture, “Una nueva era de IA generativa para todos”)

Estos son nuestros mejores consejos sobre cómo prepararse para la IA generativa:

1. Reformule su forma de pensar observando el potencial y el nivel de amenaza de la IA generativa.
2. Eduque a su empresa y a su personal en la colaboración entre IA y personas, y valide el contenido manteniendo la supervisión humana.
3. Identifique las fortalezas, las limitaciones y las consideraciones éticas de la IA generativa.
4. Utilice datos de formación de calidad.
5. Garantice la alineación entre la empresa y TI al asegurar que la gobernanza es un enfoque tanto descendente como ascendente.
6. Considere el efecto, teniendo en cuenta los factores ambientales, sociales y de gobernanza (ESG) y el uso de energía de los modelos de IA generativa de formación.
7. Encuentre casos de uso de IA generativa específicos dentro de su organización.
8. Utilice las herramientas de IA adecuadas que se adapten a los requisitos de su negocio y prepare su infraestructura.
9. Establezca la gobernanza de la IA y el cumplimiento de la IA con un marco de IA responsable.
10. Pruebe y entrene, y pruebe un poco más; la verificación de las buenas prácticas es una operación continua.

5 principios de la IA responsable

Ahora, diseñemos principios de IA responsables para su marco. La supervisión continua es fundamental para garantizar que su IA siga siendo ética. Seguir un modelo de madurez o un modelo operativo puede ayudarle a diseñar e implementar un sistema de IA seguro y confiable.

En esencia, debe construir su IA en torno a estos cinco mandatos:

1. Equidad e inclusión

Un sistema de IA debe tratar a todos de manera justa y sin sesgos a favor o en contra de ciertos grupos de personas.

Por ejemplo, cuando un proveedor de atención médica utiliza la IA para recomendar un tratamiento médico en función de los síntomas de un paciente, la IA debe hacer la misma recomendación para cualquier persona con esos síntomas, independientemente de su situación financiera o profesional.

Los sistemas de toma de decisiones de IA corren el riesgo de sufrir sesgos injustos cuando se basan en datos humanos históricos y en su impacto. Debe asegurarse de que, después de haber entrenado sus modelos de ML con datos existentes recopilados del mundo real, identifique los sesgos problemáticos. Estos sesgos pueden estar basados en la etnia, el género, la religión, la inclinación política, la cultura, etc., y no pueden pasar desapercibidos en el aprendizaje de su IA.

En la práctica, estos son los factores que debe tener en cuenta en sus sistemas de IA:

• Reúna información diversa de expertos.
• Considere los diversos casos de uso de su sistema y lo que podría faltar.
• Establezca objetivos para que su sistema funcione en todos los casos de uso y supervise esos objetivos a lo largo del tiempo para ver si son justos e inclusivos.
• Diseñe sus algoritmos para que reflejen sus objetivos de equidad.
• Revise continuamente el sistema en busca de sesgos injustos.
• Evalúe escenarios del mundo real en un espectro de usuarios, casos de uso y contextos.

2. Privacidad y seguridad

Desde la información empresarial hasta la privacidad personal, los datos utilizados por la IA son cada vez más complejos. Los datos de entrenamiento pueden ser sensibles y, en algunos casos, importantes para su sistema de IA (p. ej., detectores de cáncer basados en exploraciones anteriores de pacientes).

Su sistema de IA debe cumplir con todas las leyes y normativas aplicables a su región e industria. Pero también deben tener en cuenta las expectativas sociales e individuales. En particular, fíjate en la transparencia de:

• Cómo recopila, utiliza y almacena los datos.
• Recopile y utilice únicamente la cantidad de datos necesaria para el fin previsto.
• Permiso para usar datos de clientes o empleados en su sistema.
• Cómo comunica el uso de datos.
• Acceso de usuarios en toda la empresa.
• Encriptación y exposición de datos.
• Cualquier comunicación de red entrante o saliente.

3. Transparencia

Para tener un modelo de IA eficaz, necesita información directa sobre cómo funciona todo en su sistema. Debe saber exactamente cómo su sistema de IA toma una decisión, lo que se denomina “IA explicable”. Esto le ayuda a evitar errores o sesgos y también respalda cualquier ampliación que desee realizar en el futuro.

Por ejemplo, si un banco utiliza la IA para decidir si una persona es elegible para un préstamo, los responsables de la toma de decisiones deberían poder revisar los datos y ver exactamente cómo el sistema llegó a esta elección, y si hubo sesgos inesperados.

La transparencia le mostrará:

• Cómo se entrenó el modelo con los datos y los algoritmos.
• Qué lógica se aplicó a los datos.
• El modelo final generado por el sistema de IA.

4. Responsabilidad

Los desarrolladores que diseñan e implementan su sistema de IA son responsables de cualquier acción o decisión que tome. Establezca un organismo de revisión interna desde el principio para brindar a sus sistemas y a su personal la orientación y supervisión que necesitan para ayudar a su organización a prosperar. Aproveche los estándares de la industria para desarrollar normas de rendición de cuentas y garantizar que sus sistemas de IA no sean la autoridad final en ninguna decisión.

Busque un modelo de entrenamiento de ML que le permita:

• Realice un seguimiento de todos los metadatos utilizados en el modelo.
• Audite las decisiones de principio a fin.
• Notifique a los usuarios sobre resultados sesgados o posibles sesgos.
• Obtenga información basada en datos que muestre los resultados.

5. Fiabilidad y seguridad

La coherencia es clave para tener un sistema de IA confiable y seguro. Debe funcionar como fue diseñado originalmente y también responder de manera segura en nuevas situaciones. La forma en que sus sistemas se comportan y responden a condiciones imprevistas depende de la gama de condiciones establecidas durante las fases de diseño y prueba.

Por ejemplo, pueden producirse discrepancias cuando el sistema tiene un rendimiento inferior para un determinado grupo demográfico. Es por eso que es imperativo realizar pruebas y validaciones rigurosas. Los desarrolladores deben verificar cómo responde su sistema de IA a los casos extremos dentro de sus condiciones operativas.

También es importante tener en cuenta que el rendimiento de su sistema de IA puede degradarse con el tiempo. La supervisión continua y el seguimiento de modelos son esenciales para mantener el rendimiento de su IA confiable y seguro.

En la práctica, los desarrolladores deben:

• Comprender cómo se distribuyen los errores de un modelo.
• Identificar subconjuntos de datos con tasas de error más altas.
• Encontrar y eliminar los sesgos de la IA antes de ampliar.

¿Cuáles son los beneficios de una IA responsable?

Desde el propósito del sistema hasta la forma en que las personas interactúan con él, su adopción de IA debe tener resultados beneficiosos y equitativos. Para lograr esos beneficios, necesita un marco de IA sólido y estratégico.

Con prácticas de IA responsables, usted puede:

• Minimizar los sesgos no deseados: Desarrolle algoritmos responsables que garanticen que los datos subyacentes de su IA sean lo más imparciales y representativos posible.
• Establecer confianza y transparencia: Cree una IA explicable que sea transparente en todos los procesos y funciones a fin de garantizar la confianza entre los clientes, las partes interesadas y los empleados.
• Proteger la privacidad: Garantice la mejor privacidad y seguridad de sus datos para que toda la información personal y confidencial nunca se utilice de manera poco ética o sin permiso.
• Dar oportunidades a los empleados: Pida a las personas de su empresa que señalen cualquier duda o inquietud que puedan tener sobre el sistema de IA y fomente la innovación.

Automatizar de manera responsable

Pasar por alto la ética y las prácticas recomendadas de la IA puede provocar daños financieros y de reputación para su organización. Pero con una IA responsable, su organización puede ampliar y evolucionar todas sus operaciones.

Cinco principios fundamentales para una IA responsable son fundamentales: equidad e inclusión, privacidad y seguridad, transparencia, rendición de cuentas y confiabilidad y seguridad. Mantener estos principios requiere modelos claros de ML e IA, validación rigurosa de los datos, sistemas de IA explicables, estrategias de mitigación de sesgos, medidas de seguridad sólidas y supervisión y validación continuas.

La IA responsable no es solo un imperativo moral; es una necesidad estratégica para las organizaciones que navegan por las complejidades (y los beneficios) de un sistema de IA. A medida que adopte el poder transformador de la IA, hágalo con un compromiso con la innovación responsable, al garantizar que la tecnología sirva como una fuerza para el bien en nuestro mundo interconectado.

Descargue nuestro informe de Gartner®: Guía del director de tecnología sobre el panorama de la tecnología de IA generativa