De la perspectiva de progreso a las fantasías distópicas, la aceleración de la Inteligencia Artificial en aplicaciones de ciencia y negocio genera tantas expectativas como cuestiones en torno al nuevo contexto de interacción humano-máquina.
Impulsar el desarrollo de la Inteligencia Artificial Ética será posible generando un ecosistema en el que instituciones públicas, organizaciones privadas, academia y ciudadanía aborden los nuevos retos y oportunidades que la IA comprende para nuestra sociedad. En colaboración con la Fundación SERES, en everis trabajamos en torno a esta cuestión en el LabS IA Responsable e Inclusiva, Mayte Hidalgo, Head of AI Strategy & AI Ethics en everis
Qué es la IA responsable e inclusiva
Gobiernos e instituciones en todo el mundo han dedicado ya en los dos últimos años importantes esfuerzos en definir las guías por las que ha de transcurrir el desarrollo de la IA. Los “principios éticos” de la Unión Europea y sus siete requerimientos o pilares asociados constituyen, sin duda, uno de los paradigmas de referencia para identificar los capítulos que las organizaciones han de considerar: impacto social, supervisión humana, transparencia, diversidad, robustez y seguridad de los sistemas, privacidad y rendición de cuentas.
En everis hemos adoptado este marco para el LabS de IA Responsable e Inclusiva, desarrollado conjuntamente con Fundación SERES. En el recorrido nos acompañan compañías líderes españolas para profundizar en el cómo orquestar un modelo de Inteligencia Artificial en el que todos sus participantes contribuyan de manera proactiva a generar un impacto positivo en la sociedad y las personas.
De los muchos aprendizajes compartidos, me gustaría subrayar tres aspectos especialmente destacados en la experiencia de este año:
- Perspectivas interdisciplinares: la ética de la IA implica a todas las áreas de la organización: desde científicos de datos, ingenieros y arquitectos a responsables de negocio y de RSC. En el LabS hemos podido compartir la variedad de consideraciones que empresas líderes están incorporando en el ciclo de vida de la IA, desde la visión estratégica que incorpora los valores éticos de la IA como valores de la organización a los desarrollos específicos en torno a cuestiones técnicas como explicabilidad o ausencia de sesgo.
- IA Ética aplicada: lejos de ser una aproximación filosófica, la IA Ética se traduce en marcos de gobierno, controles y procesos concretos. Es lo que hemos denominado de Platón a Python: un requerimiento ético como la “transparencia” se tangibiliza en capacidades específicas como la de documentar o poder reproducir las actividades desarrolladas en todo el ciclo de vida del dato y el algoritmo, desde la definición del reto de negocio al entrenamiento de los modelos y su puesta en producción y monitorización; un requerimiento como la “responsabilidad” implica poder identificar los stakeholders participantes en cada una de las fases indicadas y ser susceptibles de rendición de cuentas.
- Cultura Ética: Del mismo modo que en los últimos años las compañías han desarrollado importantes esfuerzos en generar una cultura del dato, que habilita elevar las capacidades de las personas en la Data Driven Organization, la Cultura Ética es una de las líneas a futuro en la que las organizaciones tienen el rol de impulsar conocimientos y consideraciones.
Este propósito en torno a la IA y al impacto que tendrá en los entornos laborales de los próximos años es crítico para dar forma al nuevo marco de inteligencia colaborativa, en el que la progresiva aplicación de la automatización a tareas desarrolladas por personas redunde en posibilidades de aportar mayor valor añadido, Mayte Hidalgo, Head of AI Strategy & AI Ethics en everis
Un Decálogo Ético para la gestión de la IA de forma responsable e inclusiva en la empresa
Uno de los objetivos estratégicos del LabS es promover esta Cultura de la IA Responsable, identificando y trabajando de manera conjunta en los principales enunciados que definen el compromiso de las compañías.
Destacaría tres de estos enunciados, que tienen un alcance especialmente fundacional:
- Compartimos una visión de la IA que promueva el progreso social y económico de las personas, las comunidades y la sociedad en su conjunto. Una tecnología exponencial y transformadora como la Inteligencia Artificial nos impele a tener aún más presente que el propósito de generación de valor de toda empresa va más allá de los objetivos de negocio y beneficios, y ha de contemplarse también desde la perspectiva de su contribución al progreso de las comunidades.
- Nos alineamos con los principios de IA Ética de la UE y manifestamos nuestra intención de contribuir a su adopción en los marcos regulatorios que se desarrollen. Sin duda, el marco en el que hemos de encontrar el equilibrio entre garantizar los principios éticos y extraer de la IA todo el potencial de competitividad como economía.
- Atendemos a la oportunidad de fomentar la colaboración con otras organizaciones para impulsar el uso ético y responsable de la IA. En definitiva, aspirar a una dinámica de ecosistema, colaborativa, donde instituciones, organizaciones, academia y sociedad participemos de manera proactiva en dar forma a los retos actuales y anticipar los que emergen de manera continua en la acelerada velocidad transformadora de la Inteligencia Artificial.