Entrevistamos a Rafael Merino, director de Proyectos de la Fundación Pombo
-
¿Cómo crees que está afectando la revolución digital en nuestras vidas?
La revolución digital, encarnada por la inteligencia artificial y los algoritmos, se está insertando en los más profundo de nuestras vidas. Piensan y deciden por nosotros, aunque no los veamos. Nos filtran lo que queremos ver en Google o Netflix, nos muestran productos para que los compremos compulsivamente en tiendas online, nos seleccionan los amigos y los contenidos que ver en las redes sociales, orientan nuestro voto y empiezan a sustituirnos en nuestros trabajos.
Como vemos, no se trata de algo aislado. Todo lo contrario; ya se están usando de manera generalizada en prácticamente todos los sectores y en todas las profesiones: en las telecomunicaciones, en la salud, en la educación, en la justicia, en los seguros, en el sistema financiero, etcétera, etcétera.
Por ello, es fundamental pararse a pensar e identificar cómo está impactando en nuestras vidas y, especialmente, en los sectores de población más vulnerables.
-
¿Qué retos nos presenta la revolución digital en los derechos humanos?
Ya hemos vivido en el pasado otras revoluciones tecnológicas, pero la digital está desarrollándose a una velocidad tan endiablada que no estamos siendo capaces de advertir los efectos negativos que puede llegar a ocasionar, no solo en los derechos humanos, sino en la propia democracia y también en nuestro inconsciente.
Porque los algoritmos tienen la capacidad de crear burbujas de pensamiento y de distorsionar la realidad, e incluso de predecir el futuro. Además, está comprobado que los algoritmos son en muchos casos transmisores de sesgos y prejuicios discriminatorios.
Todo esto nos lleva a pensar que las nuevas tecnologías no son tan neutrales como creemos. En el ámbito de los derechos humanos, me gustaría destacar cinco desafíos:
- El uso de algoritmos para la manipulación política, para campañas de desinformación y para la propagación de fake news y discursos de odio.
- Los riesgos asociados a delegar en algoritmos la toma de decisiones en ámbitos tan importantes como la política, la economía, la justicia o las fronteras.
- El impacto de la automatización en el trabajo. A quién y cómo afectará más y, sobre todo, qué alternativas tenemos.
- Cómo poner límites a la economía de los datos y a la vigilancia a través de los dispositivos inteligentes.
- Cómo hacer frente a la pobreza digital y evitar que el data-centrismo hacia el que nos dirigimos, no profundice aún más las desigualdades que ya existen en este mundo.
-
Ante esto, ¿qué se está haciendo? ¿podrías contarnos algunas iniciativas que estén en marcha?
Las reglas del juego están cambiando y son muchos los organismos, empresas y expertos que han dado cuenta y están empezando a repensar las implicaciones éticas y prácticas de la IA y los algoritmos.
Entre los instrumentos y recomendaciones más interesantes y recientes, caben destacar: los Principios de la OCDE sobre IA, la Declaración de Toronto sobre empresas, derechos humanos e IA, las Directrices Éticas para una IA confiable de la Comisión Europea o los principios éticos que están por algunas empresas tecnológicas como IBM, Google o Telefónica.
Todas ellas comparten que el diseño y uso de la IA tiene que pasar por la transparencia, la trazabilidad, la explicabilidad, la confianza, la intervención humana, la robustez técnica, y, por supuesto, el respeto de los derechos humanos, la no discriminación y la accesibilidad.
-
¿Crees que estamos a tiempo de controlar la IA y los algoritmos que aparentemente ya nos controlan?
Todavía estamos a tiempo de controlar la IA y los algoritmos que aparentemente ya nos controlan.
Para ello lo más importante es que pongamos la razón moral por encima de la razón técnica. Tenemos que parar y reflexionar sobre las metas que queremos alcanzar con la revolución digital y cómo las vamos a conseguir.
Porque la tecnología siempre podrá ser un aliado de progreso, pero si se hace bien.
También es importantísimo formarnos digitalmente y tomar conciencia de del poder performativo de la palabra y de la información.
En definitiva, lo que necesitamos es humanizar la tecnología para poner los derechos humanos en el centro de todos los avances tecnológicos.
-
¿Qué destacarías de participar en Fundación SERES?
En una frase diría que Seres es una fuente conocimiento compartido, con una gran capacidad de movilizar a personas y empresas para adelantarse a los grandes retos del futuro, entre los que está el de la revolución digital y los derechos humanos.