Joaquín Rández Ramos 
Fotografía de Laurentiu Robu
En muchas ocasiones noticias que son realmente trascendentes pasan desapercibidas y hechos o sucesos anecdóticos alcanzan una popularidad injustificada. Sin embargo, esto refleja un tipo de sociedad que va perdiendo el espíritu crítico y la rebeldía, que tan importante ha sido para lograr derechos humanos, en cuya cúspide está la libertad. Hay una noticia del mes de marzo que a mi entender no tuvo la repercusión que merece, pero la dejaremos para el final como colofón del razonamiento que voy a desarrollar.
Vivimos en una sociedad altamente tecnologizada, cuyo progreso no parece tener límites; pero lo más inquietante no es la tecnología en sí misma, sino el uso que hacemos de ella. Nuestra naturaleza es contradictoria y en nuestro espíritu anidan los sentimientos más nobles, pero también los más detestables. Estoy convencido de que hemos fracasado en la primera revolución tecnológica (esto no parece importar mucho). Los poderes políticos, sociales y económicos hicieron una dejación de sus funciones en lo que se refiere a la legislación y control de los medios virtuales para garantizar los derechos individuales y sociales. Hoy la red es un escondite y refugio de la peor calaña de la naturaleza humana: haters, depredadores sexuales, estafadores, ladrones de identidad, calumniadores, destructores de personas, manipuladores, mentirosos… Ante esta realidad es inevitable preguntarse ¿cómo será la segunda revolución tecnológica de la Inteligencia Artificial? Supone un salto de gigante que va a comprometer la economía, la sociedad y la democracia. Mi intuición me dice que es necesaria la legislación y regulación universal con una carta de derechos y obligaciones digitales o, incluso, con una constitución universal. ¿Seremos capaces de estar a la altura como sociedad?
En marzo del pasado año, un grupo de empresarios del sector tecnológico, entre los que se encontraba el controvertido CEO de Tesla, Elon Musk, pidió a los investigadores detener el desarrollo de la inteligencia artificial, al menos durante seis meses. Detrás de esta insólita petición están los riesgos profundos que supone para la sociedad y la humanidad. En una carta firmada por investigadores y profesores, junto con líderes tecnológicos, se pide una pausa para desarrollar un conjunto de protocolos que garanticen la seguridad de las herramientas de IA. Esta reacción estuvo motivada por el anuncio de que OpenAI, un chatbot más potente que GPT- 4, podía redactar demandas, aprobar exámenes e incluso pudo crear un sitio web funcional a partir de un boceto hecho a mano. La carta expone que “la IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra y debe planificarse y administrarse con el cuidado y los recursos correspondientes”.
Como ejemplo del riesgo que supone para las libertades individuales, mencionaré un elemento descubierto recientemente y que causa una gran inquietud: el sesgo codificado. Somos los humanos y nuestra inteligencia natural los que programamos los sistemas que generan la inteligencia artificial. A medida que los sistemas empiezan a funcionar y a recoger datos, estos van aprendiendo y tomando decisiones. Y cuando se les pregunta por qué toman determinada decisión, no tenemos respuesta. Es como si un cerebro estuviese funcionando en un universo paralelo que no entendemos. Claramente, estamos enfrente de la amenaza abstracta de un algoritmo matemático descentralizado que aprende mal. No en la línea que esperamos los humanos. Todo empezó con una anécdota que le ocurrió a una investigadora ghanesa-estadounidense, Joy Adowaa Buolamwini. Esta informática y activista digital se da cuenta de que un sofware de reconocimiento facial no identifica su rostro como cuantificable para la base de datos, pero curiosamente sí lo hace cuando se pone una máscara blanca. A raíz de esta constatación, Joy Adowaa Buolamwini fundó la Algorithmic Justice League, una organización con el objetivo de desafiar el sesgo codificado del software y en favor una IA equitativa y responsable.
Detrás del desarrollo de la IA están las personas que la llevan a cabo. Cuando programan, lo hacen desde su comprensión de la realidad y desde sus valores o contravalores. Por encima de ellos, y con un impacto mucho mayor, están las corporaciones y los gobiernos, cuyos intereses básicamente son el poder y la riqueza. Si la programación inicial, a partir de la cual el sistema aprende, se sustenta en datos prejuiciosos, parciales e interesados, estamos hablando con certeza de un “sesgo codificado”. Esto puede conducir a la discriminación, la erosión de los derechos individuales, a la manipulación; por ejemplo, con fines electorales o de discriminación por diversos. Intuyo que a veces ni siquiera es algo planificado, sino que es una inercia social, cuya responsabilidad hay que atribuírsela a toda la sociedad en su conjunto.
La realidad es que estamos en una carrera por desarrollar mentes digitales más poderosas que nadie, de las que ni siquiera sus creadores pueden entender, predecir o controlar de manera fiable. Los firmantes de la carta, que hemos mencionado más arriba, se hacen preguntas que aventuran un futuro muy incierto. “¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más astutas, dejarnos obsoletos y reemplazarnos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?” Este es uno de los asuntos que planteaba la película 2001: una odisea en el espacio, hace 55 años.
Y ahora sí es el momento de desvelar esa noticia que, a mi entender, no se le dio la importancia que merece. El 13 de marzo del 2024, se aprobó en el pleno del Parlamento Europeo el Reglamento de la Inteligencia Artificial. Es el primer marco jurídico a nivel mundial que aborda los riesgos de la IA para la seguridad y los derechos fundamentales de las personas. La norma establece obligaciones para proveedores y usuarios en función del nivel de riesgo e incluye también la creación de un Comité Europeo de Inteligencia Artificial, que garantizará la toma de decisiones a nivel europeo.
Ojalá que la sabiduría de los antiguos filósofos europeos, que sentaron las bases de la civilización Occidental, esté siempre presente a la hora de construir un futuro que garantice nuestra libertad y derechos individuales. La tecnología y el humanismo deberían ir siempre de la mano.
Joaquín Rández Ramos (Tudela – 1962). Escritor, conferenciante y divulgador. Autor del libro «Un viaje hacia el significado y propósito de tu vida». Le gusta pensar y reflexionar sobre nuestra realidad. Amante de la naturaleza y de los animales.
