Por razones de educación (“es de bien nacido ser agradecido”) y de justicia (hay que pagar las deudas), déjenme que comience por reconocer que en el origen de esta moción está una propuesta que me hizo el senador y profesor Reniu, en una de las conversaciones que solemos mantener, para mi suerte.
Creo que esta moción tiene unas características de sencillez y aun diría de tan evidente oportunidad, por la actualidad de cuanto toca al desarrollo de la IA, que excusan una mayor argumentación. Una ponencia de estudio, que además de escuchar las aportaciones de científicos, investigadores y profesores universitarios, porque eso es lo que la especifica, tendrá las características propias del Senado, es decir, obviamente estará atenta y abierta a las perspectivas territoriales …
La relevancia de la IA no es una cuestión nueva: habría que remontarse a una obra de teatro de Karel Capek estrenada en Praga en 1921 R.U.R. (Robots Universales Rossum) – donde aparecían unos humanos artificiales, fabricados para trabajar, que acababan rebelándose contra sus creadores. Los robots, como peligro para la existencia de la humanidad. Asimov desarrolló y enunció, como recordarán, las leyes de la robótica, orientadas a garantizar la preeminencia de los humanos sobre la IA. La literatura de ficción y el cine han contribuido a difundir en la opinión pública una visión distópica, casi apocalíptica del desarrollo de la IA, en la línea inaugurada por la Metrópolis de Lang, aunque se expresara con la admirable capacidad de Kubrick y Clark, en el inolvidable diálogo de 2001, entre la IA Hal 9000 y el astronuta Bowman y en la que, antes de ser desconectado, Hal 9000 preguntaba si podría soñar…
La inteligencia artificial tiene un potencial enorme, pero también traerá las disrupciones inherentes a ciertas tecnologías transformadoras. Margaret Boden, la gran científica y filósofa, creadora del primer laboratorio de ciencias cognitivas y de la computación, autora del libro de divulgación Inteligencia artificial (Turner 2021) sostiene que ningún aspecto de nuestra vida escapará a la IA.
Va a alterar nuestras vidas, ya tan digitalizadas. Lanzará una carrera tecnológica y otra empresarial. Puede modificar los equilibrios geopolíticos y hasta nuestra capacidad cognitiva y nuestras ideas sobre qué es la creatividad. Piensen en algunos campos
Vida cotidiana: una nueva interfaz hombre-máquina
Hace años que los algoritmos se multiplican aunque no los veamos. Los usa Netflix para recomendar series, Red Eléctrica para predecir la energía que será necesaria mañana o Ikea para anticipar los pedidos y organizar su flota de camiones. Pero la nueva inteligencia artificial será más palpable. Porque una novedad de la IA generativa es que maneja lenguaje humano.
Mundo empresarial/laboral
La carrera está lanzada. No sólo ingentes inversiones fluyen para alimentar el desarrollo de sistemas AI, sino que empresas de distintos sectores empiezan a prepararse para absorber en sus mecanismos de funcionamiento las nuevas tecnologías. Jean-Marc Ollagnier, responsable de Accenture Europa, comentaba en una reciente entrevista que la próxima década representará, a su juicio, una revolución empresarial de mayor envergadura que todos los cambios vividos desde 1945, con la IA como uno de los grandes elementos de cambio. La nueva tecnología promete ampliar capacidades y productividad con notables consecuencias en el mercado laboral: se crearán nuevos puestos de trabajo, otros experimentarán una metamorfosis en su desempeño, y otros más desaparecerán, ya innecesarios.
Se intuye, además, una novedad: por primera vez en la historia de la humanidad se podrían automatizar tareas creativas.
Ciencia, innovación, docencia e investigación universitarias.
Pero esta moción se ocupa expresamente del impacto de la IA en el ámbito universitario: en la investigación científica y la innovación, en la docencia y en la evaluación de estudiantes, profesores e investigadores.
En el ámbito de la ciencia y la investigación universitaria y de la docencia, como en otros, se superponen perspectivas alentadoras y problemáticas. El acceso libre a ChatGPT ha desencadenado una alerta acerca de la posibilidad de que los alumnos resuelvan sus deberes o exámenes recurriendo a la máquina. Se avizoran múltiples efectos negativos, como dificultar la evaluación precisa del alumno —esencial para ayudarle en su recorrido— o alterar procesos competitivos —por ejemplo, para becas al mérito, etcétera.
Incluso sin llegar al extremo de la trampa, estos sistemas plantean el reto de alejar a los seres humanos de mecanismos mentales fundamentales en el desarrollo del intelecto, como afinar la capacidad de pensamiento a través de la escritura.
Dice el informe 2021 sobre IA, de la Comisión Nacional de Seguridad de EE UU que “La IA reorganizará el mundo”, porque no hay referencias históricas para calibrar el impacto de la inteligencia artificial. Según el informe, estamos ante algo más que un gran hallazgo tecnológico, una transformación de escala mayor, del tipo que describió Edison al hablar de la revolución eléctrica: “un campo de campos […] contiene los secretos que reorganizarán la vida del mundo”
Es lógico que nos preguntemos ¿Qué función puede tener la IA en la gestión de los asuntos públicos? ¿Hasta dónde debería llegar su papel? ¿Quién controlaría su actuación? ¿Qué riesgo hay de que interfiera y desnaturalice el debate político? ¿Podría en un futuro acabar tomando decisiones en lugar de un ser humano?
La UE, primera entre los grandes actores globales, ya desarrolla iniciativas jurídicas de respuesta y regulación, con la dificultad de anticipación en la materia, que pretende sobre todo definir aplicaciones que crean un riesgo inaceptable. Así, la comisaria de derechos humanos del Consejo de Europa, Dunja Mijatovic, resumió en junio del 2021 las amenazas en el terreno político en una: la “manipulación de la opinión pública”. Mijatovic recordó que las nuevas tecnologías digitales y las redes sociales han propagado la desinformación e incitado al odio y la violencia, “infundiendo miedo en la población y fomentando los movimientos antidemocráticos de extrema derecha”. Y llamó a aprobar una regulación para que las grandes tecnológicas actúen de acuerdo con el marco legal de los derechos humanos.
Por su parte, Timnit Gebru, una inmigrante etíope que lelgó a los EEUU se ha convertido en la <ingeniera del antirracismo> en Silicon Valley desde que, comocodirectora del equipo de investigación de Google para IA ética, señaló que los sistemas de IA de la compañía usaban un lenguaje que marginaba la voz de muchos colectivos. Lo cierto es que todo depende de quién esté detrás de su programación, quién y con qué objetivo desarrolle los algoritmos. Interrogado el propio Chat GPT responde: “Si estuviera programado con otra orientación ideológica sería capaz de generar respuestas consistentes con esa ideología”.
Hay, desde luego, iniciativas parlamentarias y gubernamentales que ofrecen ya una valiosa documentación
Me parece muy útil la denominada Declaración de Toronto (2019): Toronto Declaration: Protecting the right to equality and non-discrimination in machine learning systems. (Amnesty y Acces Now)
La Comisión Europea está promoviendo, a través de su Plan Coordinado de Inteligencia Artificial, el desarrollo de una IA centrada en el ser humano, sostenible, segura, inclusiva y fiable. Además, ha aprobado la Comisión de la Comisión Europea para la eficiencia de ña justicia ha aoptado la European ethical Charter on the use of Artificial Intelligence in judicial systems and their environment, 2019
Por su parte, el Consejo de Europa aprobó en 2017 su Study on the Human Rights Dimensions of Automated Data Processing Techniques (in particular algorithms) and Possible Regulatory Implications, Council of Europe. 2017
Entre los dictámenes de otros parlamentos destacaré el Informe “AI in the UK: ready, willing and able?”, del Select Coommittee on AI, constituido entre 2017 y 2019 en dicha Cámara y que emitió su dictamen el 29 de junio de 2019, “to consider the economic, ethical and social implications of advances in artificial intelligence.” Está disponible en https://publications.parliament.uk/pa/ld201719/ldselect/ldai/100/100.pdf
Por lo que se refiere a nuestro país, recordaré que, en el Indice de la Economía y la Sociedad Digitales (DESI) de 2022, España ocupa un lugar por encima de la media de la Unión Europea. El Gobierno de España aprobó en el año 2020 la Estrategia de Inteligencia Artificial que sienta las bases para su desarrollo en varios ejes. En dicha Estrategia se avanza en medidas de apoyo al desarrollo y la adopción de la IA, donde la investigación científica, el desarrollo tecnológico y la innovación son uno de sus principales ejes.
Conviene recordar que el Senado constituyó en 2020 una ponencia de estudio sobre la adopción de una regulación de las nuevas realidades tecnológicas, disruptivas y sociales, en el seno de la Comisión de Asuntos Económicos y Tranformación Digital.
Espero y deseo que la Cámara vote favorablemente esta moción y se constituya la ponencia de estudio en el seno de la Comisión de Ciencia, Innovación y Universidades que tengo el honor de presidir.