Manuel G. Bedia #conocimientos21

Profesor titular en la Universidad de Zaragoza en excedencia. Durante 2019 fue Vocal Asesor en el Gabinete del Ministro de Ciencia, Innovación y Universidades y, desde marzo de 2020, ocupa el cargo de Subdirector General de Actividad Universitaria Investigadora en el Ministerio de Universidades y el de Vocal de la Comisión de Coordinación en Investigación (Ministerio de Ciencia e Innovación y Ministerio de Universidades).

Es Licenciado en Física, Master en Estudios Sociales de la Ciencia y la Tecnología y Doctor en Informática (Premio Extraordinario) por la Universidad de Salamanca. Trabajó como consultor en Gestión Tecnológica e Innovación en la Fundación Cotec y, desde 2000, como profesor e investigador en las universidades de Salamanca, Complutense, Carlos III de Madrid, Edimburgo y Sussex (Brighton). Desde su incorporación a la Universidad de Zaragoza, ha coordinado el grupo de investigación “Sistemas Interactivos, Adaptación, Autonomía y Cognición” (ISAAC Lab) y ha sido Director de Transparencia y Participación.

En el contexto del impacto social de la tecnología, ha participado en el “Ad Hoc Committee on Artificial Intelligence” del Consejo de Europa, y en el “Ad Hoc Expert Group for Recommendation on the Ethics of Artificial Intelligence” de UNESCO. En 2019, fue uno de los impulsores de la “Declaración de Zaragoza”, manifiesto elaborado por expertos y miembros de la sociedad civil para reclamar un código deontológico de los ingenieros en el ámbito de las tecnologías inteligentes.

Charla: Retos en la Gobernanza de la Inteligencia Artificial

En muy pocos años, la Inteligencia Artificial (IA) ha pasado de ser la manera con la que nos remitíamos a un dominio de las ciencias de la computación -que pretendía replicar algunas de nuestras capacidades cognitivas superiores-, para referirse a una tecnología de propósito general que traerá transformaciones radicales en nuestra realidad, incluidas las instituciones colectivas y afectando a muchos de nuestros fundamentos sociales básicos. Esta Inteligencia Artificial a la que nos referimos en la actualidad, básicamente consiste en un conjunto de algoritmos diseñados para el procesamiento masivos de datos, capaces de extraer patrones de regularidad a partir de técnicas estadísticas. Los avances en estas tecnologías vienen liderados por grandes corporaciones tecnológicas y su –legítimo- fin se guía por evidentes criterios de racionalidad económica. Pero las consecuencias en el área no son neutras: desde que las empresas lideran el desarrollo de la IA, se ha reducido la creatividad en la comunidad científica. Ha sucedido en un periodo muy corto pero que ya hay datos que lo afirman. La investigación pública mimetiza el comportamiento empresarial y se deja que las inercias de mercado fomenten trayectorias tecnológicas cerradas que constituyen resistencias para el desarrollo de opciones alternativas.

En cualquier caso, lo más relevante para el ciudadano, es conocer que estos modelos de negocio existen, en cuanto a su regulación, en casi una situación de “limbo legal” al mismo tiempo que afectan a cuestiones vitales, económicas y sociales. Como parte de un creciente interés y protagonismo de un debate sobre cómo regular estas tecnologías, en los últimos años hemos asistido a una expansión de foros desde los que se pretenden fijar los marcos y principios éticos que circunscriban normativamente el avance de la Inteligencia Artificial. Bajo este “paraguas ético” conviven iniciativas de lo más heterogéneo, aunque todas parecen enfocar el problema desde marcos similares y abogar por un compromiso de autorregulación que, además, se establece en un plano enunciativo y no profundiza en las necesarias recomendaciones que exigirían poner en práctica principios éticos y justos, con mecanismos concretos. 

Es, por esta razón, más que nunca necesario crear entornos de debate público, donde se mantengan diálogos entre investigadores, desarrolladores y miembros de la sociedad civil desde los que se guíe la evolución de los nuevos desarrollos en Inteligencia Artificial. Estas posiciones colectivas solamente surgirán si se garantiza la existencia de este tipo de espacios de análisis donde la sociedad civil plantee sus temores, sus vulnerabilidades y sus deseos. Foros que enmarquen qué orientaciones políticas deberían seguirse, y que ayuden a sustentar en acuerdos lo que socialmente es útil, deseable y justo.

Sobre este programa

Conocimientos Híbridos

Este foro busca apelar a la generación de conocimientos interdisciplinares, capaces de analizar la progresiva pero imparable incorporación de inteligencias artificiales a nuestra cotidianeidad, huyendo de visiones parciales inexorablemente abocadas a reducir este complejo fenómeno y sus consecuencias en todas las parcelas de nuestras sociedades.

Ver más de este programa