Acabo de leer el libro «Tiempo de incertidumbre (los brillantes y oscuros años de la física (1895-1945)), de Tobias Hürter».
Me ha cautivado la figura de Werner Heisenberg, premio Nobel de Física de 1932, quien en los años cuarenta lideraba los avances de la mecánica cuántica y se vio forzado a trabajar en el proyecto nuclear del Tercer Reich para la creación de la bomba atómica. Mientras, en Estados Unidos culminaba el proyecto Manhattan, cuyo resultado fue el horror de Hiroshima y Nagasaki: dos ciudades arrasadas en segundos. Heisenberg simboliza desde entonces el dilema del científico que comprende, tal vez un poco tarde, que ni sus fórmulas ni sus algoritmos son neutrales; que el conocimiento en manos equivocadas y sin un marco ético, se convierte en una fuerza imparable y a veces destructiva.
Este dilema me ha llevado a pensar en una figura análoga en nuestro tiempo: Geoffrey Hinton, premio Nobel de Física de 2024 por el desarrollo de las redes neuronales artificiales que permiten el aprendizaje automático, base del desarrollo de la inteligencia artificial actual. Hinton lanza su propia advertencia sobre el futuro: si los sistemas de inteligencia artificial generativa escapan al control humano, nos espera un futuro incierto y potencialmente catastrófico. Una advertencia de quien estuvo, igual que Heisenberg, en el corazón mismo de la investigación y desarrollo científico que ahora cuestiona.
Es cierto, la inteligencia artificial actualmente impulsa grandes avances médicos y científicos. Sin embargo, en su reverso, muestra consecuencias negativas tangibles: la deshumanización y enfermedades cognitivas adictivas, la desinformación masiva y automatizada, los desafíos a la ciberseguridad global y, especialmente, la concentración de un poder tecnológico en unas pocas compañías, que apenas rinden cuentas a la sociedad. Además, existe el riesgo de que sistemas autónomos adquieran la capacidad de tomar decisiones, sin control humano, que afecten al futuro de la humanidad.
Seguimos fascinados por la potencia del avance tecnológico y lo hacemos de manera inversamente proporcional a la comprensión de los riesgos inherentes.
Con la misma fuerza con que aplaudimos los avances tecnológicos y sus aplicaciones, también deberíamos escuchar sus advertencias. Heisenberg lo hizo, en el siglo pasado. Hinton, aún vivo, lo hace hoy.
Nosotros, como sociedad, deberíamos escucharlas antes de que sea demasiado tarde. Lo que ambos nos enseñan es que la ciencia, desprovista de ética y responsabilidad política, en lugar de ser un camino hacia el futuro con esperanza, a veces puede ser un salto hacia un abismo.
Tal vez, aún estemos a tiempo de aprender la lección y evitar que el progreso vuelva a convertirse en una amenaza de consecuencias inimaginables.