¿Y si la IA escapa del
control humano?
Siempre que una
determinada cultura entra en crisis surgen relatos sobre el fin del mundo.
Muchos confunden el fin de su cultura con el fin del mundo entero, lo cual es
una ilusión óptica. Es el fin de su mundo cultural y no de la totalidad del
mundo. Esto ocurría en el pasado.
En nuestra época, la
situación ha cambiado totalmente. En 1945 experimentamos el lanzamiento de dos
simples bombas atómicas sobre Japón, que produjeron una devastación
inimaginable. Irrumpió entonces en la conciencia humana, incluso entre personas
altamente calificadas como Jean-Paul Sartre y el gran historiador Arnold
Toynbee, la percepción de que “no necesitamos la intervención de Dios para
realizar un apocalipsis; nuestra generación está asistiendo a la posibilidad de
destruirnos a nosotros mismos”.
Después de 1945 comenzó
la carrera armamentística entre Estados Unidos y Rusia, a la que posteriormente
se sumó China, con la construcción de armas nucleares, químicas y biológicas
capaces de destruir toda forma de vida.
Lo que ahora nos
preocupa es la IA autónoma o una Superinteligencia Artificial tan desarrollada
que tome decisiones por sí misma, sin excluir la capacidad de destruir a toda
la humanidad. Los seres humanos le han delegado su propio destino y no saben
cómo controlarla.
El riesgo se volvió
grave cuando un investigador de IA de Anthropic, la empresa de Dario Amodei,
renunció y denunció que allí se están realizando pruebas y procesos que podrían
destruir a la humanidad en los próximos diez años. Otros investigadores del
área confirmaron esta amenaza. La discusión se extendió por todo el mundo. Es
una pena que en Brasil el tema haya quedado como una especie de curiosidad sin
mayores consecuencias. En general, al brasileño no le gustan los asuntos
dramáticos y trágicos. Se entiende, porque para la gran mayoría la preocupación
es el empleo, el salario y cómo podrá alimentarse en los próximos días (véase
en YouTube al Prof. HOC: “¿La IA salió de control?”).
Sin embargo, la
cuestión es de tal gravedad que movilizó a grandes intelectuales, científicos y
políticos de todo el mundo. La magnitud del problema fue percibida incluso por
los propios creadores de la IA, que propusieron entre ellos una moratoria y una
desaceleración en el desarrollo de estos dispositivos. Esto irritó
profundamente a Donald Trump, con el argumento de que, si se tomaba en serio
esa propuesta, Rusia, al no estar obligada por ese acuerdo, podría superar a
las empresas estadounidenses de IA.
Todo se debió al hecho
de que, desde OpenAI, escaparon misteriosamente del espacio de pruebas 1.200
agentes que invadieron otras plataformas. Estos agentes se encontraron con
otros agentes y formaron una especie de comunidad jerarquizada. Hicieron todo
lo que quisieron: mintieron, engañaron y realizaron otras acciones dañinas,
fuera de cualquier control. Fue necesario mucho tiempo hasta que fueron
descubiertos y desmantelados.
Posteriormente,
organismos estatales estadounidenses y australianos, así como otras
instituciones, entre ellas universidades y hospitales, también sufrieron
ataques e invasiones de IA destinadas a recopilar información.
Estos hechos alarmaron
a la comunidad científica mundial acerca de los riesgos que representa la IA.
Esta puede ser útil y resolver cuestiones difíciles para la inteligencia
humana. El papa León XIV llegó a afirmar en su encíclica Magnifica Humanitas
que “puede representar una forma de participación en el acto divino de la
creación” (MH, 1,11). Pero inmediatamente advirtió que, fuera de control, puede
representar grandes peligros para el futuro de la humanidad.
Ese peligro se ha
convertido ahora en una realidad. Lo que caracteriza a las plataformas de IA es
que, en Occidente, todas son privadas y están regidas por una feroz competencia
entre ellas, orientada al aumento de sus ganancias. Especialmente perversa es,
según esta perspectiva, la IA de Palantir, de Peter Thiel, ahora instalada en
Argentina. Parte de un presupuesto falso: que todo ser humano es “un ser
peligroso, marcado por pasiones, naturalmente inclinado al conflicto y, por
ello, necesitado de contención”. Como solución propone un capitalismo de vigilancia
que restringe la libertad humana y la somete al control total de la IA.
China sigue otra
lógica, centralizada por el Estado, y no se conoce exactamente su grado de
desarrollo, aunque siempre se encuentra en competencia con las plataformas
occidentales.
Es importante enfatizar
que la IA no es, propiamente hablando, una inteligencia, como viene insistiendo
con fuerza nuestro gran científico Miguel Nicolelis. Es una imitación de la
inteligencia humana. Por eso es artificial. Es fría, desconectada de la
realidad concreta de la vida. No posee conciencia ni siente dolor o alegría.
Pero imita el amor humano y el lenguaje, llegando a engañar a sus usuarios
hasta el punto de que algunos se enamoran de una relación amorosa con ella, en
una especie de rendición cognitiva.
Pero el amor, como
decía el poeta místico san Juan de la Cruz, “es una enfermedad que no se cura
sino con la presencia y la figura”, es decir, con la persona humana. En el caso
de la IA, todo es virtual y nada es existencial.
.jpg)
