Inteligencia Artificial, la diferencia entre lo complicado y lo complejo.
Un avión es complicado. La inteligencia artificial basada en redes neuronales —hecha de álgebra matricial y estadística— permite entender lo que Cilliers llama complejo: conocer sus componentes no basta para explicar su comportamiento.
En 1998, el ingeniero y filósofo sudafricano Paul Cilliers publicó Complexity and Postmodernism. Al comienzo del libro formulaba una observación que hoy resulta especialmente pertinente: nuestras tecnologías se habían vuelto más poderosas que nuestras teorías. Éramos capaces de hacer cosas que todavía no comprendíamos suficientemente.
Su argumento parte de una distinción: lo complejo no es simplemente algo muy complicado. Conocer las piezas de un sistema complejo no basta para comprenderlo; importan sus interacciones, su historia y su relación con el entorno. Las redes neuronales le servían para mostrar cómo pueden surgir capacidades que nadie ha programado detalle por detalle. Construir algo que funciona no equivale, por tanto, a entender completamente cómo funciona.
Cilliers no estaba describiendo los grandes modelos de lenguaje (LLMs) actuales, pero su intuición se adelantó a una de sus dificultades centrales. Sabemos entrenarlos y mejorar sus resultados sin poder explicar satisfactoriamente cada respuesta. Los avances en interpretabilidad permiten reconstruir algunos mecanismos, pero la comprensión sigue siendo parcial.
Podría decirse, con cierta licencia, que la tecnología va por delante de la ingeniería. Hay muchísima ingeniería detrás de la IA, naturalmente. Me refiero a que nuestra capacidad de hacer avanza más deprisa que nuestra capacidad de prever y controlar lo que sucede.
Y, sin embargo, creo que conviene mantener la perspectiva. La energía atómica, la bioquímica o un cuchillo de cocina bien afilado pueden utilizarse para hacer el bien o para hacer el mal. Sus riesgos y su alcance son muy distintos, pero la potencia de una herramienta no determina la bondad de su uso.
Con la IA ocurre algo parecido. Debe utilizarse ética y responsablemente, siempre, pero debe utilizarse. Esa responsabilidad empieza al diseñarla, al decidir qué puede hacer y bajo qué controles. Que no comprendamos todo su funcionamiento exige más cuidado y responsabilidad, pero hay que seguir implementándola.
Creo que será, o ya está siendo, una revolución social y económica, como lo fueron la generación y distribución de electricidad. Transformará el trabajo y la vida cotidiana hasta que en muchas actividades dejemos de reparar en su presencia. Y, pese a todo, seguirá siendo en cierto modo una tecnología más.
Cilliers nos ayuda a reconocer los límites de lo que sabemos, y a diferenciar entre lo complejo y lo complicado. La IA amplía enormemente lo que podemos hacer. Decidir qué merece la pena hacer, para qué y con qué consecuencias seguirá siendo una responsabilidad humana.
