Hace un tiempo fue noticia que un proyecto de Inteligencia Artificial liderado por Facebook al parecer se había salido de control y tuvo que ser “apagado”. Independiente de lo que haya sucedido con exactitud, vemos que nos encontramos en el umbral de crear inteligencias artificiales de gran complejidad, y entonces surge la pregunta de si existe algún riesgo de que tal inteligencia se vuelva autónoma y se salga de control.
En principio parecería que se trata de un tema de ciencia ficción, y de hecho muchas novelas, relatos y películas de este género han explorado la posibilidad de unas máquinas salidas de control. Una de las más conocidas es “Matrix”, que explora las consecuencias últimas de una situación de ese tipo. Otro es el relato “La última pregunta”, de Isaac Asimov, que lleva el tema al extremo, dándole a una inteligencia artificial una categoría de divinidad.
Jacques Ellul lo plantea en estos términos:
«La técnica se ha vuelto autónoma; ha formado un mundo omnívoro que obedece a sus propias leyes y que ha renunciado a toda tradición. La técnica ya no descansa en la tradición, sino en procedimientos técnicos previos; y su evolución es demasiado rápida, demasiado perturbadora para integrar las tradiciones más antiguas. Este hecho también explica por qué no es del todo cierto que una técnica asegure un resultado conocido de antemano. Es cierto si se considera solo al usuario: el conductor de un automóvil sabe que puede esperar ir más rápido cuando pisa el acelerador. Pero incluso en el campo de lo mecánico, con el advenimiento de la técnica de los servo-mecanismos, este axioma no es cierto. En estos casos, la máquina se adapta a medida que opera; este mismo hecho hace que sea difícil predecir el resultado final de su actividad.
Esto se vuelve claro cuando uno considera no usar sino el progreso técnico, aunque, en este momento, los dos están estrechamente asociados. Es cada vez menos exacto mantener que el usuario permanece por mucho tiempo en posesión de una técnica cuyos resultados puede predecir; la constante invención trastorna incesantemente sus hábitos» (1).
Así entonces, el progreso acelerado de la técnica y sus manifestaciones (como la tecnología) van dejando atrás la reflexión sobre sus alcances; pareciera incluso que es de “mal gusto” reflexionar sobre su influencia en la vida de las personas y la sociedad. Una escala de valores que no tiene referentes externos sino que se basa en sí misma nos va señalando un camino en el cual todo lo posible es bueno y deseable, y donde pareciera que el único límite es el ingenio humano.
Pero esto es un camino riesgoso; sin la reflexión, sin el apoyo de la ética, de la filosofía y de la moral, nos sometemos a posibles consecuencias funestas, entre las cuales no está demás descartar la creación de mecanismos o tecnologías que se salgan de control y pongan en riesgo incluso la supervivencia del ser humano. Es un reto que debe ser asumido y enfrentado.
Ver Jacques Ellul, The Technological Society.
Add comment