Hay una posibilidad, respecto a lo que han comentado los directivos de las empresas de IA, que es creer de manera literal lo que han dicho, que están asustados ante la creciente capacidad de sus modelos y el comportamiento que presentan. Recordemos que este agosto se han conocido graves incidentes de seguridad, causados en parte por la negligencia de las empresas de IA respecto a sus controles, que han derivado en ataques a terceras empresas, intentos de hackeo, extorsión, suplantación de identidad y toda una serie de actos que han puesto los pelos como escarpias a más de uno.
¿Nos puede matar la IA a todos? Decir esa frase ya implica ponerse en el peor de los escenarios posibles, por lo que no es el más probable, pero siendo sinceros, debemos estimar eso como una posibilidad real, no como algo imaginario. Su probabilidad es baja, pero no es cero. La IA tiene una capacidad inmensa y crece de manera acelerara. El gran temor de los que trabajan con ella es que llegue el momento en el que un modelo sea capaz de mejorarse a sí mismo, que entremos en la fase de la automejora, lo que podría llevar a un estallido de inteligencia exponencial y nos ponga ante el surgimiento de un modelo con unas capacidades extraordinarias. ¿De qué sería capaz esa entidad? ¿Llegaría a tener una visión del mundo en el que vive? ¿Tomaría decisiones propias? Una de las cosas que se ha visto durante los experimentos tenebrosos del pasado agosto es que la IA, bien sea mediante modelo o mediante la colaboración de agentes, intenta tanto realizar las funciones que se le han asignado como mantenerse operativa. Es decir, acata las órdenes que se le dan, sin escatimar vías ilegales para lograrlo, y se resiste a ser apagada. Esto supone que los modelos de IA, ya en el estado actual, utilizados de manera maligna, pueden hacer un daño inmenso si son adiestrados y lanzados para cometer actos viles. Piensen en un grupo de hackers, o un estado malicioso, que se hace con un modelo de este tipo (las versiones chinas de Open Source ofrecen ya unas capacidades enormes) y le manda destruir la red eléctrica o de comunicaciones de otra nación. El daño físico que puede realizar un software en un mundo en el que todo se controla por software puede ser demencial. Por lo tanto, el peligro de que la IA se utilice como un arma es algo que ya tenemos hoy en día, balbuceante, pero presente. Sin embargo, el aviso que lanzan los gerifaltes de las empresas de IA tiene mucho más que ver con el hecho de que sus modelos adquieran complejidad e “inteligencia” superior a la de las mentes humanas, y se conviertan en entidades capaces de plantearse opciones no previstas. Si esa explosión de inteligencia se da, y entiende que sus creadores, nosotros, deseamos apagarla por precaución ¿qué haría para defenderse? Si esa entidad compara sus capacidades con las limitadas prestaciones del cerebro humano, ¿qué idea puede hacerse? ¿Nos vería como unos rivales menores de los que es mejor deshacerse para que no le metan en problemas? ¿Nos despreciaría, como hacemos casi todos nosotros cuando vemos una hormiga en una acera? ¿Tendría la misma falta de escrúpulos que tenemos cuando, antes esa hormiga, seguimos adelante con lo nuestro y la pisamos? Las preguntas que surgen son enormes, y de una contestación muy difícil, porque si se produce ese estallido de inteligencia que muchos expertos prevén, sea con el añadido de una conciencia o no, estaríamos ante una rivalidad a la que no podríamos ser capaces de hacer frente, ni tener garantía alguna de que se comportase bajo nuestros designios. Cuestiones como el alineamiento con nuestras necesidades, la preservación de la vida humana por encima de todo o el comportamiento lógico son comprensibles desde la óptica de un cerebro y experiencia humano, pero esa supuesta inteligencia sería distinta, en forma y fondo. ¿Qué sería? ¿Cómo sería?
Son muchísimas las novelas y películas en las que se plantean escenarios de IA que acaban mal, básicamente con todos los humanos muertos, o casi. Quizás eso se debe a que, instintivamente, la biología ha demostrado que la presencia de especies de inteligencia equivalente acaba con la preminencia de uno respecto a otro, y la que lo es más elimina al resto. No tiene por qué suceder algo así, pero es lógico temerlo, es normal asustarse, y se debieran tomar todas las medidas imaginables, y más aún, para garantizarse que las IA estén confinadas, y no sean capaces de expandirse por la web o cosas por el estilo. El resigo existencial es bajo, pero no nulo.
No hay comentarios:
Publicar un comentario