Una de las noticias más interesantes de la semana, que da mucho que pensar, es el incidente sucedido con un modelo de IA de la empresa OpenAI, creadora de los ChatGPT X. Al parecer, según han contado y ratificado otras fuentes, un modelo de IA que estaban entrenando en un entorno seguro y, presuntamente, aislado del exterior, logro encontrar un agujero en las medidas de seguridad que cercenaban su hábitat y escapó, de tal manera que violó el confinamiento. No sólo eso, sino que procedió directamente a lanzar un ciberataque a una empresa tecnológica emergente, de nombre Huggin Face. Esta empresa ha confirmado que sufrió el ataque.
La IA tiene, en este momento, dos grandes riesgos, de naturaleza muy distinta, y que en ningún caso, en mi opinión, se están afrontando como es debido. Uno es el financiero. La industria de la IA requiere enormes inversiones en centros de datos que sirvan para entrenar y abastecer de información a los modelos, llenos de carísimo equipamiento informático de última generación, y con ellos enormes costes energéticos de uso y refrigeración. Para lograr todo esto las empresas metidas en la carrera de la IA han anunciado inversiones inmensas, de cientos de miles de millones de dólares, se ha lanzado a la emisión de deuda privada a lo loco y se han convertido en devoradoras de capital con una voracidad pocas veces vista. Hasta ahora el mercado se lo ha consentido todo en aras de la expectativa de negocio que se puede estar creando, pero empiezan a surgir serias dudas de que toda esa montaña de costes pueda no sólo llevarse a cabo, sino ser rentable en un plazo razonable. Si crece la sensación de que estos costos no van a ser asumibles y este castillo financiero se derrumba, la IA puede llevarse por delante compromisos, emisiones, derechos y todo lo que ustedes imaginen que sucede cuando se produce una estampida financiera. La dimensión de las cifras apostadas en el sector es capaz de provocar un crack global si no cumple lo que promete. El otro problema, más de concepto si quieren, es el derivado de una tecnología que puede no ser tan controlable como se nos ha vendido. Desde el principio, mucho antes del surgimiento de los modelos LLM, ha habido una corriente precautiva con la IA ante el temor de que, si se alcanza, se escape de nuestro control y sea capaz de causar daños masivos. El que muchas películas hayan basado sus argumentos en este temor lo ha ridiculizado parcialmente para muchos expertos serios mantienen dudas profundas sobre qué va a suceder cuando las aplicaciones de IA sean capaces de operar solas y el control de quienes las diseñan no pueda mantenerlas en cautividad. La carrera que se vive entre empresas y naciones (EEUU y China) en este sector no hace sino aumentar los miedos a que alguno de los modelos llegue a un punto de escape. No hace falta que se alcance la AGI, la Inteligencia Artificial General que tanto ansían las empresas norteamericanas y que no dicen perseguir las chinas. Basta con que un modelo empiece a superar las capacidades de comprensión y seguridad de quienes lo han desarrollado para que se vuelva peligroso, como una criatura que ya no responde a quien le ha amaestrado, en este caso más bien creado. ¿Algo de esto es lo que le ha pasado esta semana a OpenAI? Puede ser, aunque recuerden que en este sector las noticias que asustan también son una excelente fuente de marketing. En todo caso, parece que estamos ante un incidente serio, que ha comprometido las medidas de seguridad de la empresa y que, probablemente, revele hasta qué punto esas medidas son, cada vez, más escasas ante el avance que se registra en la carrera tecnológica. Es probable que OpenAI haya sido sobrepasada por una de sus creaciones. Es muy necesaria una auditoría seria de lo que ha sucedido y tomar las medidas que sean necesarias para impedir que se repita.
En ambos planos, financiero y tecnológico, la IA corre a sus anchas sin apenas regulación, más allá de los intentos de una UE sobrepasada por completo. Las similitudes entre la carrera nuclear y la de la IA son numerosas, aunque hay un factor que, por ahora, las distingue claramente. En el caso nuclear primero vino la bomba, vimos el hongo y, tras ello, se vio la necesidad global de la regulación por seguridad. En la IA el desarrollo tecnológico sigue imparable sin apenas controles, pero con el temor de que, en algún momento, se produzca un accidente que revele la peligrosidad potencial de esa tecnología ¿Habrá que esperar a que eso suceda para regular como es debido? Ojalá no sea así, pero ya ven, los problemas crecen y las medidas para atajarlos no.
No hay comentarios:
Publicar un comentario