PaUL Krugman, NOBEL ECONOMIA
Como todos los que han estado atentos, me preocupan los posibles efectos negativos de la IA. Y la lista de preocupaciones es larga. Primero, está el sesgo antilaboral de la tecnología, que podría acelerar nuestra caída en la oligarquía. Segundo, el auge de los centros de datos está desplazando la inversión en casi todo lo demás, a pesar de que apenas dan empleo a trabajadores. Tercero, me preocupa la alta probabilidad de que la IA parezca una burbuja, sobre todo dada la magnitud de este auge. Si de hecho es una burbuja, inevitablemente estallará y probablemente sumirá a la economía estadounidense en una trampa de liquidez debido a su tamaño.
Ah, y Anthropic me dice que la IA bien podría acabar con la raza humana, razón por la cual debería invertir en la salida a bolsa de la compañía.
Pero supongo que no he hablado lo suficiente con los tecnólogos, porque no fui consciente hasta la semana pasada de la gran posibilidad de que la IA haga inutilizable internet tal como lo conocemos, no en algún momento del futuro lejano, sino en cuestión de meses.
Ya ha comenzado. Reuters informa :
Los sitios web gubernamentales en Europa y otros lugares quedaron fuera de servicio el miércoles después de que la revelación de vulnerabilidades críticas en un lenguaje de programación ampliamente utilizado provocara que los operadores de sitios web de todo el mundo se apresuraran a proteger sus sistemas.
Los desarrolladores del lenguaje de programación PHP publicaron el miércoles nuevas correcciones urgentes para vulnerabilidades que habían estado presentes en su software durante años hasta que fueron descubiertas mediante inteligencia artificial, e indicaron que se "alienta a todos los usuarios a actualizar de inmediato".
Ante las advertencias de las empresas tecnológicas de que algunos piratas informáticos ya estaban explotando las vulnerabilidades, varios organismos gubernamentales de toda Europa, entre otros, desconectaron algunos sitios web como medida de precaución.
Dado que ya se ha publicado una solución y las herramientas de inteligencia artificial pueden aplicar ingeniería inversa al fallo con poco esfuerzo, los expertos dijeron que se estaban preparando para una oleada de intrusiones, ya que los piratas informáticos se apresurarían a adelantarse a las actualizaciones.
La IA estaba impulsando una “carrera por explotar vulnerabilidades”, afirmó Costin Raiu, cofundador de TLP:Black, empresa de investigación en ciberseguridad y respuesta a incidentes. Añadió que el siguiente paso era el “compromiso masivo de todos los servidores web vulnerables de internet”.
Y esto es solo el comienzo de lo que Zvi Mowshowitz llama El Hackeo. Dos días después, Reuters informó que:
Los avances en inteligencia artificial han descubierto una serie de nuevas vulnerabilidades de software que casi con toda seguridad provocarán más interrupciones similares a las que se produjeron esta semana en los sitios web de gobiernos de todo el mundo, según siete profesionales de la ciberseguridad que hablaron con Reuters.
Citaba a un experto que decía: "Creo que vamos a tener un par de años en los que cada semana sentiremos que el cielo se nos cae encima".
Azeem Ashar, cuyo libro Substack Exponential View ha sido una de mis principales guías sobre lo que está sucediendo con la IA, denomina lo ocurrido la semana pasada como "el momento Wuhan de Internet", en referencia a la aparición del coronavirus que causó la pandemia de Covid, que mató a millones de personas y también sumió temporalmente a toda la economía mundial en una profunda recesión.
No soy un experto en tecnología, pero así es como entiendo el problema: los sitios web funcionan con software complejo y multicapa que, debido a su complejidad, inevitablemente contiene fallos de seguridad que los ciberdelincuentes podrían explotar. Peor aún, gran parte de este software es antiguo —PHP data de principios de la década de 1990— y, por lo tanto, fue diseñado en una época en la que no existían las técnicas modernas de piratería informática.
Resulta que los modelos de IA son herramientas de piratería informática increíblemente poderosas. Los ciberdelincuentes, por sí solos, carecen del tiempo, la paciencia y la atención al detalle necesarios para revisar el código antiguo línea por línea y encontrar fallos de seguridad que podrían haber pasado desapercibidos durante décadas. Los modelos de IA no tienen esas limitaciones. Las instituciones que se enteran de las amenazas de seguridad pueden instalar parches que las bloqueen, pero el mero hecho de distribuir un parche proporciona a los piratas informáticos la información que necesitan para atacar a las instituciones que no lo aplicaron de inmediato.
Azhar nos dice que regular la IA exigiendo "entrenamiento de seguridad" —instrucciones para los modelos que disuadan las acciones destructivas— será mucho menos efectivo de lo que cabría esperar. ¿Por qué? Porque dicho entrenamiento es relativamente fácil de "eliminar", lo que significa revertir algunas indicaciones clave de tal manera que se deshaga la mayor parte del entrenamiento de seguridad.
¿Qué vamos a hacer entonces? No creo que volvamos al papel carbón ni a los archivadores. Probablemente, en la mayoría de los casos, ni siquiera tendremos que depender de redes locales aisladas, completamente desconectadas de internet. Azhar opina que, en cambio, nos trasladaremos a un sistema de dominios parcialmente cerrados, como AOL en sus inicios o el sistema SABRE utilizado por las agencias de viajes, a los que resulta difícil, pero no imposible, acceder para personas e instituciones ajenas a esos dominios.
Estos espacios cerrados suelen denominarse «jardines amurallados», pero yo sugeriría que una mejor analogía sería la de «comunidades cerradas», como aquella en la que vivieron mis padres al final de sus vidas. Quienes no vivían en la comunidad podían visitarlos, pero solo si mis padres habían facilitado sus nombres al personal de seguridad. Funcionaba —podían invitar a amigos de fuera—, pero resultaba engorroso y lento en comparación con la vida fuera de la comunidad, donde todos podían entrar y salir libremente.
De igual modo, una sociedad digital que imponga restricciones y controles de seguridad molestos, pero que sea mucho menos vulnerable a los ataques informáticos mediante IA, debería ser viable. Sin embargo, la seguridad tendrá un precio. ¿Cuánto costará?
Algunos cálculos aproximados, que no compartiré aquí, sugieren que la llegada de internet abierto incrementó el PIB en torno a un 10 %. Un sistema más seguro de comunidades digitales cerradas implicará renunciar solo a una parte de esa ganancia, a largo plazo.
Pero me preocupa mucho más el corto plazo, porque nuestra economía está diseñada para funcionar con una red abierta. Imaginemos, por ejemplo, que nos vemos obligados a volver al antiguo sistema en el que había que visitar físicamente una agencia de viajes con conexión SABRE segura para comprar billetes de avión. Recuerdo esa época, y no era terrible. Pero la mayoría de las agencias y oficinas de viajes que desempeñaban esa función han desaparecido y no se pueden recrear de la noche a la mañana. Y hay que imaginar que ese problema se extienda a toda la economía.
Repito, esto no es un riesgo hipotético para el futuro. Está sucediendo mientras lees esto.
Hace poco, los entusiastas de la IA hablaban de cómo su tecnología milagrosa pronto generaría un crecimiento económico del 10 o 15 por ciento anual. Eso siempre fue una tontería. Pero ahora existe la posibilidad muy real de que, durante los próximos años, la IA, al empoderar a los delincuentes y obligarnos a adaptarnos repentinamente a nuevas amenazas, nos empobrezca.
CODA MUSICAL
No tiene una relación obvia con la publicación, pero de alguna manera encaja con mi estado de ánimo previo a los exámenes parciales.