#3 IA: ¿La nueva carrera espacial? Competencia global de las potencias por el dominio tecnológico
¿Qué motivaciones e implicancias tiene el desembarco de Nakasone, quien fue titular de la NSA y el Comando cibernético de EE.UU. hasta febrero de este año, al Directorio de OpenAI?
1. ¿El fichaje del año?
No quiero dejar pasar mucho tiempo sin mencionar el fichaje del año: no, no es Mbappé al Real Madrid, sino el de Paul Nakasone a OpenAI, la empresa de Sam Altman, dueña de Chat GPT y World Coin (la que te escanea el iris).
¿Quién es Nakasone? es un General retirado del Ejército de los EE.UU. que se desempeñó como director de la NSA entre mayo de 2018 y febrero de 2024.
En el comunicado oficial de OpenAI, Nakasone expone que “la dedicación de OpenAI a su misión se alinea estrechamente con mis propios valores y experiencia en el servicio público” y agrega: “espero contribuir a los esfuerzos de OpenAI para asegurar que la inteligencia artificial general sea segura y beneficiosa para las personas en todo el mundo”.
En la misma comunicación, se detalla la vasta experiencia del ¿ex? militar. Dice: Nakasone “es un destacado experto en ciberseguridad, avance tecnológico y defensa cibernética global.
Durante su carrera como oficial del Ejército, fue fundamental en la creación del Comando Cibernético de los Estados Unidos.
Fue el líder con más tiempo de servicio en USCYBERCOM y también dirigió la Agencia de Seguridad Nacional, donde fue responsable de salvaguardar la infraestructura digital de Estados Unidos y avanzar en las capacidades de ciberdefensa del país.
Ha ocupado cargos de mando y personal en todos los niveles del Ejército de Estados Unidos, con asignaciones en unidades cibernéticas de élite en Estados Unidos, la República de Corea, Iraq y Afganistán”.
2.”Vigilancia masiva + IA en manos de unos pocos”
¿Qué implicancias tiene el desembarco de Nakasone al comité de seguridad y protección de OpenAI?
Sin dudas, expone la delgada frontera que existe entre la innovación, el desarrollo tecnológico y la política del más alto nivel.
En criollo: el gobierno de los EE.UU. teme: 1) quedar atrás en la carrera por el desarrollo de la IA 2) que una herramienta de la potencia de ChatGPT pueda ser infiltrada, copiada y utilizada por las manos equivocadas (China, Rusia, Irán, Corea del Norte, etc.)
Por eso pasa a integrar sus filas alguien que, hasta hace muy poco, era el encargado de Inteligencia, Seguridad interior y el Comando cibernético norteamericano.
La noticia se conoció el pasado 13 de junio y fue duramente criticada por el activista Edward Snowden en X, quien interpretó la llegada de Nakasone como “una traición deliberada y calculada” en relación a “los derechos de cada persona en la tierra”.
El ex consultor de la NSA que filtró documentos clasificados sobre vigilancia masiva en 2013, precisó que “la intersección de la inteligencia artificial con el océano de datos de vigilancia masiva que se ha acumulado en las últimas dos décadas va a otorgar poderes realmente terribles en manos de unos pocos que no rinden cuentas."
Dos semanas atrás, OpenAI había anunciado la llegada de Sarah Friar como Directora Financiera (CFO) y de Kevin Weil como Director de producto (CPO).
Al mismo tiempo, habían dado a conocer la asociación con Apple, que consiste en la integración de ChatGPT en iOS, iPadOS y macOS en futuras actualizaciones este año.
En su anuncio, Apple fue muy enfático en cómo protegerán los datos de sus usuarios que, según manifestaron, no serán almacenados ni recolectados por OpenAI, garantizando la seguridad y privacidad de los mismos. ¿Será así?
3. “El problema técnico más importante de nuestro tiempo”
Casi en paralelo, Ilya Sutskever, quien hasta mayo de este año era científico jefe y co-fundador de OpenAI, dio a conocer su propio proyecto: Safe SuperIntelligence (SSI). “La superinteligencia está al alcance de la mano. Construir una superinteligencia segura (SSI) es el problema técnico más importante de nuestro tiempo. Hemos puesto en marcha el primer laboratorio de SSI del mundo, con un objetivo y un producto: una superinteligencia segura. Se llama Safe Superintelligence Inc”, posteó en X el experto en aprendizaje automático israelí-canadiense.
El nombre no es azaroso sino que vuelve a poner sobre la mesa cuestiones que derivaron en su salida de OpenAI. La misma se gestó en noviembre de 2023, cuando lideró un grupo en la junta que promovió la destitución de Sam Altman como cabeza de la compañía.
Fue una victoria pírrica ya que Altman fue removido pero, a los pocos días, se sucedieron una catarata de amenazas de renuncias en los mandos altos, medios y bajos de OpenAI que pusieron de manifiesto el apoyo transversal y orgánico que poseía Altman en la firma. Además, Microsoft, que posee 49% de las acciones de OpenAI, presionó a través de su CEO, Satya Nadella, para que Altman recupere su cargo. Sutskever comprendió entonces que no contaba con el músculo político suficiente para enfrentar tamaña respuesta y aceptó la derrota.
Cinco días después de su remoción, Altman retomó la dirección de OpenAI y, unos meses más tarde, Sutskever dió un paso al costado. Su renuncia no fue la única sino que estuvo acompañada por las de William Saunders, Leopold Aschenbrenner y Jan Leike, todos del equipo de seguridad de la IA de OpenAI. Estas bajas se dieron días después del lanzamiento de GPT-4o (en mayo de este año) e implicaron la disolución del equipo que estaba encargado de reducir los riesgos del desarrollo de IA.
4.“Puede salir bastante mal”
Trece meses atrás, en mayo de 2023, Altman testificó ante el Congreso de los EE.UU. y manifestó “mi mayor temor es que nosotros, el campo de esta tecnología, esta industria, causemos un daño significativo al mundo” y advirtió: “creo que si esta tecnología sale mal, puede salir bastante mal”. Por lo que, más tarde, sugirió la puesta en marcha de una agencia nacional o global para regular la IA.
Esta preocupación ante un avance ilimitado del desarrollo de la IA tenía un punto de encuentro con Sutskever y su equipo. Sin embargo, un año más tarde, vemos que su posición frente a estos riesgos se apaciguó y esto conllevó a avanzar con el lanzamiento de ChatGPT4-o en mayo 2024, echando por tierra las advertencias y consejos del equipo Superaligment, cuyos líderes renunciaron a los pocos días.
5. Apocalípticos e integrados - versión SXXI
Los motivos del enfrentamiento entre Sutskever con Altman tuvo que ver con que el flamante líder de SSI entendía que se estaban omitiendo importantes pasos de seguridad en el avance y desarrollo de la IA. Según su visión, se ponían a disposición del mercado -y del mundo- herramientas muy potentes y de las que se sabía muy poco aún, por lo que él sugería una promoción más cautelosa de los nuevos modelos e innovaciones.
Algunos catalogaron este enfrentamiento como una reversión del “Apocalípticos e integrados” que Umberto Eco utilizó en 1964 para describir los principales posicionamientos respecto de la influencia de los medios de comunicación y la cultura de masas. Mientras los apocalípticos entendían a los medios como una gran amenaza que destruiría las culturas y valores tradicionales, promoviendo la homogeneización y la superficialidad, los integrados los veían con optimismo, como una gran oportunidad para facilitar la comunicación, el intercambio y así enriquecer la cultura.
En este caso, Sutskever sería parte de los “apocalípticos”, que miran a la IA con respeto y hacen hincapié en los riesgos que podría significar la propagación de desarrollos sin el debido cumplimiento de exigentes etapas de testeo. En el lanzamiento de SSI señaló: “Nuestro enfoque singular significa que no nos distraen los gastos generales de gestión ni los ciclos de los productos, y nuestro modelo de negocio significa que la seguridad y el progreso están aislados de las presiones comerciales a corto plazo”.
6. IA: ¿La nueva carrera espacial?
El viraje en el posicionamiento del CEO de OpenAI y la llegada de un ¿ex? director de la NSA a su compañía no son asuntos aislados sino que se alinean con una estrategia que anuda los intereses de política global de los EE.UU. con los de la empresa.
Sin dudas, hoy no hay tecnología con mayor potencial de transformación social, económica y política que la IA, por lo que es razonable que cualquier país que aspire a liderar (o ser parte del grupo reducido de potencias) el nuevo orden mundial fruto de este desarrollo deberá contar con los más sofisticados niveles de conocimiento y desarrollo tecnológico en la materia.
En síntesis, algo similar a lo sucedido durante la guerra fría y la carrera espacial.
EE.UU. sabe que gran parte de su liderazgo global futuro está en juego en este tablero y camina en una delgada cornisa:
Aplicar regulaciones -como la Unión Europea-, promovería un desarrollo de la IA más seguro pero sumaría etapas/procesos que burocratizarían su impulso, corriendo el riesgo de quedar rezagado en la contienda política global (como justamente le sucede a la UE).
No aplicar regulaciones. Acortaría ciclos, tiempos de trabajo y testeos de seguridad. Esto podría ser de máxima utilidad para liderar el desarrollo de la IA pero con la contracara de 1) perder el control de esta tecnología que podría rebelarse por sí misma 2) no garantizar los mecanismos de seguridad necesarios para impedir que otros la roben/copien.
Ante esta encrucijada, los EE.UU. mostraron el año pasado un primer acercamiento a la opción regulatoria pero ahora parecen haberse distanciado y optado por una tercera vía, que consistiría en otorgar mayor laxitud a la industria pero con el ojo cercano de los organismos federales.
Así es que llegamos a la incorporación de cuadros técnicos-militares y de inteligencia a las juntas directivas de las principales desarrolladoras de IA.
7. Extras - Docus sobre desarrollo tecnológico, inteligencia y guerras cibernéticas
Todas las semanas comparto webs y herramientas útiles y/o divertidas. Hoy serán películas/documentales vinculados a temas de esta entrega:
The perfect weapon (2020), documental de John Maggio, explora el auge del ciberconflicto como la principal forma en que las naciones compiten y se sabotean entre sí. La película presenta entrevistas con los principales funcionarios militares, de inteligencia y políticos e incluye informes sobre el terreno desde el frente de las guerras cibernéticas.Acá está el trailer. Se puede ver en HBO Max o Prime Video (depende la zona) y Stremio.
Zero Days (2016), documental de Alex Gibney, explora la guerra cibernética mediante el virus Stuxnet, una misión clandestina organizada por EE.UU. e Israel para sabotear una instalación nuclear subterránea iraní. Stuxnet es la primera arma cibernética del mundo que causa daños físicos en el mundo real. Acá está el trailer. Se puede ver en Prime Video o Apple tv (depende la zona) y en Stremio.
Snowden (2016) es un filme, dirigido por Oliver Stone, que narra la historia del informático estadounidense que desnudó los escándalos de espionaje masivo del Gobierno norteamericano. Acá está el trailer. Se puede ver completa en Prime Video, Apple tv o Star + (dependiendo la zona) y en Stremio.
Citizen Four (2014), ganador del Oscar al Mejor Documental, es una crónica filmada de cómo Edward Snowden puso en jaque al Gobierno de EE.UU., filtrando al conocimiento público los métodos de control y espionaje de la NSA. Acá está el trailer. Se puede ver completa en Youtube (en español), en Prime video o Stremio.
We steal secrets (2013) es un documental que narra la historia por la que Julian Assange fue perseguido durante -casi- 15 años (justo en estos días fue puesto ¡en libertad!). Su adolescencia, la fundación de wikileaks, la filtración del ataque a civiles (entre ellos un periodista de reuters) en Bagdad en 2007 y todo lo que vino después (hasta 2013). Acá está el trailer. Se puede ver completa en Apple tv o Stremio.
8. Conversación continua
¡Hola! soy Martín Sosa, periodista y consultor en comunicación argentino. Tengo 36 años y 10 de experiencia en comunicación política, institucional y digital. Desde hace algún tiempo que vengo pensando en crear un espacio en el cual pueda compartir noticias y análisis en torno a la coyuntura de la comunicación, la tecnología, la cultura y la política y creo que llegó el momento.
Si te interesan estos temas, podés suscribirte para recibirlos en tu mail.
¡Gracias por tu apoyo!