Suleyman no necesita currículum para hablar de IA.

Fundó DeepMind, trabajó en Google, pasó por Microsoft. No escribe desde afuera. Estuvo en el núcleo mismo, cuando todo era todavía un experimento técnico.

Y ese pasado se nota. Su libro The Coming Wave no tiene el tono especulativo de quien mira desde lejos, tiene el de alguien que convivió demasiado cerca con algo que, con el tiempo, dejó de parecerle del todo manejable.

La premisa central del libro es la siguiente. Las tecnologías como la inteligencia artificial y la biotecnología están creciendo con una rapidez que los marcos institucionales no pueden seguir.

No hay suficiente regulación, no hay mecanismos globales de control, no hay frenos visibles. Suleyman no duda en eso: la expansión es inevitable. Lo que sí cuestiona es nuestra respuesta.

Si no empezamos a diseñar sistemas de mitigación ahora, las consecuencias podrían estar muy por encima de lo que cualquier análisis actual anticipa.

Hasta ahí, todo parece razonable. El diagnóstico está bien armado, el tono es firme pero sin caer en el pánico. Pero hay un punto donde el texto se queda corto, principalmente en político. ¿Y ahora qué?. Suleyman transmite demasiada preocupación, pero no transmite urgencia.

Habla de regulación, sí. Menciona acuerdos internacionales, también. Pero sugiere más de lo que afirma. En este escenario que está jugando contra el tiempo, ese matiz no es menor.

Desde mi experiencia, eso no alcanza. Lo he visto antes: diagnósticos bien armados que no se traducen en acción concreta. Si ya aceptamos que frenar el avance no es viable, lo mínimo es construir sistemas de supervisión y coordinación que actúen desde ya.

La innovación va a seguir su curso. Lo urgente es actuar antes de que el sistema pierda estabilidad. No hay tiempo para discusiones que se prolonguen por años, porque esto se mueve cada mes.

Hay muchas empresas que están trabajando en un contexto donde se desarrollan y despliegan modelos de lenguaje. Y ven situaciones donde decisiones técnicas se vuelven políticas sin que nadie lo note.

¿Quién define qué datos entran al entrenamiento? ¿Cómo se mide el impacto colateral de un sistema de recomendación? Estas preguntas no son académicas. Aparecen en la práctica misma. Si no hay una guía, una norma o al menos un marco de discusión, cada equipo resuelve como puede. Eso no tiene nada que ver con coordinación. Son equipos resolviendo lo que pueden, sin referencias comunes.

Suleyman acierta en el análisis, pero no va tan lejos como debería en las propuestas. Y eso es frustrante. Porque si alguien como él, que estuvo en el corazón del desarrollo no se anima a decir qué se necesita hacer, ¿quién lo va a hacer?

Hay algo más que me parece importante. Suleyman adopta una visión algo cerrada, donde todo parece inevitable. Y es cierto que muchos procesos ya están en marcha.

Pero hay formas distintas de enfrentarlos. Nick Bostrom, por ejemplo, comparte una mirada pesimista, pero propone marcos más detallados para alinear los sistemas con objetivos humanos. Harari se enfoca en el impacto social, más que en lo técnico.

Eric Drexler advirtió hace décadas que el avance acelerado de ciertas tecnologías podría generar riesgos graves si su desarrollo y uso no se acompañan de mecanismos de control (disponible aquí).

¿Con quién me siento más cerca? Con ninguno del todo. Pero hay algo que sí tengo claro: quedarse mirando también tiene efectos y suelen ser los menos controlables. No podemos observar este fenómeno como si fuéramos espectadores.

Las grandes tecnológicas están definiendo las condiciones del futuro mientras los sistemas públicos apenas logran entender lo que ya pasó.

Esto no es una abstracción. En mi trabajo cotidiano veo cómo decisiones que parecen menores tienen efectos amplios y a veces invisibles, sobre la forma en que las personas interactúan con la tecnología.

Y no hay nadie del otro lado con una mirada integral, preguntando si eso está bien, si tiene sentido o si conviene. El sistema simplemente sigue la ola.

Suleyman reconoce que las instituciones son lentas. Tiene razón. Pero no basta con notar esa lentitud. Hay que decir qué se hace mientras tanto.

Mi propuesta sería un sistema global de licencias obligatorias para modelos de gran escala, con auditorías externas que verifiquen sus procesos de entrenamiento diseño y despliegue. No es una solución mágica, pero sí una forma de mostrar que hay voluntad política y técnica de tomar esto en serio.

El cierre del libro deja la alarma sonando, pero sin una idea clara de qué hacer con eso. Este tipo de textos deberían abrir discusiones, no cerrarlas con advertencias formales.

Que alguien como Suleyman reconozca el riesgo es un avance. Pero si no se anima a plantear el qué-hacer concreto, alguien más tendrá que hacerlo.

¿Vale la pena leer The Coming Wave? Sí, sobre todo si te interesa la tecnología, la política pública o el diseño institucional.

No te da respuestas finales. Pero plantea preguntas que ya deberían estar sobre la mesa. Si la conclusión parece ser que el futuro será caótico, entonces todavía no estás pensando lo suficiente.

Por lo que he visto, algo se puede hacer. No todo. Pero sí lo suficiente como para cambiar la dirección. Y eso empieza por dejar de observar y empezar a intervenir.

A continuación, te presento algunas ideas para que saques tus propias conclusiones:

La contención de la tecnología es prácticamente imposible

Suleyman sostiene que, una vez que una tecnología se descubre, detener su expansión es casi imposible. La razón principal es que las fuerzas económicas, políticas y sociales impulsan la innovación de manera imparable.

Las empresas quieren maximizar ganancias, los gobiernos buscan ventajas estratégicas y la gente, en general, desea acceso a mejoras tecnológicas.

Por su puesto que el claro ejemplo relacionado con el libro es la inteligencia artificial.

A pesar de los debates sobre su regulación, los avances en modelos como GPT han sido constantes en los últimos meses.

Incluso si un país impusiera restricciones estrictas, otros continuarían investigando y desarrollando nuevas aplicaciones. Este mismo patrón se ha repetido con la energía nuclear, armamento militar y la biotecnología.

En la historia, hubo intentos de detener tecnologías. Durante siglos, la Iglesia intentó frenar la imprenta porque amenazaba su control sobre la información.

Sin embargo, los beneficios fueron tan grandes que la tecnología se expandió rápidamente. Lo mismo ocurrió con el cifrado digital; los gobiernos trataron de limitar su acceso, pero hoy en día es una parte esencial de la seguridad en internet.

El problema de la contención no es solo político o económico, sino técnico.

La IA por ejemplo, se está descentralizando. No es necesario un laboratorio de élite para entrenar modelos avanzados; muchas herramientas ya están en la nube y cualquier desarrollador con suficientes recursos puede construir modelos similares a los de las grandes empresas tecnológicas.

Si la contención es imposible, ¿qué se puede hacer?…. Suleyman argumenta que la mejor opción es diseñar mecanismos de mitigación. En lugar de tratar de frenar el progreso, la clave es asegurarse de que las nuevas tecnologías sean manejadas de manera responsable.

La inteligencia artificial y la biotecnología cambiarán la geopolítica mundial

La tecnología ha sido un factor decisivo en la historia de la humanidad. La Revolución Industrial le dio ventaja a las potencias europeas, la energía nuclear transformó la Guerra Fría y ahora, la inteligencia artificial y la biotecnología están reconfigurando el equilibrio global.

Suleyman explica que estas tecnologías permiten a los países aumentar su poder de formas antes inimaginables.

Un estado que domine la IA tendrá ventajas en espionaje, automatización militar, propaganda digital y control de su población.

La biotecnología por su parte, ofrece la posibilidad de mejorar la salud de la población, diseñar cultivos más resistentes y en el extremo más peligroso, desarrollar armas biológicas avanzadas.

Un ejemplo claro es la competencia entre China y Estados Unidos en IA. Ambos países están invirtiendo miles de millones en desarrollar sistemas avanzados. China ha usado IA para vigilancia masiva y control social, mientras que EE.UU. ha apostado por la innovación en el sector privado.

La biotecnología también es un campo estratégico. CRISPR ha revolucionado la edición genética, lo que podría llevar a mejoras en la salud humana, pero también plantea dilemas éticos y de seguridad. ¿Qué pasaría si un país usara estas tecnologías para diseñar soldados más resistentes o para manipular virus con fines militares?

El cambio en la geopolítica será tan radical que los estados deberán repensar sus estrategias de seguridad y alianzas.

Suleyman advierte que la carrera tecnológica podría generar conflictos, como ocurrió con la proliferación nuclear.

Las tecnologías avanzadas pueden debilitar a los estados nacionales

Las instituciones gubernamentales han sido clave en la estabilidad social.

Sin embargo, la llegada de la IA y la biotecnología podría alterar el equilibrio de poder entre gobiernos, empresas y ciudadanos.

Suleyman argumenta que las grandes corporaciones tecnológicas están acumulando más poder del que los estados pueden controlar.

Google, Meta, Microsoft y OpenAI tienen más capacidad de innovación que muchos países. Sus decisiones afectan la economía global, la privacidad de millones de personas y el acceso a la información.

Un caso emblemático es el de las redes sociales y la política. Gobiernos han perdido influencia sobre la opinión pública porque los algoritmos de empresas privadas determinan qué información circula.

La IA refuerza este problema al permitir la creación de contenido automatizado, manipulación de imágenes y campañas de desinformación a gran escala.

La biotecnología también plantea desafíos. Empresas como Moderna y Pfizer desarrollaron vacunas en tiempo récord, lo que demuestra que la innovación en salud ya no está exclusivamente en manos de los estados.

En el futuro, podríamos ver compañías ofreciendo tratamientos personalizados a los que solo unos pocos tendrían acceso, aumentando la desigualdad.

Si los estados no regulan estas tecnologías con rapidez, perderán aún más control sobre áreas esenciales como la seguridad y la economía.

Suleyman sugiere que los gobiernos deben fortalecer su capacidad para supervisar a las empresas tecnológicas y garantizar que el desarrollo de IA y biotecnología se alinee con el interés público.

La proliferación de IA y biotecnología es inevitable

Cuando una tecnología se vuelve accesible y rentable, su expansión es imparable. Esto ya ocurrió con la electricidad, los automóviles y los teléfonos móviles. Lo mismo sucederá con la IA y la biotecnología.

Suleyman explica que a medida que la IA se vuelve más eficiente y barata, más empresas y personas la utilizarán.

En poco tiempo, herramientas avanzadas estarán disponibles para cualquier usuario, lo que aumentará tanto sus beneficios como sus riesgos.

Un ejemplo de esto es la explosión de los generadores de imágenes por IA. Antes, solo los expertos podían manipular imágenes de manera realista.

Hoy, cualquier persona con acceso a internet puede usar herramientas como Midjourney o DALL·E para crear imágenes hiperrealistas en segundos.

En biotecnología ocurre lo mismo. Antes, la modificación genética era un proceso costoso y limitado a laboratorios especializados. Ahora, la tecnología CRISPR ha democratizado la edición genética, lo que abre la puerta a nuevos tratamientos médicos, pero también a posibles usos peligrosos.

El reto es que la velocidad de proliferación supera la capacidad de los gobiernos para regular estas tecnologías.

Si la IA y la biotecnología están en todas partes, ¿cómo se pueden controlar?

Suleyman argumenta que la única solución viable es diseñar sistemas de monitoreo y seguridad desde el inicio, en lugar de intentar frenar su avance.

Las grandes empresas tecnológicas acumulan un poder sin precedentes

Las corporaciones tecnológicas no solo están creando herramientas innovadoras, sino que también están concentrando un poder sin precedentes sobre la economía, la información y la sociedad.

Suleyman argumenta que compañías como Google, Microsoft, Amazon y OpenAI están alcanzando niveles de influencia que superan incluso a muchos estados.

En el caso de la inteligencia artificial, las grandes empresas están marcando la dirección de la tecnología sin una supervisión real. Microsoft ha invertido miles de millones en OpenAI, asegurando su dominio sobre modelos avanzados de lenguaje.

Google y Amazon están compitiendo para desarrollar IA cada vez más poderosa, mientras que empresas como Nvidia controlan la fabricación de los chips esenciales para estos avances.

Este poder también se extiende a la biotecnología. Empresas privadas están liderando el desarrollo de tratamientos genéticos, edición de ADN y biocomputación.

Moderna y Pfizer demostraron que la industria privada puede responder más rápido que los gobiernos en crisis sanitarias. ¿Quién debería tomar decisiones sobre la salud pública en el futuro?

El problema es que las regulaciones no han evolucionado al mismo ritmo. A diferencia de industrias como la farmacéutica o la financiera, la tecnología avanza sin restricciones claras.

Esto permite que las empresas actúen según sus propios intereses sin rendir cuentas a la sociedad.

Suleyman advierte que si no se establecen mecanismos de control, el poder de estas corporaciones seguirá creciendo sin límites.

Las decisiones sobre la IA y la biotecnología no pueden quedar en manos de un pequeño grupo de ejecutivos.

La regulación tradicional no es suficiente para contener la nueva ola tecnológica

Las leyes y normativas actuales no están diseñadas para manejar tecnologías avanzadas como la IA y la biotecnología. Los sistemas legales fueron creados para un mundo donde los cambios eran graduales, pero hoy la innovación avanza a una velocidad imparable.

Suleyman explica que los intentos de regulación han sido ineficaces porque las instituciones no comprenden del todo el impacto de estas tecnologías.

Un claro ejemplo es la regulación de la inteligencia artificial en Europa: aunque ha habido avances, la burocracia y la falta de expertos han ralentizado las decisiones clave.

Además, las empresas tecnológicas tienen más recursos que los gobiernos para influir en la regulación.

Las grandes tecnológicas gastan millones en lobby para asegurarse de que las regulaciones sean favorables a sus intereses. Esto genera un problema de desigualdad de poder entre el sector privado y las instituciones públicas.

Otro desafío es que la tecnología no respeta fronteras. Un país puede imponer restricciones a la IA, pero si otro decide desarrollarla sin límites, la ventaja competitiva hará que el primero tenga que ceder.

Esto genera un dilema global, si ningún país quiere quedarse atrás, nadie detendrá el avance tecnológico.

Suleyman propone que la solución no es simplemente más regulación, sino nuevos modelos de gobernanza adaptados a la era digital.

Necesitamos mecanismos de supervisión ágiles, colaboraciones internacionales y una mayor inversión en educación tecnológica dentro de los gobiernos.

La automatización generará nuevas desigualdades económicas

A medida que la IA y la automatización avanzan, millones de empleos tradicionales desaparecerán.

Suleyman advierte que aunque la tecnología puede mejorar la productividad y reducir costos, también puede aumentar la desigualdad económica.

Los trabajos repetitivos y manuales serán los primeros en ser reemplazados por máquinas. Sin embargo, la automatización también afectará a empleos altamente calificados, como abogados, médicos y analistas financieros.

La IA es capaz de redactar contratos legales, diagnosticar enfermedades y gestionar inversiones de manera más eficiente que los humanos.

Esto podría crear una nueva división en la sociedad: quienes controlan la tecnología se beneficiarán enormemente, mientras que aquellos que dependían de trabajos automatizables quedarán en una situación vulnerable.

La brecha entre los que tienen habilidades tecnológicas y los que no se ampliará drásticamente.

Suleyman argumenta que la única forma de mitigar este impacto es invirtiendo en educación y capacitación.

Si las personas no se adaptan a la nueva era tecnológica, la desigualdad económica se volverá aún más extrema.

El acceso masivo a biotecnología podría crear amenazas globales imprevistas

La biotecnología avanza, pero su acceso masivo podría traer riesgos imprevistos.

Suleyman advierte que, si herramientas como CRISPR se vuelven accesibles para cualquier persona, podríamos enfrentar peligros biológicos demasiados peligrosos.

Un caso preocupante es la posibilidad de que grupos no regulados experimenten con modificación genética.

Actualmente, un laboratorio con recursos limitados ya puede realizar alteraciones genéticas en organismos vivos. En el futuro, esto podría usarse para fines peligrosos, como la creación de virus sintéticos.

El mayor desafío es que no hay una estructura de control global para la biotecnología.

Mientras que las armas nucleares están fuertemente reguladas, la biología sintética no tiene restricciones similares. Esto significa que cualquier persona con el conocimiento y las herramientas adecuadas podría alterar organismos vivos sin supervisión.

Suleyman plantea que es urgente establecer mecanismos de monitoreo internacional para evitar que la biotecnología se convierta en una amenaza incontrolable.

La ciberseguridad será más desafiante con IA avanzada

La IA está transformando la ciberseguridad, tanto para bien como para mal. Por un lado, las IA pueden detectar amenazas con gran precisión. Pero por otro lado, también están permitiendo que los ataques sean más sofisticados, automáticos y difíciles de rastrear.

Suleyman advierte que la proliferación de IA avanzada en ciberseguridad aumentará el número de actores capaces de realizar ataques devastadores.

Antes, lanzar un ciberataque requería conocimientos avanzados en hacking y acceso a herramientas especializadas. Ahora, con la IA, incluso personas sin experiencia podrían orquestar ataques masivos utilizando modelos generativos.

La IA también permite la creación de malware más difícil de detectar, capaz de cambiar su código en tiempo real para evadir los sistemas de seguridad tradicionales.

Los ataques respaldados por IA no solo afectan empresas, sino también gobiernos y ciudadanos comunes.

Sistemas de reconocimiento facial pueden ser hackeados, bases de datos gubernamentales pueden ser vulneradas y la desinformación puede propagarse con gran velocidad.

Ante esto, Suleyman argumenta que la única defensa viable es usar IA contra IA.

Los sistemas de seguridad deben evolucionar al mismo ritmo que las amenazas, integrando modelos capaces de detectar y neutralizar ataques en tiempo real.

Necesitamos nuevas formas de gobernanza para manejar estos cambios

A medida que la IA y la biotecnología reconfiguran nuestro planeta, las estructuras políticas y económicas tradicionales ya no son suficientes para gestionarlas.

Suleyman argumenta que se necesita un nuevo marco de gobernanza global para evitar que estas tecnologías se descontrolen.

El problema es que las instituciones actuales fueron diseñadas para un mundo donde el cambio tecnológico era gradual.

Naciones Unidas, la Unión Europea y los gobiernos nacionales funcionan con estructuras burocráticas que no pueden responder con la rapidez que exige la revolución tecnológica.

Un ejemplo claro es el caso de la regulación de la IA. Mientras que OpenAI, Google y Microsoft lanzan modelos cada vez más avanzados, los gobiernos aún están debatiendo cómo regularlos.

Para cuando las leyes entran en vigor, la tecnología ya ha evolucionado y las regulaciones se vuelven obsoletas.

Suleyman sugiere que la única manera de manejar estos cambios es con nuevas instituciones capaces de actuar rápidamente.

Esto podría incluir agencias internacionales especializadas en IA y biotecnología, que trabajen en coordinación con los gobiernos y las empresas tecnológicas para establecer reglas claras.

También plantea que la gobernanza debe ser flexible y basada en principios éticos sólidos. Prohibir o limitar la tecnología no basta, necesitamos formas claras de usarla sin generar nuevos riesgos.