El 10 de septiembre, Anthropic dijo que había bloqueado cuentas que usaban su inteligencia artificial para trabajar con patógenos peligrosos. En una ventana de 30 días, su equipo de seguridad marcó unos 35 intentos de esquivar los controles. Entre los casos que la empresa describió: gripe aviar, virus de la familia de la viruela, toxinas de venenos.
Hay uno en específico: alguien le pidió al modelo que redactara una propuesta de investigación para hacer el chikungunya, el virus que transmite el mosquito, mucho más transmisible y capaz de esquivar al sistema inmune. Varias de esas consultas parecían venir de laboratorios financiados por gobiernos.
Lo que dicen los que llevan 20 años en esto
Drew Endy, biólogo sintético de la Universidad de Stanford y coautor de un informe de bioseguridad de la Institución Hoover dijo que “el impacto neto sobre nuestro riesgo de bioseguridad ahora mismo me parece modesto”.
La razón es aburrida y por eso casi nadie la cuenta. Un modelo de lenguaje se entrena con textos, recupera en segundos lo que los científicos ya publicaron y conecta hallazgos que quedaron sueltos. Ahí se acaba, no fabrica nada.
Un arma biológica es un virus, una bacteria, un hongo o una toxina soltada a propósito contra gente. Para llegar de una idea a cualquiera de esas cosas hace falta material genético, y ese material se encarga por correo a empresas que lo fabrican a la medida. Es rutina: así se hacen vacunas y medicinas.
El punto donde alguien debería mirar
Revisar un pedido de ADN significa comparar lo que alguien encargó contra una lista de secuencias peligrosas, y no mandarlo si coincide. Es el único punto de la cadena donde una orden sospechosa se puede parar antes de que salga del edificio.
En 2024, Estados Unidos condicionó el dinero público a comprar ADN solo a empresas que hicieran esa revisión. El 5 de mayo de 2025, una orden ejecutiva anuló esa regla por apoyarse en el autorreporte de las compañías y dio noventa días para escribir una nueva. El plazo venció el 3 de agosto de 2025.
Pero, 13 meses después sigue sin haber regla. Cada empresa decide sola si revisa.
Qué pasa si nadie revisa
Tres cosas, ninguna hipotética. Un pedido peligroso puede salir sin que nadie lo mire. Un gobierno puede trabajar en esto sin que se note, que es justo lo que sugieren las consultas que Anthropic bloqueó y si aparece un brote, nadie puede establecer si salió de un animal o de un laboratorio. Sin saber de dónde viene, tampoco se sabe cómo pararlo.
Endy propone dos cosas: que vuelva la revisión obligatoria de los pedidos, y sensores de aire en hospitales y escuelas que avisen si hay un virus en el espacio donde uno está, venga de donde venga.
El otro lado de la misma máquina
En agosto, científicos de Stanford y del Arc Institute publicaron en Science que un modelo llamado Evo 2, entrenado con genomas en lugar de textos, había escrito cientos de miles de genomas candidatos. Cerca de 300 se fabricaron en laboratorio y 16 funcionaron. Ninguno de esos 16 había existido antes en la naturaleza.
Ninguno ataca a personas, atacan bacterias, y apuntan justo a las infecciones que los antibióticos ya no curan: las que matan a más de 35,000 personas al año en Estados Unidos, según los CDC, y a 1.27 millones en el mundo, según The Lancet.
Sus creadores entrenaron Evo 2 a propósito sin virus que infecten a humanos. El modelo es abierto y gratuito.
La misma herramienta diseña el virus que te cura y el que te enferma, y nada dentro de ella decide cuál. Lo que decide es quién mira el pedido antes de que salga, y esa revisión dejó de ser obligatoria hace trece meses.