Científicos usaron inteligencia artificial para modificar toxinas digitales, logrando que el software que regula la compra de ADN sintético peligroso no detectara su potencial dañino
Un equipo de Microsoft, dirigido por Eric Horvitz, descubrió una vulnerabilidad significativa en los sistemas de bioseguridad global diseñados para prevenir el uso indebido de material genético. El hallazgo, publicado en la revista Science, demuestra que algoritmos de IA generativa pueden ser utilizados para crear digitalmente secuencias de proteínas nocivas que, sin embargo, logran evadir los filtros de software utilizados por las empresas que venden ADN sintético.
Contexto del riesgo y la metodología
Las empresas que sintetizan ADN verifican los pedidos comparando las secuencias solicitadas con bases de datos de toxinas conocidas. Los investigadores de Microsoft emplearon su sistema EvoDiff para un experimento de «red teaming»: rediseñaron digitalmente toxinas como la ricina o los priones para que su estructura no activara las alertas automatizadas, sin perder su potencial peligroso.
- Alerta y Corrección: Microsoft informó previamente al gobierno de Estados Unidos y a los fabricantes de software sobre el hallazgo. Aunque ya se han aplicado correcciones, coautores como Adam Clore advierten que el parche no cubre todas las vulnerabilidades y que la tecnología sigue evolucionando, siendo «solo el comienzo de una nueva etapa de pruebas».
- Implicaciones: Expertos como Dean Ball (Foundation for American Innovation) consideran que el caso subraya la urgencia de mejorar los sistemas de control del ADN sintético, que es una línea crítica de defensa. Otros especialistas proponen integrar la bioseguridad dentro de los propios modelos de IA para limitar su generación de contenido dañino.
Microsoft decidió no compartir partes del código del ataque para evitar que otros puedan replicar la vulnerabilidad. La investigación refuerza la noción de que el control de la síntesis de genes es crucial, pero la IA plantea desafíos de bioseguridad sin precedentes.
La información y los datos provienen de ROBOTITUS, con base en el estudio publicado en la revista Science y declaraciones de Eric Horvitz, Adam Clore y Michael Cohen
Descubre más desde NotaTrasNota
Suscríbete y recibe las últimas entradas en tu correo electrónico.
