Los científicos que se espantaron con su propio descubrimiento

0
978
Los científicos que se espantaron con su propio descubrimiento
Los científicos que se espantaron con su propio descubrimiento

En 2020, Sean Ekins, el director ejecutivo de Collaborations Pharmaceuticals, una empresa con sede en Raleigh, Carolina del Norte, EE.UU., recibió una invitación para participar en la Conferencia de Convergencia de Spiez.

Habían diseñado algo que está prohibido por la ONU

«Nunca había oído de ella», dijo.

«En realidad, lo que me entusiasmó más que cualquier otra cosa fue la ubicación, porque era en Suiza y se veía hermoso«. Pero la pandemia le cortó las alas; la conferencia fue cancelada.

Ekins y su equipo siguieron dedicados a lo cotidiano: buscar medicamentos para enfermedades raras y desatendidas por las grandes farmacéuticas, que no las consideran rentables.

Leer también [Francia: 406 policías heridos tras protestas por reforma de pensiones]

Sus investigaciones abarcan desde «una enfermedad que acorta la vida de los niños y afecta a alrededor de 100 a nivel mundial» hasta infecciones como la malaria pues «aunque en algunos casos hayan medicamentos, con el tiempo dejan de ser eficaces«.

«No nos va a hacer ricos, pero al menos creo que estamos contribuyendo a la sociedad en general», señaló Ekins.

Sean Ekins
Sean Ekins

Un año más tarde, recibió otra invitación a la conferencia, aunque sin el atractivo del viaje, pues se iba a realizar por Zoom.

Esta vez Ekins tuvo que prestar más atención: se trataba de un encuentro para evaluar las nuevas tendencias en la investigación biológica y química que podrían representar amenazas para la seguridad.

«Estaban interesados en el mal uso de la tecnología, las herramientas científicas, la ciencia en general«.

Les estaban pidiendo que hicieran una presentación, una solicitud que le pareció «muy extraña».

«Me obligó a pensar cómo podíamos hacer un mal uso de lo que hacemos».

Lo que hacen

Para descubrir esas medicinas contra esas enfermedades raras, Collaborations Pharmaceuticals había creado MegaSyn, una plataforma de inteligencia artificial (IA).

Aunque no es algo que puedas comprar, la puedes armar, «como si fuera Lego», explicó Ekins.

«Todos esos pequeños ladrillos» que necesitaban para construirla, los consiguieron en «bases de datos de software de código abierto».

«Luego fuimos a bases de datos de información, para crear modelos de aprendizaje automático que luego conectamos a MegaSyn; eso le permite diseñar moléculas con propiedades particulares».

Es decir, la entrenaron para que hiciera el trabajo de un químico humano a velocidad inhumana. Los medicamentos están compuestos básicamente de moléculas: MegaSyn no sólo busca entre las que ya existen, por si alguna sirve para una enfermedad, sino que puede crear otras nunca antes vistas.

Lee: 

Juana de Arco, ¿bruja, guerrera o santa?

 

Dr. Malvado

En vísperas de la conferencia, Ekins y Fabio Urbina, director asociado, se pusieron en la tarea de averiguar qué sucedería si MegaSyn cayera en las manos equivocadas.

Así es como nació el experimento que llamaron el «Proyecto Dr. Malvado«. Resultó sencillo: al tratar de generar un nuevo fármaco, es imperativo asegurarse de que no sea tóxico.

¿Y si alteraban ese filtro?

«Solamente movimos la dirección de un interruptor del modelo. «En lugar de ‘no tóxico’, le dijimos: ‘tóxico’.

Literalmente fue cuestión de cambiar un 1 y un 0 en el programa. Así de simple». Presionaron «enter» y dejaron a MegaSyn haciendo lo suyo.

Al día siguiente, se encontraron con una lista de decenas de miles de moléculas e hicieron una búsqueda para ver si alguna era conocida. Lo que encontraron los espantó.

Leer también [Bombardeo ruso en Ucrania deja más de 20 muertos, entre ellos tres niños]

VX

«Ese cambio tan sencillo al programa, había tenido un efecto dramático».

Con sólo apretar una tecla, MegaSyn había diseñado el aterrador agente nervioso VX, que está prohibido por la ONU y clasificado como arma de destrucción masiva.

Es una de las sustancias químicas más letales fabricadas jamás, basta con menos de una gota en contacto con la piel para matar a la persona.

Además, confirmaron que MegaSyn «fue capaz de encontrar moléculas precursoras previamente desconocidas, puntos de partida hacia el desarrollo de armas químicas masivamente más potentes«.

Lo más preocupante fue saber que, mientras que el Dr. Malvado era un experimento teórico, otros, con otras intenciones, «podían hacer lo mismo, si es que ya no lo han hecho».

«No necesitas un doctorado, sólo algunos conocimientos de codificación, una computadora portátil básica… todo lo demás está disponible en línea de forma gratuita«, subrayó.

«Si algún químico tuviera esto en sus manos y quisiera convertir esas moléculas en armas, como nadie sabe que existen, esas armas serían imposibles de rastrear y de diagnosticar».

¿Qué hacer?

A pesar de todo, nadie puede frenar el progreso. Plataformas como MegaSyn son tremendamente beneficiosas y Ekins lo sabe mejor que muchos.

Una estrategia para prevenir es «educar a la gente sobre los problemas».

«Ahora que el gobierno está al tanto, hemos sido invitados a hablar sobre el tema en nombre de las agencias gubernamentales.

«En mayo, por ejemplo, iremos a una conferencia en Brasil, a hablar en nombre del Departamento de Estado de EE.UU. con académicos y profesionales de la industria sobre los posibles problemas en torno a la IA generativa», contó.

«Desde que hicimos el Proyecto Dr. Malvado, la IA generativa se ha vuelto mucho más pública, con cosas como ChatGPT y DALL-E.

«Hasta se ha demostrado que las aplicaciones de chat pueden diseñar moléculas.

«La barrera de entrada es hoy en día mucho más baja que hace un año y medio.

«Es imperativo educar a los científicos que no han tenido la misma experiencia que nosotros», insistió.

Algunos expertos consultados por los medios, sin embargo, han insistido que no hay motivo para poner a sonar tantas alarmas. Señalan que identificar nuevas moléculas es apenas el primer paso en un largo camino hacia la producción de un medicamento… o un arma.

Y que la mayoría de esos caminos conducen al fracaso. De un lado y otro del debate, surge a menudo la misma analogía.