OPINIÓN · 4 ABRIL, 2022 05:42

El candente debate por el doble uso de la Inteligencia Artificial

Ver más de

Paulino Betancourt Figueroa | @p_betanco

¿Cómo valoras esta información?

2
QUÉ CHÉVERE
1
QUÉ INDIGNANTE
QUÉ CHIMBO

El rápido progreso y desarrollo de la inteligencia artificial (IA) está generando preocupaciones sobre sus aplicaciones de “doble uso” y los riesgos en la seguridad mundial. Desde los sistemas de armas autónomas hasta la tecnología de reconocimiento facial y los algoritmos de toma de decisiones, cada aplicación emergente de inteligencia artificial, como todo nuevo conocimiento, trae consigo cosas buenas y malas. Es esta naturaleza dual la que está generando enormes riesgos de seguridad, no solo para las personas y entidades en todas las naciones, sino también para el futuro de la humanidad.

La realidad es que los nuevos desarrollos de la IA podrían usarse tanto para fines beneficiosos como dañinos, cualquier algoritmo que pueda proporcionar aplicaciones comerciales importantes, también podría conducir a la producción de armas de destrucción masiva sin precedentes. Como resultado, los temores sobre la automatización de los procesos basados en inteligencia artificial están creciendo.

La semana pasada se dio un candente debate en los círculos científicos, debido a un artículo publicado en Nature Machine Intelligence. El artículo exploró qué sucedería si las herramientas de inteligencia artificial para el descubrimiento de fármacos se emplean para encontrar y diseñar toxinas letales. Como era de esperar, los resultados fueron inmediatos y sombríos. En menos de 6 horas de trabajo, el modelo generó 40.000 moléculas que se ubicaron dentro de las especificaciones de búsqueda dadas al software. En el proceso, la IA no solo ubicó al agente nervioso VX, sino también otros compuestos desarrollados por los ejércitos en la guerra química.

El momento de la publicación no podría ser peor: así como los temores de una guerra química se han intensificado con la invasión rusa a Ucrania, la idea de que podría haber miles de toxinas peores que VX y Novichok esperando a ser descubiertas con IA, asusta. La realidad es que esto no es ciencia ficción. Suponga que descubren una forma de enseñar a un sistema de inteligencia artificial a desarrollar armas químicas terroríficas. ¿Se debería publicar un artículo que describa cómo lo hizo? ¿O guardar esa información sabiendo que podría ser mal utilizada? Más aun, ¿Cuántos habrán considerado las posibilidades de su uso indebido?

Si bien las implicaciones del artículo son realmente aterradoras, no sorprenden. De hecho, las armas biológicas (y, en mucha menor medida, la guerra química) se han considerado la principal amenaza para la seguridad mundial durante más de dos décadas, siendo mucho mayor que la proliferación nuclear, que generalmente captura la atención de la gente. Los materiales y herramientas necesarios para producir armas biológicas son más accesibles y más baratos que los requeridos para las armas nucleares.

Una multitud de instituciones aseguran que existe un sistema casi cerrado para monitorear el movimiento de materiales y equipos empleados en la fabricación de armas nucleares, brindando a las agencias de inteligencia acceso rápido a información sobre los riesgos potenciales de proliferación de estas armas. Pero no hay nada similar en biología. Tal régimen no es posible para los laboratorios de investigación biológica, donde los reactivos y el equipo de laboratorio se fabrican en grandes cantidades y están ampliamente disponibles.

Ha habido una gran preocupación de que la biología sintética y, en particular, el desarrollo de herramientas de edición de ADN como CRISPR podrían conducir a un aumento exponencial de las amenazas de armas biológicas. Después de todo, tiene sentido. Su precisión, junto con un mayor uso, presagian un rápido aumento en la capacidad de los “malos” para inventar nuevos patógenos horribles que puedan afligir al mundo.

Los autores enfatizan que los científicos deben estar alertas a las implicaciones de doble uso de sus descubrimientos. “No ha habido previamente una discusión significativa en la comunidad científica sobre esta preocupación de doble uso en torno a la aplicación de IA para el diseño de nuevas moléculas, al menos no públicamente”, escriben. Por ejemplo, los virus y patógenos descubiertos no deberían publicarse hasta que no se tenga precisado el mecanismo de contención, en caso de su mal uso.

Un buen uso de estas aplicaciones de IA se evidenció con el desarrollo de las vacunas de vectores de adenovirus, como la vacuna Johnson & Johnson para la Covid-19. Esta se diseñó tomando un virus del resfriado común, editándolo para que no pudiera enfermar al huésped y cambiando un poco el código genético del virus para reemplazarlo con la proteína de pico de la Covid-19, de manera que el sistema inmunológico aprendiera a reconocerlo. Ese es un trabajo increíblemente valioso y las vacunas desarrolladas con estas técnicas han salvado vidas. Pero esta tecnología también podría utilizarse para “camuflar” patógenos y hacerlos indetectables por el sistema inmunológico. Por ello los expertos advierten sobre los riesgos de doble uso: esta investigación también podría ser útil para los programas de armas biológicas.

La investigación de inteligencia artificial tiene cada vez más sus propias preocupaciones de uso dual. Cualquier sistema que sea lo suficientemente poderoso para hacer las cosas que se quieren como inventar nuevos medicamentos, planificar procesos de fabricación o diseñar nuevas máquinas, lo es también para inventar toxinas mortales, planificar procesos de fabricación con efectos secundarios catastróficos o diseñar máquinas que tengan fallas internas que ni siquiera entendamos.

Los investigadores indicaron que los expertos en seguridad les aconsejaron que ocultaran algunos detalles de cómo lograron exactamente sus resultados, para hacer las cosas un poco más difíciles a cualquier “tipo malo” que busque seguir sus pasos. El equipo que publicó el reciente artículo reflexionó mucho sobre estas preocupaciones relacionadas con el “riesgo de la información”, reflexión que toda la comunidad científica debería considerar.

***

Las opiniones expresadas en esta sección son de entera responsabilidad de sus autores.

Del mismo autor: Los edulcorantes vuelven a ser noticia

 

ESPECIALES · 25 SEPTIEMBRE, 2021

Qué pasa en la frontera sur de Estados Unidos

Texto por Ivan Reyes | @IvanEReyes

ESPECIALES · 4 SEPTIEMBRE, 2021

Salud sexual en Venezuela: guía para jóvenes

Texto por Albany Andara Meza | @AlbanyAndara

ESPECIALES · 1 JULIO, 2021

Venezolanos en el Río Grande

Texto por Luz Mely Reyes | @LuzMelyReyes

ESPECIALES · 29 JUNIO, 2021

#PandemiaEnVenezuela

Texto por Efecto Cocuyo | @efectococuyo

ESPECIALES · 15 MARZO, 2021

#UnAñoDePandemia

Texto por Efecto Cocuyo | @efectococuyo

ESPECIALES · 20 FEBRERO, 2021

Explosión Monagas

Texto por Ronny Rodríguez Rosas | @ronnyrodriguez

ESPECIALES · 4 FEBRERO, 2021

Cáncer en Venezuela

Texto por Mariana Souquett Gil | @nanasouquett

ESPECIALES · 7 NOVIEMBRE, 2020

INVESTIGACIÓN | Finanzas dispersas: el rompecabezas del Gobierno interino

Texto por Equipo de Investigación (*)

ESPECIALES · 5 JULIO, 2020

Civiles que hicieron historia

Texto por Efecto Cocuyo

ESPECIALES · 14 ENERO, 2020

INVESTIGACIÓN | Metro Dirección Colapso

Texto por María Victoria Fermín Kancev | @vickyfermin

ESPECIALES · 17 DICIEMBRE, 2019

INVESTIGACIÓN | 102 toneladas de droga esfumadas en manos del Estado

Texto por Cristina González | @twdecristina

ESPECIALES · 16 DICIEMBRE, 2019

INVESTIGACIÓN | Vargas: Tragedia y olvido

Texto por Efecto Cocuyo

ESPECIALES · 22 OCTUBRE, 2019

INVESTIGACIÓN | Infancia de luto

Texto por Efecto Cocuyo | @efectococuyo

ESPECIALES · 24 ENERO, 2019

Parir y nacer en la Venezuela del hambre

Texto por Efecto Cocuyo | @efectococuyo

ESPECIALES · 24 ENERO, 2019

Misses y santos

Texto por Ana Griffin y Reynaldo Mozo Zambrano

ESPECIALES · 15 JULIO, 2020

INVESTIGACIÓN | Arco Minero del Orinoco: crimen, corrupción y cianuro

Texto por Julett Pineda y Edgar López

ESPECIALES · 30 MAYO, 2019

El amargo cacao venezolano: entre el delito y el asedio oficial

Texto por Vanessa Moreno Losada | @MoreLosada24

OPINIÓN · 28 MAYO, 2022 05:45

Sexo entre adolescentes en estos tiempos

La escena en el noticiero irrumpe con una algarabía. Se oyen vítores, aplausos y risas. Se capta poco porque la cámara pasa muy rápido pero se logran ver piernas de hombres, mujeres y niños saltando. Parece la celebración de un triunfo deportivo. Un hombre lleva a un adolescente sobre sus hombros pero no es un […]

OPINIÓN · 27 MAYO, 2022 05:45

Gobierno al mercado bursátil

El anuncio de que el gobierno venezolano sacará a bolsa hasta el 10% de algunas empresas estatales ha sido una de las noticias menos comentadas y reseñadas en la prensa. De acuerdo con el presidente Nicolás Maduro, la cotización en la bolsa comenzaría el 16 de mayo. El listado sería: Cantv, Movilnet, Petroquímica de Venezuela […]

OPINIÓN · 26 MAYO, 2022 05:37

Cuando el suicidio se asoma

El suicidio de adolescentes se ha convertido en un problema de salud pública, según alerta la Organización Panamericana de la Salud en su último informe en 2021. Profesionales de la salud mental han dado cuenta del aumento de suicidios, casos que lo han intentado fallidamente o la ideación suicida durante o después del confinamiento y […]

OPINIÓN · 25 MAYO, 2022 05:03

Misoginia moderna

El rechazo, odio o prejuicio hacia las mujeres producto de la creencia de que la mujer es el sexo débil e inferior con respecto al sexo masculino, no es cosa del pasado. A veces creemos que tal manera de entender el ser mujer, era parte de los dogmas prevalecientes durante la Grecia antigua o la […]