La alerta del jefe de Inteligencia Artificial del Pentágono: "Estamos perdiendo la batalla"

La llegada de la Inteligencia Artificial (IA) ha revolucionado el mundo de la tecnología. Numerosos expertos han destacado sus beneficios en ámbitos como el trabajo, pero otros han alertado sus riesgos y posibles consecuencias. Es el caso del jefe de IA del Pentágono, Craig Martell, quien ha expresado "estar muerto de miedo" por el uso que las personas puedan darle.

Martell explicó en unas declaraciones durante una conferencia en el evento TechNetCyber que "mi temor es que confiemos demasiado en estas herramientas sin que los proveedores de ese servicio incorporen las garantías adecuadas y la capacidad para que podamos validar" la información que recibimos.

"Mi temor sobre usar esta tecnología es que confiemos demasiado en ella"

El experto hizo referencia a varios ejemplos como la simulación de avatares, la clonación de voz o la calidad similar a la fotográfica en las imágenes que han sido generadas por IA. "Esta información desencadena una respuesta psicológica que lleva a pensar que esto tiene autoridad", apuntó. Seguidamente, recordó que el contenido que producen en ocasiones contiene errores y que carece de capacidad humana para comprender el contexto.

"Realmente necesitamos herramientas para poder detectar este tipo de comportamientos de la Inteligencia Artificial. Lamentablemente, todavía no contamos con ellas y estamos perdiendo la batalla", afirmó.

"Si se le pregunta a ChatGPT '¿Puedo confiar en tus respuestas?', contestará con un rotundo 'no'", explica. Aunque aclara que ChatGPT es una herramienta "preparado para expresarse con fluidez" y que los usuarios deben verificar la información que se les brinda.

"Entonces, mi temor sobre usar esta tecnología, a diferencia de los temores de que nuestros adversarios lo usen, es que confiemos demasiado en ella, sin que los proveedores del servicio construyan las garantías adecuadas y la capacidad para que nosotros lo validemos", concluyó.

Desarrollos tecnológicos en Estados Unidos

El jefe de IA del Pentágono explicó que se avanza en el desarrollo del proyecto JADC2, cuyo propósito es desarrollar un enfoque de comando y control conjunto para todas las fuerzas militares. La iniciativa busca mejorar la toma de decisiones en el campo de batalla y enfrentar los avances militares de China y Rusia, consideradas amenazas para Estados Unidos.

El proyecto es adelantado por la Oficina de Inteligencia Artificial y Digital (CDAO), que lidera los Experimentos Globales de Dominio de la Información (GIDE). Según explicó Martell, se trata de una plataforma que hará conectar los sistemas de todas las ramas de esta institución y compartir los datos que recopila su tecnología.

¿Qué es ChatGPT?

ChatGPTse trata de un sistema de chat con IA. Esta nueva tecnología es capaz de responder a cualquier cosa que le pidas, pues está entrenada para mantener conversaciones.

Es un sistema de chat basado en el modelo de lenguaje por Inteligencia Artificial GPT-3, desarrollado por la empresa OpenAI. Sus algoritmos son capaces de entender qué le estás preguntando y responderte de forma coherente.

Esta nueva herramienta puede elaborar textos con un número máximo de caracteres o palabras explicando sucesos o personajes. También puede explicarte un concepto, entre otras cosas. E incluso se le puede pedir líneas de código, que escriba poemas, chistes o canciones.