Google despliega agentes de IA Gemini en las redes no clasificadas del Pentágono

Google está introduciendo agentes de IA en el Pentágono para una fuerza laboral de aproximadamente 3 millones de personas, brindando al personal civil y militar nuevas herramientas para manejar el trabajo rutinario en redes no clasificadas.

El despliegue se centra en los agentes Gemini, que pueden realizar trabajos en nombre de un usuario después de que se les indique qué hacer. Esto significa que las personas dentro del Pentágono podrán establecer tareas en lenguaje sencillo y dejar que el software se encargue de partes del trabajo sin escribir código.

La primera etapa permanecerá en sistemas no clasificados, y la razón es simple. Ahí es donde la mayoría de los usuarios del Departamento de Defensa ya trabajan.

Emil Michael, el subsecretario de defensa para investigación e ingeniería, dijo que el departamento planea ir más allá después de eso. Él dijo: "Estamos comenzando con no clasificado porque ahí es donde están la mayoría de los usuarios, y luego llegaremos a clasificado y alto secreto".

También dijo que las conversaciones con Google sobre el uso de los agentes en la computación en la nube clasificada ya están ocurriendo. Emil agregó: "Tengo gran confianza en que van a ser un gran socio en todas las redes".

Google abre la construcción de agentes Gemini al personal del Pentágono

La nueva configuración permitirá que las personas en todo el Pentágono construyan sus propios agentes de IA escribiendo instrucciones normales en lugar de usar comandos técnicos.

Jim Kelly, vicepresidente de Google, dijo en una publicación de blog del martes que tanto los empleados civiles como el personal militar del Departamento de Defensa podrán crear esos agentes usando lenguaje natural. La idea es hacer que el sistema sea utilizable por trabajadores regulares, no solo especialistas.

Aun así, Emil dejó en claro que esas discusiones ya están activas desde el lado del gobierno.

El impulso más amplio del Pentágono hacia las herramientas de Google no comenzó esta semana. El Departamento de Defensa ya ha estado usando un chatbot de Google a través del portal GenAI.mil para trabajo no clasificado desde diciembre.

Un portavoz del Pentágono dijo que 1.2 millones de empleados han usado ese sistema hasta ahora. Esos usuarios han ingresado 40 millones de indicaciones únicas y han cargado más de 4 millones de documentos.

A partir del martes, el portal también ofrecerá agentes Gemini, agregando una nueva capa de automatización al trabajo que ya se está realizando a través de la plataforma.

Emil dijo que el departamento necesita más IA, no menos, pero también dijo que las personas aún necesitan verificar lo que produce el software. Él dijo: "Te ahorra mucho tiempo en el medio, pero tienes que revisar al final para asegurarte de que no haya alucinaciones".

También dijo que el Pentágono puede reducir los riesgos con capacitación, orientación y políticas, especialmente cuando los agentes pueden ocultar errores o hacer que los errores sean más difíciles de detectar. Emil dijo que se sorprendió de lo atrasado que estaba el departamento cuando asumió la cartera de IA en agosto.

Emil dijo: "Cuando llegué aquí y asumí la cartera de IA en agosto, me quedé algo sorprendido de que no tuviéramos las capacidades básicas de IA que la mayoría de las personas, consumidores de todo el mundo tienen ahora".

El Pentágono batalla con Anthropic mientras trabajadores de OpenAI y Google se oponen

El trabajo en expansión del Pentágono con Google está ocurriendo al mismo tiempo que una amarga pelea con Anthropic.

Los documentos judiciales muestran que más de 30 empleados de OpenAI y Google DeepMind presentaron una declaración el lunes respaldando la demanda de Anthropic contra el Departamento de Defensa de EE. UU. Su presentación se produjo después de que el gobierno federal etiquetara a Anthropic como un riesgo de cadena de suministro.

Esa etiqueta generalmente está vinculada a adversarios extranjeros. En este caso, el Pentágono la usó contra una importante empresa estadounidense de IA después de que Anthropic se negara a permitir que su tecnología se usara para vigilancia masiva de estadounidenses o para disparar armas de forma autónoma.

El Departamento de Defensa había argumentado que debería poder usar IA para cualquier propósito "legal" y no debería estar limitado por un contratista privado.

El escrito judicial de los empleados de OpenAI y Google dijo que la acción del gobierno fue demasiado lejos. Declaró: "La designación del gobierno de Anthropic como un riesgo de cadena de suministro fue un uso impropio y arbitrario del poder que tiene serias ramificaciones para nuestra industria". Uno de los signatarios fue Jeff Dean, el científico jefe de Google DeepMind.

La presentación llegó al expediente unas horas después de que Anthropic, la empresa detrás de Claude, presentara dos demandas contra el Departamento de Defensa y otras agencias federales.

En el escrito, los empleados argumentaron que si el Pentágono no estaba satisfecho con los términos del contrato que tenía con Anthropic, tenía otra opción.

Escribieron que si el departamento "ya no estaba satisfecho con los términos acordados de su contrato con Anthropic", podría haber "simplemente cancelado el contrato y comprado los servicios de otra empresa líder en IA".

Decía: "Si se le permite continuar, este esfuerzo para castigar a una de las principales empresas de IA de EE. UU. sin duda tendrá consecuencias para la competitividad industrial y científica de Estados Unidos en el campo de la inteligencia artificial y más allá". También dijo: "Y enfriará la deliberación abierta en nuestro campo sobre los riesgos y beneficios de los sistemas de IA actuales".

Emil, quien dirigió las negociaciones con Anthropic, dijo que la disputa no se resolvería en los tribunales y dijo que el Pentágono ahora está "avanzando". Esa postura viene con historia detrás.

En 2018, miles de empleados de Google protestaron por el papel de la empresa en el Proyecto Maven, un programa del Pentágono que usaba IA para analizar videos de las guerras de drones de Estados Unidos en el extranjero. La reacción fue lo suficientemente fuerte como para que Google optara por no renovar ese contrato.

Posteriormente, la empresa eliminó algunas restricciones sobre el trabajo con los militares.

No solo leas noticias sobre criptomonedas. Entiéndelas. Suscríbete a nuestro boletín. Es gratis.