El Pentágono planea entrenar modelos de IA con datos clasificados
EEUU evaluará permitir que empresas de IA entrenen modelos militares con información sensible, elevando riesgos de seguridad.
El Pentágono está desarrollando planes para crear entornos seguros donde empresas de inteligencia artificial puedan entrenar versiones militares de sus modelos utilizando datos clasificados, según reveló MIT Technology Review.
Actualmente, modelos como Claude de Anthropic ya se usan en contextos clasificados para responder preguntas, incluyendo análisis de objetivos en Irán. Sin embargo, permitir que los modelos entrenen directamente con datos sensibles representaría un avance significativo con riesgos únicos de seguridad.
Según un funcionario de defensa estadounidense, entrenar modelos con información clasificada los haría más precisos y efectivos en tareas específicas. El entrenamiento se realizaría en centros de datos seguros acreditados para proyectos gubernamentales clasificados, donde una copia del modelo se combinaría con datos sensibles.
La iniciativa surge mientras aumenta la demanda de modelos más potentes. El Pentágono ha firmado acuerdos con OpenAI y xAI de Elon Musk para operar sus modelos en entornos clasificados, como parte de su agenda para convertirse en una "fuerza de combate que priorice la IA".
Aalok Mehta, director del Centro Wadhwani AI, advierte sobre los riesgos de esta aproximación. El principal peligro es que información clasificada utilizada en el entrenamiento podría filtrarse a usuarios no autorizados dentro del mismo Departamento de Defensa, poniendo en riesgo operaciones y personal.
La información clasificada podría incluir cantidades masivas de texto, audio, imágenes y video en múltiples idiomas recopilados por servicios de inteligencia. Los modelos podrían aprender a identificar patrones sutiles como lo haría un analista humano, o conectar nueva información con contexto histórico.
Antes de implementar este entrenamiento clasificado, el Pentágono evaluará primero la efectividad de modelos entrenados con datos no clasificados, como imágenes satelitales comerciales. Esta medida refleja la carrera del Pentágono por incorporar más IA en operaciones militares, desde combate hasta tareas administrativas.
Fuente original: MIT Technology Review
Este resumen fue generado con asistencia de IA y revisado editorialmente por Algoré.