El acuerdo de OpenAI con el Pentágono no limitará la vigilancia con IA

OpenAI enfrenta severas críticas tras firmar un contrato con el Departamento de Defensa de Estados Unidos, después de que su competidor Anthropic rechazara eliminar restricciones sobre el uso militar de su IA para vigilancia y armas autónomas.

Las protestas fueron inmediatas. Las desinstalaciones de ChatGPT aumentaron casi 300% tras el anuncio, llevando al CEO Sam Altman a reconocer que el acuerdo inicial fue "oportunista y descuidado". Como respuesta, la empresa publicó modificaciones contractuales que supuestamente prohíben el uso "intencional" de sus sistemas para vigilancia doméstica de ciudadanos estadounidenses.

Sin embargo, estas enmiendas están llenas de términos ambiguos que Electronic Frontier Foundation califica como "palabras comadreja" (weasel words). El contrato permite usos "consistentes con las leyes aplicables", pero el gobierno estadounidense ha interpretado históricamente estas leyes de manera laxa para justificar vigilancia masiva.

La palabra "intencional" es especialmente problemática, ya que las agencias de inteligencia rutinariamente justifican la vigilancia masiva como "incidental" cuando capturan comunicaciones de ciudadanos estadounidenses en programas supuestamente dirigidos al extranjero.

Otras cláusulas igualmente vagas prohíben el "monitoreo sin restricciones" y permiten actividades de aplicación de la ley "según lo permita la ley aplicable". Estas formulaciones ofrecen flexibilidad al gobierno mientras aparentan imponer límites.

Aunque OpenAI asegura que la NSA no podrá usar sus herramientas sin un nuevo acuerdo, los acuerdos secretos nunca han sido suficientes para controlar a las agencias de vigilancia. La empresa promete "evitar usos de IA que dañen a la humanidad o concentren indebidamente el poder", pero permitir vigilancia masiva hace precisamente eso.

Este caso ilustra una tensión global creciente: las empresas tecnológicas no pueden simultáneamente proteger derechos humanos y capitalizar contratos de vigilancia gubernamental. Para América Latina, donde muchos países enfrentan presiones para adoptar tecnologías de vigilancia similares, este precedente es especialmente preocupante.

Fuente original: Electronic Frontier Foundation

Este resumen fue generado con asistencia de IA y revisado editorialmente por Algoré.