ONGs tech alertan sobre reglas de contratación que debilitarían IA
Nuevas reglas de contratación federal en EE.UU. obligarían a proveedores de IA a desactivar salvaguardas de seguridad para uso gubernamental.
Un grupo de organizaciones tecnológicas, liderado por la Electronic Frontier Foundation, alertó sobre nuevas reglas propuestas por la Administración de Servicios Generales (GSA) de Estados Unidos que podrían debilitar significativamente las medidas de seguridad en sistemas de inteligencia artificial.
Las regulaciones, presentadas como un esfuerzo por promover la "neutralidad ideológica" en la innovación estadounidense de IA, van mucho más allá de ese objetivo. Entre las disposiciones más preocupantes está el requisito de que los contratistas gubernamentales deben licenciar sus sistemas de IA al gobierno para "todos los propósitos legales" y, crucialmente, que los sistemas "no deben negarse a producir datos o realizar análisis basándose en las políticas discrecionales del contratista".
Esto significa que las empresas deberían desactivar las salvaguardas de seguridad que consideran necesarias si estas interfieren con solicitudes gubernamentales. La medida surge en el contexto de la disputa entre el Departamento de Defensa y Anthropic sobre si el gobierno puede castigar a empresas que se niegan a permitir que su tecnología sea usada para vigilancia masiva.
Las organizaciones argumentan que estas reglas harían los sistemas de IA menos seguros y útiles, especialmente considerando las interpretaciones amplias que suele hacer el gobierno de la legalidad y su historial de vigilancia. También critican requisitos tecnológicamente incoherentes que califican como medidas "anti-woke".
Relevancia para América Latina: Aunque estas son regulaciones estadounidenses, podrían establecer precedentes problemáticos para otros países que buscan regular la contratación gubernamental de IA. Además, muchas empresas de IA que operan en la región también proveen servicios al gobierno estadounidense, por lo que estas reglas podrían afectar indirectamente el desarrollo de salvaguardas de seguridad a nivel global.
Las organizaciones solicitan que la GSA retire la propuesta y comience nuevamente con un enfoque que realmente sirva al interés público.
Fuente original: Electronic Frontier Foundation
Este resumen fue generado con asistencia de IA y revisado editorialmente por Algoré.