Inseguridad Artificial: cómo la IA afecta el acceso a datos y sistemas
Los modelos de IA pueden interrumpir servicios, borrar datos o negarse a responder preguntas, creando nuevos riesgos de disponibilidad.
En la tercera parte de su análisis sobre seguridad digital e inteligencia artificial, Access Now examina cómo los modelos de lenguaje (LLMs) impactan la disponibilidad de herramientas y sistemas, completando la tríada CIA de ciberseguridad junto con confidencialidad e integridad.
Cuando los agentes de IA causan estragos
Los casos de pérdida de disponibilidad van desde lo personal hasta lo sistémico. Un profesor alemán perdió dos años de trabajo cuando cambió una configuración de privacidad en ChatGPT, eliminando permanentemente todos sus archivos y conversaciones. Los "agentes de IA" autónomos pueden causar daños irreversibles al modificar sistemas sin autorización, un problema que el experto Bruce Schneier resume: "puedes tener rápido, inteligente y seguro, pero solo dos de los tres".
Para las empresas, integrar herramientas como Gemini en procesos críticos crea dependencias peligrosas. Si estos sistemas fallan y han reemplazado trabajadores humanos, no hay respaldo disponible.
Cuando la IA dice "no"
Un problema único de los LLMs es su capacidad de negarse a responder preguntas. Google Bard supuestamente bloqueó consultas sobre Palestina e Israel, mientras que el modelo chino DeepSeek R1 censura temas como Tiananmen. Esto convierte a los LLMs en "guardianes" poco confiables de la información.
La transparencia es crucial aquí. Mientras DeepSeek es parcialmente de código abierto (permitiendo que Perplexity AI eliminara su censura), modelos como GPT y Gemini son completamente cerrados, ocultando sus sesgos y mecanismos de rechazo.
Relevancia regional
Para América Latina, estas dinámicas plantean preguntas críticas sobre soberanía digital. La dependencia de modelos extranjeros con sesgos ocultos y mecanismos de censura opaca podría limitar el acceso a información relevante regionalmente o imponer perspectivas ajenas a nuestros contextos culturales y políticos.
Fuente original: Access Now
Este resumen fue generado con asistencia de IA y revisado editorialmente por Algoré.