Data & Society insta a la FDA a regular dispositivos de salud mental con IA

Data & Society Research Institute presentó comentarios formales a la Administración de Alimentos y Medicamentos (FDA) de Estados Unidos sobre la regulación de dispositivos médicos digitales de salud mental habilitados con inteligencia artificial generativa.

La organización de investigación propone un marco regulatorio más estricto para estos dispositivos, que incluyen chatbots terapéuticos, aplicaciones de diagnóstico automatizado y herramientas de monitoreo de salud mental que utilizan modelos de lenguaje grandes (LLMs).

Entre las principales recomendaciones se encuentra la exigencia de estudios clínicos rigurosos antes de la aprobación, transparencia algorítmica obligatoria, y protocolos específicos para poblaciones vulnerables. Data & Society también enfatiza la necesidad de supervisión continua post-comercialización debido a la naturaleza evolutiva de los sistemas de IA.

El documento destaca preocupaciones particulares sobre sesgos algorítmicos que podrían perpetuar disparidades en el acceso y calidad de la atención de salud mental, especialmente para comunidades minoritarias y de bajos ingresos.

Para América Latina, estas recomendaciones resultan especialmente relevantes considerando la creciente adopción de soluciones de telesalud durante la pandemia y la expansión del mercado de aplicaciones de bienestar mental en la región. Países como México, Colombia y Brasil han comenzado a implementar marcos regulatorios para dispositivos médicos digitales, pero aún carecen de normativas específicas para IA en salud mental.

La propuesta también aborda la importancia de considerar factores culturales y lingüísticos en el desarrollo y validación de estos dispositivos, un aspecto crucial para su implementación efectiva en contextos latinoamericanos donde persisten barreras de acceso a servicios de salud mental tradicionales.

Fuente original: Data & Society

Este resumen fue generado con asistencia de IA y revisado editorialmente por Algoré.