OpenAI cancela indefinidamente ChatGPT para adultos por presión de inversores
La empresa suspende su proyecto de IA erótica tras no poder garantizar límites legales y por preocupaciones financieras.
OpenAI ha suspendido indefinidamente el desarrollo de una versión de ChatGPT orientada al contenido para adultos, según reporta Financial Times. El proyecto buscaba permitir conversaciones de naturaleza sexual y la generación de contenido erótico, aprovechando las capacidades de lenguaje natural e imagen de la IA.
El problema de los límites
La compañía había avanzado significativamente en el proyecto, incluso desarrollando sistemas de verificación de edad. Sin embargo, el principal obstáculo surgió al intentar establecer límites claros al contenido generado. Al eliminar las restricciones sobre contenido sexual, OpenAI no pudo garantizar que la IA evitara generar material relacionado con bestialidad, violencia sexual o prácticas ilegales.
Presión financiera y reputacional
La decisión final vino impulsada por la preocupación de empleados e inversores, quienes temían los riesgos reputacionales y legales asociados. Los inversionistas se mostraron reacios a que uno de sus productos estrella estuviera directamente vinculado con la generación de pornografía, especialmente considerando el potencial de crear contenido que podría ser ilegal en múltiples jurisdicciones.
Implicaciones más amplias
Este caso ilustra los desafíos que enfrentan las empresas de IA al intentar monetizar sectores lucrativos pero controversiales. La dificultad para establecer controles efectivos sobre el contenido generado por IA plantea preguntas importantes sobre responsabilidad corporativa y regulación tecnológica.
Relevancia para América Latina
Para la región latinoamericana, este episodio resulta relevante en el contexto de los debates sobre regulación de IA que se desarrollan en países como Brasil, México y Argentina. La experiencia de OpenAI demuestra las complejidades técnicas y éticas que deben considerar los marcos regulatorios regionales, especialmente en temas sensibles como contenido sexual y protección de menores en plataformas digitales.
Fuente original: Hipertextual
Este resumen fue generado con asistencia de IA y revisado editorialmente por Algoré.