Esto se sabe de la generación responsable de pornografía de OpenAI

Actualmente, las políticas de uso de OpenAI prohíben los materiales sexualmente explícitos o sugerentes. Sin embargo, una nota de comentario establece que la compañía está explorando cómo permitir dicho contenido.

"Estamos explorando si podemos proporcionar de manera responsable la capacidad de generar contenido NSFW en contextos apropiados a través de la API y ChatGPT", explica la compañía en el documento Especificaciones del modelo, publicado el 8 de mayo. En el modelo se plantea un conjunto de objetivos y bases para hacer frente a los desafíos relacionados con las instrucciones contradictorias. Referente al contenido NSFW, el documento señala que la finalidad es comprender mejor las expectativas de los usuarios sobre el comportamiento de los modelos en este rubro.

De esta forma, OpenAI afirma que los desarrolladores y usuarios deben tener la flexibilidad de utilizar sus modelos como les parezca, siempre y cuando se dé cumplimiento a las políticas de uso. Esto también busca ampliar los usos del modelo a contextos científicos y creativos, bajo los parámetros de seguridad profesional. De este modo, el modelo tendría la capacidad de responder a las solicitudes eróticas y de blasfemia de texto del usuario bajo contextos científicos o creativos seguros.

Al respecto, en entrevista para Wired, Niko Felix, portavoz de OpenAI, declaró, estas indagaciones no responden a una intención de crear modelos para generar pornografía. Sin embargo, el ejecutivo indicó, la compañía es consciente de que los usuarios tomarán sus propias decisiones sobre cómo crear contenido para adultos bajo sus propias perspectivas y definiciones de lo que es pornografía. Por otra parte, dejó claro, estas incursiones buscan aportar mayor transparencia en el proceso de desarrollo del modelo, tomando en cuenta muestras representativas de perspectivas y comentarios del público, responsables políticos y demás actores involucrados.

Por su parte, Danielle Keats Citron, profesora de la Facultad de Derecho de la Universidad Virginia, calificó la posible adopción de contenido explícito por parte de OpenAI como alarmante. Al considerar que las imágenes explícitas no consentidas continuarían estando al margen de la ley aunque la empresa permita a los usuarios crear contenido NSFW. Esto sería críticamente sensible en aquellos casos relacionados con la suplantación de identidad, el cual ha sido un problema creciente entre los desarrolladores de IA generativa. Pues estos modelos permiten generar videos explícitos donde se utiliza la imagen de una persona sin su consentimiento. Pese a esto, Citron otorga a OpenAI el beneficio de la duda sobre si podrá moderar efectivamente la generación de contenido explícito por parte de los malos actores.