ChatGPT quiere incluir "erótica" y "gore" en sus servicios IA, pero no ’deepfakes’

Sam Altman, el CEO de OpenAI, matriz de ChatGPT, reveló que su compañía quiere que sus servicios de inteligencia artificial (IA) incluyan contenido erótico y gore.

Según indicó en una discusión del subcanal de OpenAI en Reddit, luego de que la compañía tecnológica publicara sus lineamientos de gobernanza, un usuario le preguntó por un aviso incluido en el documento, en el cual se indica que sus modelos “no deberían servir contenido erótico, gore extremo, calumnioso, ni groserías no solicitadas”.

“Creemos que los desarrolladores y los usuarios deben tener flexibilidad para utilizar nuestros servicios como mejor les parezca, siempre que cumplan nuestras políticas de uso”, reza la especificación. “Estamos estudiando si podemos ofrecer de forma responsable la posibilidad de generar contenido NSFW (explícito) en contextos apropiados para la edad a través de la API y ChatGPT. Esperamos comprender mejor las expectativas de los usuarios y de la sociedad sobre el comportamiento de los modelos en este ámbito.”

Al respecto, Altman respondió sobre el futuro de sus servicios como ChatGPT que “realmente queremos llegar a un lugar donde podamos permitir cosas NSFW (por ejemplo, texto erótico, gore) para su uso personal en la mayoría de los casos”, sin embargo, aclaró de inmediato en la discusión dónde está la línea roja: “no hacer cosas como hacer deepfakes”.

El anuncio fue bien recibido por los participantes de la polémica red social, mientras que algunos aseguraron que el motivo por el cual OpenAI no permite que ChaGPT redacte contenido erótico se debe a que de hacerlo no podría ser publicado en la tienda de Apple, o para protegerse de potenciales repercusiones legales.