'Seinfeld' generado por IA suspendido en Twitch por bromas transfóbicas generadas por IA

‘Seinfeld’ generado por IA suspendido en Twitch por bromas transfóbicas generadas por IA

by

in

Después de encantar a Internet (y a nosotros) con su naturaleza absurda, la parodia de “Seinfeld” generada por IA “Nothing, Forever” fue suspendida de Twitch durante 14 días.

Como parte de su parodia de “Seinfeld”, una de las escenas recurrentes de “Nothing, Forever” muestra a Larry Feinberg, el personaje de Jerry Seinfeld, realizando rutinas de pie. Por lo general, los chistes de Larry decían: “¿Qué es un oso sin dientes? Un osito de goma. Pero, como los creadores de “Nothing, Forever”, Mismatch Media, le dijeron a TechCrunch, el equipo cometió un error con el filtro de contenido de la IA, lo que resultó en que Larry entregó una rutina de pie transfóbica.

“Nothing, Forever”, que se ha estado transmitiendo casi constantemente desde diciembre, generó inicialmente el diálogo de los personajes a través del modelo Davinci de GPT-3, además del protocolo de filtrado de contenido de OpenAI. Pero cuando Davinci comenzó a tener problemas técnicos, el equipo cambió al modelo Curie menos sofisticado. Después de cambiar de modelo, los creadores no incorporaron adecuadamente la herramienta de moderación de IA. Pronto, Larry estaba contando chistes transfóbicos, y “Nothing, Forever” quedó en suspenso.

“Primero, permítanme decir que el texto que generamos fue un error, estamos muy avergonzados y que el contenido generativo creado de ninguna manera refleja los valores u opiniones de nuestro personal”, escribió el co-creador Skyler Hartle en un correo electrónico a TechCrunch. . “Lamentamos mucho que esto haya sucedido y esperamos estar de vuelta en el aire pronto, con todas las medidas de seguridad apropiadas”.

Hartle también dijo que el equipo está investigando un sistema de moderación de contenido secundario para agregar como una redundancia, en caso de que sus filtros de moderación de contenido fallen mientras están en vivo.

Twitch no respondió a la solicitud de comentarios. Hartle dijo que tampoco ha tenido comunicación directa con Twitch. Pero los creadores creen que la suspensión es el resultado de los comentarios transfóbicos de Larry, debido al momento de la suspensión.

de contracción Principios de la Comunidad prohibir la retórica de odio sobre grupos de identidad específicos, incluida la discriminación o el acoso por motivos de identidad de género. Los sistemas de moderación de contenido de la plataforma parecen haber captado la retórica transfóbica de Larry, una IA, con bastante rapidez. Pero si bien los sistemas de Twitch reaccionaron rápidamente para eliminar una IA, no ha tenido un éxito tan consistente en mitigar el acoso deliberado de las personas transgénero.

Hace aproximadamente un año y medio, la plataforma estuvo plagada de “ataques de odio” maliciosos, que se dirigieron particularmente a los creadores negros y transgénero. Después de la acción colectiva dirigida por los creadores, Twitch implementó nuevas funciones de seguridad para ayudar a proteger a los usuarios de estos ciberataques violentos. El año pasado, como transgénero Transmisor de contracción Keffals saltó a la fama por hablar sobre temas LGBTQ+, fue objeto de un acoso tan duro que la atacaron dentro de su propia casa, lo que provocó que entrara en ocultación. (Gran parte de este acoso provino de otros sitios web, pero a partir de 2021, las pautas de la comunidad de Twitch pueden responsabilizar a los usuarios de Twitch por el acoso fuera de la plataforma).

Los creadores de “Nothing, Forever” dicen que no tenían la intención de emitir comentarios transfóbicos y que no respaldan esos puntos de vista. Sin embargo, esta situación muestra cuán rápido el entretenimiento generativo de IA puede fracasar cuando no se controla. Después de todo, GPT-3 está entrenado en Internet, por lo que puede hacerse eco de algunas de las retóricas más atroces de toda la web.

Hay algo oscuramente irónico en este incidente: un error de filtrado de contenido provocó la suspensión de Twitch de lo que es básicamente un robot. Mientras tanto, Dave Chappelle acaba de ganar un Grammy por su álbum de comedia “The Closer”, que ha sido muy criticado por su transfobia. Sin embargo, incluso dentro del universo generado por IA de “Nothing, Forever”, la audiencia generada por IA no encontró los chistes de Larry muy divertidos.

“Hay como 50 personas aquí y nadie se ríe. ¿Alguien tiene alguna sugerencia?” la IA comenzó su set de comedia, antes de continuar con su breve diatriba transfóbica. Luego, Larry cerró su set, “Nadie se está riendo, así que voy a parar. Gracias por venir esta noche. Nos vemos la próxima vez. ¿Adónde fueron todos?


Source link