YouTube ha anunciado una represión de los videos infantiles perturbadores e inapropiados, tras las acusaciones de que el sitio permitió la "violencia infraestructural" a través de los efectos a largo plazo de su sistema de recomendación de contenido.

La nueva política , anunciada el jueves por la noche, aplicará restricciones de edad en el contenido que incluya "uso inapropiado de personajes de entretenimiento familiar", como videos no oficiales que muestran a Peppa Pig "básicamente torturada" en el dentista . La compañía ya tenía una política que hacía que dichos videos no fueran elegibles para los ingresos publicitarios, con la esperanza de que hacerlo redujera la motivación para crearlos en primer lugar.

"A principios de este año, actualizamos nuestras políticas para que los contenidos que incluyan el uso inadecuado de personajes de entretenimiento familiar no sean elegibles para la monetización", dijo Juniper Downs, director de política de YouTube. "Estamos en el proceso de implementar una nueva política que establece que la edad restringe este contenido en la aplicación principal de YouTube cuando se marca. El contenido restringido por edad no está permitido automáticamente en YouTube Kids. El equipo de YouTube está formado por padres que están comprometidos con mejorar nuestras aplicaciones y hacer que esto sea correcto ".

Los usuarios que no iniciaron sesión no pueden ver los videos con restricciones de edad, o aquellos que han ingresado a su edad con menos de 18 años tanto en el sitio como en la aplicación. Y lo que es más importante, tampoco se muestran en YouTube Kids, una aplicación independiente dirigida a los padres que quieren que sus hijos menores de 13 años usen el sitio sin supervisión.

Youtube tendrá nuevas restricciones para los menores

Pero para que se apliquen las restricciones de edad, el contenido primero tiene que marcarse para que lo revise un usuario normal. Luego, el contenido es revisado por lo que YouTube dice que es uno de los miles de moderadores que trabajan en todo el mundo.

YouTube Kids presenta un subconjunto de videos muy restringido disponible en el sitio principal. Sin embargo, ese subconjunto no está curado a mano. En cambio, se selecciona automáticamente, dice YouTube, usando aprendizaje automático y algoritmos. Si algo se desliza a través de la red, puede volver a marcarse y revisarse por un equipo de moderadores de YouTube Kids. La compañía dice que menos del 0.005% de los videos vistos en la aplicación Kids fueron eliminados por ser inapropiados en los últimos 30 días.

La cuestión de qué define el contenido "inapropiado" sigue siendo abierta. YouTube dice que los videos que presentan temas para adultos, incluida la violencia gráfica, tendrán restricciones de edad. Pero la empresa no detalló cuál sería exactamente la línea, ni proporcionó ejemplos de videos previamente no restringidos que ahora se marcarán.

El lunes, en un artículo ampliamente compartido, James Bridle, artista y escritor enfocado en la tecnología que hace campaña, detalló la vasta industria de contenido infantil de baja calidad, guiada algorítmicamente, creada para youtube. "Alguien o algo o una combinación de personas y cosas está usando YouTube para asustar, traumatizar y abusar sistemáticamente de los niños, automáticamente y a escala, y me obliga a cuestionar mis propias creencias sobre Internet, en todos los niveles", escribió Bridle.

Pero como notaron Bridle y otros, definir qué, precisamente, hace que un video como "BURIED ALIVE Outdoor Playground Finger Family Song Nursery Rhymes Animation Education Learning Video" sea perturbador y perturbador de una manera que no sea una caricatura de Tom and Jerry, es difícil, para moderadores algorítmicos o humanos.

YouTube dice que ha estado trabajando en el cambio de política de restricción de edad desde antes de que fuera acusado de violencia infraestructural contra menores.