SAN FRANCISCO - El jefe de confianza y seguridad de Discord dijo el martes que la popular plataforma de chat estaba cambiando y aclarando sus políticas de seguridad infantil, incluidas las relativas a las citas entre adolescentes y el material de abuso sexual infantil generado por IA, un anuncio que se produce después de una investigación de NBC News el mes pasado sobre la seguridad infantil en la plataforma.
John Redgrave, vicepresidente de confianza y seguridad de Discord, dijo que Discord estaba ampliando sus políticas para hacer frente a la inteligencia artificial generativa que puede crear contenido falso y la sexualización de los niños, prohibiendo específicamente las representaciones de AI de abuso sexual infantil e incluso la sexualización de los niños en los chats de texto. El Washington Post informó en junio de que las imágenes de sexo infantil generadas por IA han proliferado en Internet en los últimos meses.
Discord ha sido un centro neurálgico para las comunidades dedicadas a la creación de imágenes generativas de IA y ha albergado varias integraciones que permiten a los usuarios generarlas. En esos servidores se crean con frecuencia imágenes de temática sexual.
En una entrada de blog en la que se anuncian los cambios, la compañía afirma que la política actualizada sobre material de abuso sexual infantil incluirá "cualquier texto o contenido multimedia que sexualice a los niños, incluido el material de abuso sexual infantil dibujado, fotorrealista y fotorrealista generado por IA". El objetivo de esta actualización es garantizar que la sexualización de los niños en cualquier contexto no sea normalizada por los malos actores."
Redgrave también dijo que la empresa estaba introduciendo cambios y aclaraciones en su política para prohibir explícitamente las citas entre adolescentes, que, según dijeron expertos a NBC News, suponían una gran oportunidad para los adultos que buscan explotar o captar a menores.
Discord escribió en su blog: "En este contexto, también creemos que las citas en línea pueden poner en peligro a los propios usuarios. Bajo esta política, los servidores de citas para adolescentes están prohibidos en la plataforma y tomaremos medidas contra los usuarios que tengan este comportamiento."
Redgrave dijo en una presentación en TrustCon, una conferencia para profesionales de la confianza y la seguridad celebrada en San Francisco, que la compañía veía estas relaciones en línea como un riesgo importante para los jóvenes.
"Ya no vamos a permitir las citas entre adolescentes en nuestra plataforma porque reconocemos que es un vector de daño sustancial para que los depredadores vayan a por los adolescentes", dijo.
Las directrices de Discord ya habían dicho que la compañía "eliminaría los espacios que fomenten o faciliten las citas entre adolescentes." En junio, una investigación de NBC News encontró cientos de servidores de Discord que parecían promover material de abuso infantil, y algunos servidores que se anunciaban como servidores de citas entre adolescentes o niños que solicitaban imágenes de desnudos de menores. Además, NBC News identificó 35 casos en los últimos seis años en los que se procesó a adultos acusados de secuestro, grooming o agresión sexual que supuestamente implicaban comunicaciones en Discord.
NBC News identificó otros 165 casos, entre ellos cuatro presuntas redes delictivas en las que se procesó a adultos por transmitir o recibir material de abuso sexual infantil a través de Discord, o por utilizar supuestamente la plataforma para extorsionar a niños para que enviaran imágenes sexuales gráficas de sí mismos, lo que también se conoce como sextorsión.
Redgrave señaló que la empresa también estaba actualizando sus políticas para prohibir los casos de adolescentes mayores que se aprovechan de adolescentes más jóvenes. En la entrada del blog, la empresa afirma: "Los adolescentes mayores que se dediquen a la captación de un adolescente más joven serán revisados y se tomarán medidas en virtud de nuestra Política de Conducta Sexual Inapropiada con Menores y Captación de Menores".
Como parte de sus actualizaciones de política, Discord anunció el lanzamiento de más herramientas para el control parental. En una nueva herramienta del Centro Familiar, padres e hijos pueden optar por que los padres reciban actualizaciones sobre las actividades de sus hijos en la plataforma.
