El algoritmo de carretes de instagram, parte del gigante Meta, el levantó Preocupaciones por la seguridad de los menores. una investigación de Wall Street Journal revela que al seguir ciertas cuentas de jóvenes influencers, el algoritmo comenzó a sugerir contenido inadecuado e sessuali, junto con anuncios de grandes marcas. En resumen, Instagram muestra contenido para adultos incluso a quienes no deberían hacerlo.
El polémico algoritmo de Instagram que muestra contenido para adultos (prohibido) incluso a menores
La prueba, realizada por Wall Street Journal, que implicó la creación de cuentas destinadas a seguir a jóvenes influencers como gimnastas y porristas, mostró que el algoritmo de Instagram ha comenzado a proponer contenido para adultos, incluidos videos sexuales que involucran a adultos y menores, y anuncios de conocidas marcas estadounidenses.
La investigación reveló una tendencia alarmante: las cuentas que seguían a estos jóvenes estaban siendo expuestas a una Preocupante mezcla de pornografía y materiales que sexualizaban a los niños.. Los expertos en sistemas algorítmicos de recomendación han destacado cómo este tipo de contenido "nicho" puede proporcionar señales más fuertes que las de interés general, empujando al algoritmo a dirigir contenido inapropiado hacia los usuarios.
Lea también: Se revela el secreto de Pulcinella: millones de usuarios menores de edad en Instagram
El problema de agregar contenido para adultos en Instagram se sabia internamente y prevenir dicha propagación requiere cambios significativos en los algoritmos de recomendación. Sin embargo, los documentos de la empresa muestran que El personal de seguridad tiene prohibido en gran medida realizar cambios en la plataforma. que puede reducir el número de usuarios activos diarios.
En respuesta, Meta dijo que está invirtiendo miles de millones en soluciones de seguridad e idoneidad de marca, al tiempo que admite la necesidad de realizar más mejoras. Varias empresas, entre ellas Match Grupo procesos e Andar de forma vacilante, suspendieron o redujeron su publicidad en Reels y otras metaplataformas tras estos descubrimientos. Otros, como Disney e Hims, están presionando a Meta para que evite este tipo de colocación de anuncios y han expresado su preocupación por la asociación de sus marcas con dicho contenido.
