Un document interne révélé par Bloomberg a permis d'apprendre que le réseau social chinois avait sciemment empêché la publication d'un patch sécurité auprès de 15 millions de ses utilisateurs, alors que celui-ci devait rendre son algorithme moins nuisible pour la santé mentale.En février 2022, Chase Nasca, un adolescent de 16 ans originaire de Long Island aux États-Unis, s'est suicidé. Un document interne confidentiel qu'a pu se procurer Bloomberg révèle que le jeune homme n'a pas bénéficié de la mise à jour de l'algorithme de Tiktok, censée éviter que les utilisateurs ne soient submergés de contenus nocifs. Ce rapport montre qu'il s'agissait d'une décision prise intentionnellement par la plateforme.Datée d'août 2024, la note montre que la plateforme a sciemment exclu 10% de ses utilisateurs américains - soit environ 15 millions de personnes - d'une mise à jour de sécurité majeure datant de début 2022, et qui visait à mieux les protéger face à un algorithme pouvant les rendre addicts et dépressifs.

Cette expérimentation a été menée par Tiktok pour vérifier si les changements algorithmiques protecteurs pouvaient réduire l'attrait pour l'application.Une mise à jour qui aurait peut-être pu empêcher le drame, puisque Tiktok a estimé que l'adolescent avait été piégé dans une boucle algorithmique mortifère, où se bousculaient des contenus donnant des astuces pour se suicider ou se scarifier.Des milliers de vidéos mortifères envoyées à un adoL'analyse rétrospective du compte, menée plus d'un an après son décès et sous la pression médiatique, permet de découvrir des éléments particulièrement problématiques: sur les 7563 vidéos suggérées à l'adolescent lors des deux dernières semaines de sa vie, 73% d'entre elles traitaient de la souffrance mentale et du mal-être. 10% du contenu était par ailleurs contraire aux règles de Tiktok sur l'incitation au suicide. Il recevait ces contenus jusqu'à quelques heures avant son décès.Puisqu'il n’a pas été inclus dans la mise à jour algorithmique développée à l'époque (il faisait partie du groupe de l'expérimentation), son flux s'est transformé en véritable enfer, et ce, sans que Chase Nasca ne puisse y faire grand-chose.Le document explique que l'exclusion de 10% des utilisateurs d'un correctif algorithmique avait permis de tester une solution cherchant à ne pas systématiquement sanctionner des vidéos sur ces sujets: une vidéo isolée du reste sur la détresse psychologique ne viole ainsi pas son règlement, mais des études estiment - tout comme Tiktok dans son rapport interne - que c'est leur accumulation qui a enclenché une boucle très négative pour la santé mentale.Accusé de nuire à la santé mentale des plus jeunes et entendu par le Congrès américain peu après la finalisation de ce rapport jamais rendu public, Shou Chew, le PDG de Tiktok, n'a jamais fait mention d'un tel test algorithmique, et encore moins de l'absence de correctif pour 15 millions de ses utilisateurs américains.Une plainte avait été déposée par la famille de Chase Nasca, mais celle-ci a été classée.

Elle cherche désormais à relancer l'affaire.Top ArticlesLes menaces de la Chine, de la Corée du Nord et de la Russie se rapprochent: le Japon veut accélérer dans l’intelligence artificielle pour moderniser son armée (avec des outils américains)Silence complet sur les réseaux sociaux, pas de compte sur Blablacar ou Airbnb... Ce que prévoit le "bannissement numérique", la peine prononcée dans l'affaire Jean PormanoveUne action en justice "menée avec négligence, agressivité et d'une manière étrangement personnelle": OpenAI réplique aux accusations de vol de secrets industriels d'AppleLe gendarme américain des marchés financiers aurait acheté des milliards de données auprès des compagnies aériennes pour surveiller les vols dans le monde entier"Réaliser en une décennie ce qui aurait autrement pris un siècle": la Banque mondiale appelle les pays en développement à ne pas rater le virage de l'IA