Je suis l'ai suivi cette situation sur Telegram en Corée du Sud et c'est honnêtement assez alarmant. La plateforme a fait face à une pression énorme des autorités en raison de la circulation de matériaux d'exploitation sexuelle par deepfake sur ses canaux, et la situation a simplement escaladé de manière significative.

Voici ce qui s'est passé : La Commission coréenne des normes de communication a finalement obtenu de Telegram la suppression de 25 vidéos représentant du matériel d'abus sexuel, principalement créé à l'aide de la technologie deepfake ciblant des mineurs et des femmes. Cela est intervenu après que l'entreprise ait largement ignoré les demandes du gouvernement pendant des années. Selon les rapports, un seul groupe Telegram comptait environ 220 000 membres partageant activement ces matériaux, avec une attention particulière sur les mineurs. On parle d'au moins 500 écoles à travers la Corée étant affectées par ces crimes.

L'ampleur est franchement perturbante. Les données de la police montrent que les cas de deepfake ont presque doublé, passant de 156 en 2021 à 297 à la mi-2023. Et tenez-vous bien : six victimes sur dix enquêtées par la police au cours des trois dernières années étaient des enfants. L'Agence nationale de police de Corée a lancé une enquête préliminaire après avoir découvert que des criminels utilisaient Telegram pour créer et distribuer ces vidéos. Fin août, ils avaient reçu 88 signalements et identifié 24 suspects.

Ce qui a aggravé la situation pour Telegram, c'est l'arrestation de son PDG Pavel Durov en France le 24 août. Les autorités françaises l'ont inculpé de complicité dans la distribution de matériel d'abus sexuel sur des enfants et de ne pas avoir coopéré avec la police. Malgré une caution de 5 millions d'euros, l'arrestation a placé Telegram au centre d'un débat mondial sur la modération du contenu. La société a tenté de se défendre, en disant « il est absurde d'affirmer qu'une plateforme ou son propriétaire sont responsables de l'abus sur cette plateforme », mais cela n'a pas vraiment convaincu les critiques, surtout en Corée.

Ce n'est même pas la première fois que Telegram est confronté à ces problèmes. En 2020, un jeune de 20 ans nommé Cho Ju-bin gérait la « Nth Room » sur Telegram, une salle de chat d'esclaves sexuels où il faisait du chantage à plus de 100 femmes, y compris des mineurs, pour produire des images sexuelles violentes. Il a écopé de 40 ans de prison, mais le scandale a révélé à quel point l'infrastructure de Telegram est vulnérable en matière de prévention de la distribution de contenu illégal.

Le président Yoon Suk Yeol a été assez vocal à ce sujet, appelant à une tolérance zéro face aux crimes sexuels numériques. Il l'a dit clairement : « C'est une exploitation de la technologie tout en se fiant à la protection de l'anonymat. C'est un acte criminel évident. » Selon la Loi sur la prévention de la violence sexuelle en Corée du Sud, créer et distribuer des deepfakes sexuellement explicites peut vous valoir jusqu'à cinq ans de prison ou environ 37 500 dollars d'amende.

Après toute cette pression, Telegram a finalement présenté ses excuses le 29 août, reconnaissant une mauvaise communication avec les autorités coréennes et s'engageant à mieux coopérer. Ils ont accepté de mettre en place une ligne directe et un canal email dédié pour signaler le contenu illégal. Reste à voir si cela mènera réellement à un changement significatif ? C'est la vraie question. Compte tenu du bilan de Telegram en matière de non-conformité et des défis juridiques en cours pour Durov, beaucoup restent sceptiques quant à la capacité de la plateforme à réellement lutter contre ces crimes. La suppression de 25 vidéos n'est qu'un début, mais cela ne fait que gratter la surface de ce qui est devenu une crise nationale.