Et aujourd’hui, pratiquement toutes les entreprises propriétaires de ces réseaux sociaux sont constamment à la recherche de nouvelles façons de lutter contre les discours haineux ou offensants, englobés généralement sous le terme de “trolls”.
Et bien entendu, comme d’autres auparavant, Instagram se tourne désormais vers l’Intelligence Artificielle (IA) pour sévir.
Pour rappel, Instagram avait introduit le filtrage manuel par mots clés, en Décembre 2016, pour permettre de bloquer automatiquement des termes spécifiques offensant qui peuvent apparaître dans le fil d’actualités.
L'outil supprime donc les mots "souvent rapportés comme inappropriés" et vous permet de définir des mots clés personnalisés.
Et heureusement, vous pouvez ajouter vos propres mots clés et phrases personnalisées, mais Instagram aura à faire plus qu'avec un simple filtre de mots pour que le réseau semble moins agressif aux yeux des nouveaux venus
Car, ceux qui pratiquent le troll savent maintenant être verbalement violents dans les commentaires sans utiliser de mots offensants ou susceptibles d’être dans la liste noire.
L’intelligence artificielle au secours d’Instagram
Les nouveaux filtres, que va proposer Instagram pour lutter contre le troll et le spam dans les commentaires, vont essayer de contourner ces avertissements et signalements à l'aide du machine learning pour automatiser tout le processus
Instagram utilise maintenant l’intelligence artificielle (IA), et ce qu’on appelle le Deep Text, pour essayer de comprendre le contexte autour de la parole offensante et se débarrasser de l'abus, même si elle ne déclenche pas des mots clés spécifiques.
Pour aider les utilisateurs, Instagram a donc développé un filtre intelligent qui bloquera automatiquement certains commentaires offensants sur les messages et dans la vidéo en direct.
Tous les autres commentaires apparaîtront comme ils le font normalement et vous pouvez toujours signaler des commentaires, supprimer des commentaires ou les désactiver.
En outre, vous pouvez toujours désactiver ce filtre activé par défaut pour vous aider.
Pour y accéder, cliquez sur le menu “Paramètres” "..." à partir du profil et faites défiler l'écran pour taper sur "Commentaires".
 |
| Image via Instagram |
Cela devrait aider à atténuer le jeu du chat et de la souris dans la lutte contre les commentaires haineux, même si elle ne fonctionne actuellement qu’en anglais. Mais, d'autres langues seront bientôt ajoutées pour bloquer automatiquement les commentaires identifiés comme étant offensants.
Le système d’intelligence artificielle appelée le Deep Text, utilisé par Instagram, est capable d’identifier le langage offensant, même si les mots utilisés ne sont pas offensants par nature.
Dans la même veine, le nouveau filtre anti-spam va automatiquement rechercher n'importe quel spam évident dans les commentaires et le bloquer dans vos posts et vidéos en direct.
Ce nouveau filtre intelligent va supprimer le spam écrit en anglais, espagnol, portugais, arabe, français, allemand, russe, japonais et chinois.
