Il y a trois mois jour pour jour sortait un nouvel algorithme spécialement créé pour Twitter : Safe DM. Ce dernier bloque toutes les photos de pénis non désirées, envoyées par des hommes quelque peu malsains sur le réseau social. Comment la créatrice a-t-elle fait pour mettre au point cet algorithme et comment fonctionne-t-il ?
L’histoire de l’algorithme
Kelsey Bressler, une analyste-programmeuse américaine, a eu l’idée de développer cet algorithme avec une expérience personnelle qu’elle a vécue. Elle a reçu un jour une photo d’un pénis qu’elle ne voulait pas voir. Mais ce n’est pas tout ...
Il y a quelques années, elle était en couple avec un garçon de son école. Ils sont restés ensemble quelques temps puis se sont séparés. C’est à ce moment-là que le cauchemar commence. Kelsey avait entre 14 et 17 ans lorsqu’elle était avec ce garçon. Aujourd’hui, elle en 28 et pendant 10 ans son ex l’a espionnée.
Il se connectait sur les réseaux sociaux de Kelsey et volait ses photos privées pour les rendre publiques. Kelsey recevait de nombreux messages de haine et était en état de stress constant. Lorsqu’elle a été voir la police, ils lui ont dit qu’elle avait tort et inventait des histoires, alors qu’elle leur avait montrer la preuve qu’une autre adresse IP avait accès à ses comptes.
Kelsey a finalement résolu l'affaire toute seule, en faisant croire à son harceleur qu’elle savait qui il était. Elle a ensuite reçu un appel de son ex, prénommé Greg, et c’est à ce moment-là qu’elle a compris d’où provenait tous ses problèmes. Et ce qui est encore plus affolant, c’est que Kelsey n’était pas la seule victime. Il avait harcelé au moins six autres femmes et la petite sœur de Kelsey.
Elle a publié un message sur Twitter il y a quelques semaines où elle nous informait que son harceleur allait enfin avouer ses erreurs.
Comment l’algorithme fonctionne-t-il ?
Le 5 septembre 2019, Kelysey tweetait le message suivant :
"Je sollicite vos photos de pénis sur le compte @showyodic.
Ce n’est pas une blague.
Je suis en train de tester un filtre, qui est toujours en développement, qui supprimera automatiquement les photos de pénis de vos DMs et s’occupera de l’utilisateur (suppression, suppression et blocage).
18+, consentant, seulement les pénis humains s’il vous plait.”
Résultat : plus de 4000 photos lui ont été envoyées. Kelsey les a analysées, ce qui lui a permis de mettre au point son algorithme. Ce dernier fonctionnerait, d’après les développeurs, à 99%. Seul bémol : des photos de pénis mis en cage ou recouvert de paillettes ne sont pas détectées par l’algorithme.
Si une personne souhaite installer ce filtre, elle devra s’inscrire auprès de cette plateforme, qui ajoutera instantanément l’extension à son compte Twitter. Le magazine français Le Figaro a fait quelques tests, qui sont ressortis assez concluants. Apparemment, la photo envoyée n’est pas tout de suite supprimée, il faut attendre moins d’une minute avant qu’elle ne le soit. Un message est ensuite envoyé aux deux personnes, les avertissant que la photo a été supprimée car elle était inappropriée.
Enfin, le filtre peut être désactivé si l’on souhaite recevoir des photos à caractère sexuel, ce qui ajoute une certaine liberté quant à nos choix.
Que font les autres réseaux sociaux ?
Cet algorithme, présent sur Twitter, est bien un des seuls présents sur la plupart des réseaux sociaux. Facebook et Twitter sont réputés comme étant des réseaux où le revenge porn (contenu à caractère sexuel partagé sans le consentement de la personne dans le but de se venger) est le plus fréquent. Cependant, avant quelques années, ces deux réseaux ne faisaient rien pour combattre ce phénomène.
Kelsey Bressler a dit à la BBC : “Quand on voit le peu de temps mis pour mettre au point cet algorithme, je me demande pourquoi les entreprises ne l’ont pas fait plus tôt. On nous dit souvent que la meilleure solution est de fermer nos messages, mais nous ne devrions pas nous couper du monde parce que certaines personnes ne savent pas comment se comporter convenablement”.
Lorsque l’algorithme sera finalisé, Kelsey a proposé à Twitter de partager ses recherches. De plus, elle serait en négociation avec un autre géant des réseaux sociaux, afin d’inclure ce filtre sur le site.