Au sujet du fediverse, de Zaclys et de la modération

J’avais des trucs à écrire. Mais c’était trop long pour le fediverse. Alors non.

Cette semaine, plusieurs choses se sont passées qui m’ont mises très mal à l’aise. De toute part. Et, il faut que je sois honnête, j’ai eu un rôle central dans tout ça. Et je n’en suis pas super-fier.

Rappel des faits

Zaclys est une entreprise de service informatique qui vend des solutions basées sur du logiciel libre.
Elle a aussi ouverte une instance Mastodon sur le fediverse, à accès gratuit.
Je sais, pour en connaître un certain nombre, que leur « base utilisateur » compte pas mal de gens à l’orientation politique de gauche, et préoccupés par les libertés numériques.

Un utilisateur de l’instance Mastodon de Zaclys a donné des liens vers :

• un message sur X/Twitter d’un compte très clairement d’extrême droite. Et quand j’écris « extrême droite », j’édulcore très largement : il s’agit de « Frontières ». Ce lien était accompagné d’un commentaire… ambivalent s’il était sorti du contexte des autres messages de l’utilisateur.
• un article portant sur la proportion d’enfants nés de parents issus de l’immigration avec des mots clefs… ambivalents. Sauf qu’en fait non : ces mots clefs sont des « dog whistle » de l’extrême droite : en gros, des petites réflexions qui permettent de savoir à quoi s’en tenir, tout en étant juste assez peu claires pour flirter avec la limite, et plaider le déni plausible auprès de personnes peu averties.

Et le reste des messages de cet utilisateur permettait d’avoir un contexte pour se former une opinion claire sur là où il voulait en venir.

Ces messages dataient de plusieurs mois. Je les ai néanmoins signalés, et j’ai publiquement fait part de ce signalement avec un commentaire désagréable sur la modération de Zaclys. Ce commentaire était motivé par :

• le fait qu’il y a encore quelques mois leur charte renvoyait dos à dos l’extrême droite et l’extrême gauche
• le fait que le compte d’administration de leur instance Mastodon s’était abonné successivement plusieurs fois à un compte explicitement on ne peut plus fascisant, et bloqué par ailleurs par la quasi-totalité du fediverse francophone.

Pour avoir supervisé une équipe de modération, début 2000, de ce qui était alors le deuxième plus gros forum francophone, je n’attendais pas de réaction à ce signalement avant plusieurs jours : je sais la charge que cela peut représenter de faire les choses bien, surtout quand on a d’autres activités à côté.

Même si, heu… le cas me semblait quand-même assez simple ici à régler : je tiens pour acquis − semble-t-il hélas par erreur − que faire preuve de racisme et faire la pub pour les sites internets des néo-nazis, ça ne devrait pas trop poser de question. Mais bon, admettons.

Le lendemain, quand j’ai voulu regarder une première fois si les messages problématiques avaient été signalés, j’ai remarqué que :

• le compte dédié à l’administration et à la modération de l’instance Mastodon de Zaclys discutait tranquillement technique avec le compte qui tenait des propos, heu… problématiques
• que les messages n’avaient pas été supprimés.

Bref : malgré une activité sur le compte de modération, il n’y avait eu aucune action de modération visible, et que les rapports semblaient continuer cordialement avec l’auteur des messages à caractère racistes.

J’ai donc envoyé un nouveau message publiquement sur le… curieux sens des priorités de la modération.

Mon message a beaucoup été repris. Bien plus que je ne l’aurais imaginé.

Mea culpa

Je reconnais déjà là deux erreurs « originelles » de ma part :

1. j’aurais pu faire un signalement plus détaillé sur ces messages pour en expliquer le caractère raciste : d’une part expliquer ce qu’est un « dog whistle » et d’autre part dire rapidement ce qu’est le « média » Frontières dans le paysage politico-médiatique actuel.
2. j’aurais dû tenter un rappel direct, en privé, en amont, pour donner une chance de plus à l’équipe de Zaclys de s’éviter un retour de bâton.

Peut-être que cela n’aurait rien changé, mais au moins j’aurais accru les chances que la suite soit plus… positive.

Je suis probablement pas mal affûté sur ces questions.
J’ai tendance à imaginer que la plupart des gens le sont à peu près autant, du fait de mon entourage actuel ainsi que de l’effet « bulle idéologique » de la plupart des réseaux sociaux.
Je suis encore très (très très) en colère sur le manque de prise en compte qui a suivi mes signalements pour des propos racistes auprès d’un de mes anciens employeurs [1].
Je me suis vraiment dit que ce serait pris constructivement par les administrateurs de l’instance Mastodon de Zaclys, et que le tir serait rectifié.

Conséquences

La modération de Zaclys a forcément répondu sur la défensive, en arguant qu’un message d’avertissement avait été envoyé, capture d’écran à l’appui. Sauf que… le message d’avertissement disait que le problème c’était :

• des « propos qui fâchent ».
• le nombre de signalements.
• et pas le racisme ni le média raciste.

Bref, ils se sont enfoncés une première fois en niant le problème de fond.
Puis une seconde fois en disant qu’ils voulaient borner leur modération au strict respect de la loi [2].

Forcément, les gens qui avaient commencé à s’intéresser au sujet leur ont jeté une nouvelle volée de bois vert. Et… je n’aurais pas voulu être à la place des gens de Zaclys en face. Je pense même ne pas avoir tout vu des commentaires qu’ils ont du recevoir. Je n’ai découvert à quel point que ce lundi matin.

Et devant le nombre de commentaires négatifs sur leur (manque de) réaction aux propos racistes, ils ont décidé en moins de 48H de simplement fermer leur instance Mastodon, pour ne plus avoir à gérer ces histoires de modération.

Conclusion partielle

Je reste convaincu que ma critique était juste : la modération sur Zaclys posait vraiment problème. Pas par manque de bonnes intentions, non. Mais à cause d’une vraie grosse naïveté nourrie par un manque d’intérêt pour ces sujets. C’est sans doute un grave problème dans le monde dans lequel on vit, oui. Mais c’est aussi quelque-chose qui peut être corrigé plus facilement qu’avec des personnes avec de pires intentions.

Je pense aussi qu’une décision de fermeture de l’instance de manière aussi rapide est un peu puéril (déso). Enfin, je veux dire, la décision d’une fermeture d’une instance qu’on n’arrive pas à modérer correctement n’est pas un problème en soi. C’est même une bonne décision, je crois. Ce qui est dommage, c’est de prendre la décision ainsi, sans avoir pris le temps de réfléchir vraiment à la modération en amont.

Pour autant, je pense que c’était une conclusion évitable.
D’une part par une meilleure communication et un peu plus de mesure de ma part, comme je l’ai dit plus haut.
D’autre part, par un effet de meute qui aurait aussi pu être évité par chaque personne qui y a participé.
Peut-être aussi en salariant quelqu’un de compétent pour faire les choses bien [3].

C’est peut-être une erreur de ma part, mais je pense que Zaclys produit des outils intéressants à une échelle plus importante que la plupart des autres acteurs du secteur, qui est hélas bien trop réduit.

Et c’est dommage de perdre un de ces outils. Parce-que c’est un outil de communication qui permet de faire de la publicité à de meilleurs outils que ceux des GAFAM. Mais aussi parce-que pour être résilient, le fediverse a besoin de reposer sur un grand nombre d’instances.

On a besoin d’un grand nombre d’instances, techniquement fiables, capable de rester ouvertes à un grand nombre d’utilisateurs, qui tiennent sur la durée, et qui soient bien modérées.

Là, on est en train de perdre une instance qui remplissait les trois premiers critères et qui aurait pu remplir le dernier critère avec un peu plus de pédagogie.

J’en suis attristé.

J’espère qu’on arrivera tous à faire mieux les prochaines fois, administrateurs, modérateurs, et… utilisateurs des autres instances. Moi compris.

Mise à jour du 2025/03/08

Une semaine après, en voyant comment la communication a été gérée par Zaclys, ainsi que par de nombreux retours publics ou privés que j’ai reçu, je tiens à revenir un peu en arrière sur ce que j’écris plus haut.

Il semble en fait maintenant très clair que Zaclys subissait d’autres critiques sur la modération que les miennes. Cette fermeture allait arriver. Ce n’était qu’une question de temps et d’opportunité pour terminer de prendre la décision. Je n’ai apporté que la dernière goutte à un seau d’eau qui débordait déjà du manque de modération depuis des mois. Je n’ai donc pas grand chose à regretter, et ce d’autant plus que Zaclys a tout géré de bout en bout de manière absolument calamiteuse, sans admettre jamais une seule erreur de leur part.

Cependant, je maintiens le côté général de mon propos : ayez quand-même une première approche sympa et aidante avec les modérateurs de vos instances.