Dès qu’un site accepte des contributions (avis, commentaires, annonces, messages entre membres), la modération devient un travail permanent. Elle est ingrate, difficile à recruter, et elle ne peut pas s’arrêter le week-end.
Deux réponses extrêmes circulent, et toutes deux échouent : tout relire à la main, ce qui ne tient pas au-delà de quelques centaines de contributions par jour ; ou tout confier à un filtre automatique, qui bloquera un message légitime sur vingt et laissera passer les contournements les plus grossiers.
Répartir selon le coût de l’erreur
La bonne question n’est pas « le filtre est-il fiable ? » mais « que coûte chacune des deux erreurs possibles ? ». Elles ne sont jamais symétriques.
Laisser passer un contenu illégal expose juridiquement et abîme la marque. Bloquer un message anodin crée un utilisateur mécontent, parfois public. Selon votre activité, l’un ou l’autre pèse davantage et c’est ce déséquilibre qui doit régler les seuils, pas une valeur par défaut.
Trois files, un seul principe
Blocage automatique pour ce qui est certain et grave : contenus manifestement illicites, doublons de spam déjà connus, liens vers des domaines identifiés. Le volume y est faible, la certitude élevée.
Mise en attente pour le douteux : le contenu n’est pas publié, un modérateur tranche. C’est là que la charge humaine se concentre, et c’est cette file qu’il faut mesurer et dimensionner.
Publication immédiate avec surveillance pour le reste : le contenu paraît, mais un signalement d’utilisateur le fait remonter en priorité.
Le principe unique derrière ces trois files : plus la sanction est lourde, plus la certitude exigée doit être haute.
Ce que le filtre ne verra pas
Les contournements typographiques évoluent en permanence, et ils gagnent toujours une longueur d’avance. Plus difficile encore : l’ironie, les sous-entendus, et le harcèlement diffus (une série de messages anodins pris isolément, insupportables mis bout à bout).
C’est pourquoi la modération par contenu doit être complétée par une lecture des comportements : fréquence de publication, ancienneté du compte, ciblage répété d’un même utilisateur. Ces signaux ne demandent aucune compréhension du texte et attrapent ce que l’analyse du message rate.
Le cadre légal a changé
Le règlement européen sur les services numériques impose désormais des obligations concrètes : motiver les décisions de retrait, offrir un recours interne, et traiter les signalements dans des délais définis. Un système qui bloque sans expliquer n’est plus seulement désagréable, il est non conforme.
Cela a une conséquence technique : chaque décision automatique doit être tracée avec sa raison, et cette trace doit être exploitable pour répondre à une contestation.
Ce qui est surestimé
Le taux de détection annoncé sur des jeux de tests publics. Ces jeux contiennent des insultes explicites, faciles à repérer ; votre problème réel est souvent une escroquerie polie ou une annonce interdite parfaitement rédigée. Seule une mesure sur vos propres contenus signalés vaut quelque chose.
Nous calibrons ces seuils sur votre historique et votre exposition, dans notre prestation de modération de contenus.