La police allemande se sert d’une intelligence artificielle pour traquer les producteurs de contenu adulte postant leurs créations sur Twitter et les menacer de poursuites. Paulita Pappel, co-fondatrice de la FSC Europe, sonne l’alarme face au harcèlement manifeste des autorités. 

Voilà une nouvelle qui nous évoque les grandes heures de la surveillance teutonne. Selon Wired et XBIZ, plus d’une centaine de créateurs allemands de contenus sexuellement explicites ont reçu une lettre absconse émise par la police, les accusant de distribution illégale de pornographie. Ni les lieux, ni les dates, ni les contenus, ni la loi enfreinte n’étant précisés dans le courrier, ce n’est qu’en appelant directement le service émetteur que les accusés ont pu être mis en face de leurs actes, screenshots à l’appui, et directement menacés d’amendes de plusieurs centaines d’euros, voire d’un an de prison. Leur faute : avoir fait étalage de leurs aventures sexuelles sur le réseau Twitter. Or, en Allemagne, le partage de matériel pornographique n’est toléré qu’au sein de groupes fermés, préalablement pourvus d’un système de vérification d’âge. Nous y revoilà…

Au pas, à marche forcée

À l’instar de la France, l’Allemagne opère depuis plus de deux ans une campagne d’exclusion de la pornographie sur Internet, à l’initiative de Tobias Schmid, directeur de l’autorité des médias de la Rhénanie-du-Nord-Westphalie. Décrit par le quotidien berlinois Taz comme une « fétichiste de l’ordre », Schmid fait campagne contre le X sur plusieurs fronts, aussi bien sur le plan national qu’européen, à la tête du groupe des régulateurs européens des services de médias audiovisuels (ERGA). Arguant évidemment de l’irréfutable nécessité de « protéger les enfants », il oriente activement la politique allemande vers une guerre contre le porno en ligne, au détriment de toute prévention des autres risques numériques pour les mineurs, avec l’objectif d’imposer un système de vérification d’âge à quiconque partagerait des images explicites sur la toile.

Et cette procédure, que l’on croyait jusqu’ici réservée aux structures massives de distribution de porno gratuit, telles que Pornhub, XVideos ou encore Xhamster, frappe aujourd’hui les petits créateurs indépendants via leurs profils sur les réseaux sociaux. Hyper-dépendants de ces plateformes pour promouvoir leur production, et ainsi assurer leur subsistance, ces derniers n’ont d’autres choix que de supprimer parfois l’intégralité de leurs posts, au risque de sombrer dans une précarité extrême, sans la moindre garantie de contenter le législateur. En effet, il n’existe à l’heure actuelle aucune solution technique permettant aux indés de contrôler l’accès des personnes mineurs à leur contenu, sauf à méchamment enfreindre le droit numérique en fichant, cartes d’identité à l’appui, la liste des leurs abonnés. Ils doivent donc s’en remettre aux plateformes, elles aussi dans le collimateur des autorités allemandes. Echec et mat. 

Big Brother beobachtet dich

Pourtant, les services informatiques made in Germany débordent de créativité et d’initiative. C’est d’ailleurs grâce à un tout nouveau logiciel d’intelligence artificielle certifié « Deutsche Qualität » que la police a pu débusquer les odieux pornographes. Elégamment baptisé KIVI, contraction de Künstliche Intelligenz, l’intelligence artificielle, et de la locution latine Vigilare, littéralement « veiller », l’algorithme explore les réseaux à la recherche d’images licencieuses et signale les profils relevés à la police qui fait son office. Une telle débauche de moyens technologiques aurait pu servir, par exemple, à la mise en place d’un système de certification de majorité respectueux de la vie privée et de la liberté de naviguer mais ce n’est évidemment pas le but de la manœuvre. Bien plus idéologique qu’elle ne veut l’admettre, l’approche allemande se sert de la prévention comme d’un prétexte pour resserrer le collet autour de l’expression sexuelle dans son ensemble.

Preuve en est, la mise en demeure de Madita Oeming, universitaire reconnue et essayiste féministe sex-positive. La chercheuse a été contrainte de supprimer près de deux mille tweets suite à la réception de deux lettres de la police concernant ses activités en ligne. Elle est dorénavant cataloguée comme danger potentiel pour les jeunes et vivement enjoint à se rapprocher d’un conseiller d’un « officier de protection de la jeunesse » pour superviser ses posts. Quand on sait ce que donnent les programmes de jeunesse outre-Rhin, ça fait rêver…

À en croire Paulita Pappel, productrice indépendante et co-fondatrice de la Free Speech Coalition Europe est bien plus critique qu’une poignée de signalements abusifs. Elle répond en exclusivité aux questions de La Voix du X :

Avez-vous personnellement été menacée de poursuite par la police allemande pour votre activité ?

Je n’ai pas été poursuivie personnellement, mais nous enregistrons de plus en plus de créateurs concernés. La commission de protection des jeunes des médias (KJM) se focalise depuis 2020 sur le bannissement de la pornographie. Depuis des années, cette institution cible les créateurs indépendants, leur réclamant des amendes jusqu’à 20 000 euros et les menaçant de prison. 

En « évoluant », l’algorithme semble devenir toujours meilleur pour ce qui est d’identifier les images pornographiques, et nous constatons une augmentation du nombre de poursuites à l’encontre des créateurs individuels incriminant leurs comptes Twitter et leurs sites personnels.

Les producteurs, modèles et créatrices s’inquiètent-ils de cette situation ? 

Ils ont peur et se sentent abandonnés, démunis. Twitter a l’air d’être la plateforme depuis laquelle les créateurs sont ciblés en priorité. C’est souvent le réseau qui reçoit les mises en demeure des autorités, puis transmet l’information sous la forme suivante : « Twitter a reçu un courrier officiel au sujet de votre compte Twitter, lui signifiant que ledit compte enfreint la législation allemande, et réclamant la suppression du contenu incriminé. » Souvent, les autorités ne sont pas en mesure de relier les comptes avec les identités des personnes qui les gèrent. Mais lorsque c’est possible, elle leur envoie la mise en demeure directement, quel que soit leur lieu de résidence. 

Prend-on des dispositions spécifiques pour se protéger de ce genre de procédures légales ?

En premier recours, les professionnels fuient le pays. La plupart des créateurs de contenu majeurs ont déjà déménagé vers d’autres pays d’Europe, principalement l’Autriche, la Suisse ou Chypre. Ceux qui n’ont pas les moyens de migrer, pour raisons personnelles ou financières, sont forcés de changer de stratégie marketing et par conséquent de voir leurs revenus s’effondrer. Pour les créateurs les plus petits, cela signifie renoncer à leur carrière. Cette situation frappe principalement les créateurs racisés et LGBTQI+. Elle crée une atmosphère de peur et de méfiance poussant à une précarisation du métier qui appauvrit les créateurs et pousse les consommateurs vers des plateformes illégales où le contenu est piraté, plutôt que vers les voies d’accès légales et l’achat en direct auprès du producteur.

C’est une forme de censure, selon vous ?

Ce nouveau pic de mises en demeure s’aligne sur la stratégie institutionnelle : cibler aléatoirement plateformes et créateurs, en ignorant la vue d’ensemble et les réalités de cette industrie. Si le but de l’institution allemande est réellement de protéger les mineurs, leur plan d’action prouve en tout cas le contraire. Les créateurs de contenus et les producteurs de pornographie ont montré leur volonté d’ouvrir le dialogue et de développer des outils techniques en coopération avec le gouvernement pour améliorer la régulation du porno sur Internet, en particulier auprès des personnes mineures. 

L’institution pourrait investir ses efforts dans l’amélioration techniques de filtres de contrôle parental, l’éducation des parents et des mineurs, et la coopération avec l’industrie pour améliorer le contenu et la lutte contre le piratage et les sites illégaux.

Au lieu de cela, sa position poursuit clairement une démarche de censure. Et cette approche ne bénéficie pas aux mineurs. Au contraire, elle crée une sphère économique dans laquelle le contenu produit légalement et de manière éthique est étranglé, permettant ainsi aux plateformes illégales de fleurir. Elle fait d’Internet un espace moins sûr, autant pour les mineurs que pour les adultes.

Surveillance, fichage et exclusion des canaux de communication numériques, l’approche des autorités allemandes relève d’une stratégie de la peur qui vise à museler l’expression sexuelle dans son ensemble, par l’autocensure de ceux qui la promeuvent. Que peut-on faire, dire, ou montrer, lorsqu’on est désigné et poursuivi sans critère, sinon l’insondable déduction d’un programme informatique et la bonne foi supposément indiscutable de ceux qui le pilotent ? L’arbitraire d’une autorité qui ne prend même plus la peine de se justifier, est-ce là le nouveau paradigme de la régulation du web ? Entre modération opaque des réseaux sociaux et criminalisation institutionnelle, c’est vraisemblablement le cas. En attendant, créatrices indépendantes et producteurs autonomes perdent tout et le piratage ne s’est jamais porté aussi bien. Mais au fond, qui s’en soucie ?