Le Conseil national du numérique exprime ses interrogations sur la proposition de loi visant à lutter contre la haine sur internet

Le CNNum tient à rappeler son attachement à la lutte contre les contenus haineux dont les pouvoirs publics ont fait une priorité. Il considère que la lutte contre les contenus haineux devrait combiner des mesures visant à rendre le droit en vigueur plus efficace (y compris en donnant plus de moyens à la Justice) et des mesures visant à renforcer la responsabilisation des plateformes. Cette lutte doit se réaliser dans le respect des droits humains, des principes de nécessité et de proportionnalité et intégrer des recours effectifs afin de prévenir tout risque d’abus.

Le CNNum estime que la mission sur la régulation des réseaux sociaux, lancée par le gouvernement en janvier 2019, qui a commencé par une expérimentation sur la modération des contenus par Facebook, devrait permettre d’apporter des recommandations concernant la lutte contre les contenus haineux et, de manière plus large, concernant la régulation des plateformes. En conséquence, le CNNum appelle les pouvoirs publics à prendre en considération les résultats finaux de cette mission. Il considère en particulier que la mission sur la régulation des réseaux sociaux permettrait d’enrichir la réflexion concernant l’équilibre entre le rôle du juge, des plateformes et de la co-régulation dans la lutte contre les contenus illicites.

Le CNNum estime aussi que les pouvoirs publics devraient étudier de façon approfondie l'impact que la proposition de loi visant à lutter contre la haine en ligne (ci-après : « PPL »)(1) pourrait avoir sur les droits et les libertés et étudier son articulation avec le droit européen. Si la volonté de lutter efficacement contre les contenus haineux est louable, les pouvoirs publics devraient prendre en compte les dix enjeux suivants :

1. Préciser les objectifs et le rôle de l’État : il est indispensable de prévoir un juste équilibre entre le recours aux mécanismes judiciaires, à la régulation et à l’auto-régulation.

2. Se fonder sur des définitions claires : en particulier en ce qui concerne le caractère « manifestement » illicite d’une « incitation à la haine » ou d’« une injure » à raison de « la race, de la religion, de l’ethnie, du sexe, de l’orientation sexuelle ou du handicap ».

3. Protéger les droits fondamentaux et, surtout, la liberté d’expression : le rôle du juge doit être fondamental dans tout dispositif de lutte contre les contenus haineux pour éviter les abus, protéger les victimes et offrir toutes les garanties nécessaires d’indépendance à l’égard tant des plateformes que du pouvoir exécutif.

4. Prévoir des recours effectifs : le CNNum regrette qu’aucune précision ne soit donnée dans la PPL en ce qui concerne les mécanismes de recours ou les conséquences en cas de manquement.

5. Penser à des sanctions graduées, respectueuses du principe de proportionnalité : la PPL prévoit des sanctions qui pourraient être extrêmement lourdes « jusqu’à 4% du chiffre d’affaires annuel mondial total de l’exercice précédent » sans donner de précisions quant à la façon d’appréhender la « gravité » et le « caractère réitéré » des infractions concernées.

6. Penser la responsabilité pénale en articulation avec le droit européen : l’article 2 de la PPL qui prévoit que « la connaissance des faits litigieux sera présumée acquise » lorsque les utilisateurs ont transmis un signalement comportant le peu d’informations figurant sous cet article, pourrait poser des problèmes de conformité avec le droit européen.

7. Assurer la cohérence normative du Marché unique numérique : le Conseil s’inquiète de la multiplication des législations nationales applicables aux contenus illicites en Europe et ceci alors que ces lois nationales ont vocation à s’appliquer à des plateformes qui agissent bien au-delà des frontières nationales. Plutôt que de multiplier les initiatives nationales dans ce domaine, il convient peut-être d’entrer dans une logique d’harmonisation et de réfléchir à des solutions intelligentes et efficaces sur le plan européen, respectueuses des libertés et des droits fondamentaux.

8. Prendre en compte le rôle des plateformes dans l'accélération des contenus et réfléchir aux moyens de réguler les systèmes eux-mêmes et pas seulement les contenus : le Conseil estime opportun de rappeler les principes directeurs de loyauté et de transparence des plateformes dans la lutte contre les contenus illicites et de moderniser les moyens de la justice et de la régulation.

9. Procéder à une étude de l’efficacité et de la fiabilité ainsi qu’à une analyse des risques des « mesures proactives » fondées sur des dispositifs d’intelligence artificielle : le CNNum considère que la mise en œuvre de moyens « technologiques proportionnés et nécessaires à un traitement dans les meilleurs délais des signalements reçus » (art. 2 (III) de la PPL), pourrait encourager le recours à des systèmes de filtrage automatisé. Le CNNum estime que les pouvoirs publics devraient exiger des plateformes des études d’impact permettant d’évaluer l’efficacité et la fiabilité de ces dispositifs et encadrer leur utilisation en fonction des impératifs de l’État de droit.

10. Responsabiliser les entreprises sans que la fonction de modération des contenus ne renforce les plus puissantes d'entre elles : les systèmes de modération des contenus encouragés par la PPL pourraient en effet conférer un avantage non négligeable aux grands acteurs qui disposent déjà des capacités techniques et des ressources humaines nécessaires pour se conformer à la PPL.

Le 21 mars 2019.