Débat : « Contenus haineux sur internet : en ligne ou hors ligne, la loi doit être la même »

Mme la présidente. La parole est à M. Éric Gold.

M. Éric Gold. L'élection américaine est une illustration des profondes fractures que connaissent les démocraties, fractures permettant au populisme de prospérer : rôle croissant des réseaux sociaux et multiplication des fake news, affaiblissement du lien collectif au profit d'une forme d'individualisme, voire de communautarisme. Ces défis concernent également l'Europe, qui subit, elle aussi, une perte collective de repères et de confiance, sapant les fondements démocratiques.

En France, la même démagogie, le même complotisme et le même cynisme se répandent. Les réseaux sociaux en sont un formidable vecteur, avec leur lot toujours plus important de menaces et d'intimidations, lancées derrière un écran, sous couvert d'anonymat et avec un fort sentiment d'impunité.

C'est ainsi que l'on retrouve jetés en pâture tous les amalgames possibles, sans le moindre discernement et le moindre contrôle. Les petits paysans sont comparés à des assassins qui empoisonnent, les migrants à des terroristes, et toutes les règles élémentaires sont systématiquement remises en cause.

Le projet de loi confortant les principes républicains, présenté cette semaine, contient certaines dispositions relatives à la haine en ligne permettant d'élargir le champ d'action de la justice.

Mais aucune loi n'empêchera jamais ces discussions de comptoir sur internet, qui peuvent mener à la violence, sans le filtre de la conversation et du débat éclairé. Seule l'éducation en limitera les effets. C'est pourquoi l'investissement de l'État dans la lutte contre l'illectronisme pourrait être l'occasion de renforcer la sensibilisation des plus jeunes à ces sujets, conformément aux recommandations de la mission d'information créée, à la demande de mon groupe, sur la lutte contre l'illectronisme.

Cela ne doit surtout pas nous faire oublier la responsabilité des réseaux sociaux et leur modération à géométrie très variable. Comment l'État peut-il agir pour que ces réseaux sociaux et les forums renforcent l'efficacité de leur modération ? Entend-il investir davantage dans l'intelligence artificielle pour une modération plus opérationnelle dans ce domaine, mais aussi pour repérer efficacement les auteurs de discours appelant une sanction ?

Mme la présidente. La parole est à M. le secrétaire d'État.

M. Cédric O, secrétaire d'État auprès du ministre de l'économie, des finances et de la relance et de la ministre de la cohésion des territoires et des relations avec les collectivités territoriales, chargé de la transition numérique et des communications électroniques. Ayant eu l'occasion d'expliciter de quelle manière nous souhaitons aborder la régulation de la modération, peut-être puis-je profiter de votre question, monsieur le sénateur Gold, pour évoquer un autre sujet, qui est central pour moi : la compétence et la capacité de l'État.

Aujourd'hui, les développeurs et les spécialistes de l'intelligence artificielle des GAFA sont les meilleurs du monde et sont payés plusieurs millions d'euros par an. La compétence disponible au sein de l'État pour ouvrir ou contrôler les boîtes noires, bien qu'elle ne soit pas nulle et que nous la développions, est, elle, relativement limitée.

Par conséquent, se pose la question de la capacité de l'État à se doter de moyens, pas seulement législatifs, et à proposer des conditions attractives aux gens de même niveau que les spécialistes des GAFA afin d'être en mesure de les recruter. Sans cela, tout ce dont nous discuterons ou que nous voterons sera complètement vain.

Nous avons commencé à travailler sur ce sujet en créant le pôle d'expertise de la régulation numérique.

Cette structure rassemble des spécialistes du big data et de l'intelligence artificielle au sein de l'administration. Elle est à la disposition de toutes les autorités indépendantes et de toutes les entités administratives, car la compréhension des algorithmes est un problème que rencontrent toutes les administrations – que ce soit la Direction de la législation et de la codification, l'Autorité de régulation des communications électroniques, des postes et de la distribution de la presse, la Commission nationale de l'informatique et des libertés, le Conseil supérieur de l'audiovisuel, la Direction générale de la concurrence, de la consommation et de la répression des fraudes ou encore la Direction générale des entreprises. Ces compétences sont rares et chères.

À l'heure actuelle, le pôle compte une petite dizaine de personnes, mais il va monter en compétences. Notre idée consiste bien à en faire un pôle d'expertise, dans lequel les différentes institutions pourront venir piocher. Nous avons besoin de lois, mais aussi des capacités de les appliquer réellement, sur le terrain et en ligne.

Mme la présidente. La parole est à M. Éric Gold, pour la réplique.

M. Éric Gold. Comme vous l'avez rappelé, monsieur le secrétaire d'État, le rôle des modérateurs est surtout de mettre les horreurs sous le tapis, il n'est pas d'agir contre leurs auteurs. Certes, il faut faire de la formation, mais l'intelligence artificielle doit aussi permettre de repérer, à la source, les causes de départ de discours haineux, qui donneront lieu, ensuite, à tous les abus sanctionnables.

Enfin, je prends note avec enthousiasme de la création du pôle d'expertise.