Lutte contre la haine sur internet
- 1. Ertzscheid Olivier Maître de conférences. Université de Nantes. IUT de La Roche sur Yon. www.Affordance.info Paris. 22 février 2015 1
- 2. Préambule 2
- 3. Discours de la haine ? OUI C’est compliqué C’est compliqué 3
- 4. Qui décide ? De diffuser ou de bloquer cette vidéo ? Qu’il s’agit de tweets antisémites ou d’humour ? Qu’il s’agit de blasphème ou de droit à la caricature ? 4
- 5. Qui décide ?? La justice ? Mais laquelle ? Française ? Européenne ? Saoudienne ? Israëlienne ? Palestinienne ? … Nous ? Mais nous sommes capables du meilleurs, comme du pire … Un algorithme ? Sur quels critères ? Avec quel risque d’erreur ? Une multinationale ? Mais sur quels critères ? De quel(s) droit(s) ? A quelle échelle ? 5
- 6. Qui décide ? Une real-géo- politique du business ? 6
- 7. RAPIDE RETOUR EN ARRIÈRE 7
- 8. Il y a 20 ans « Vos lois ne s’appliquent pas ici » • 1996. John Perry Barlow rédige la « déclaration d’indépendance du cyberespace. » • « Nous sommes en train de créer un monde où tous peuvent entrer sans privilège et sans être victimes de préjugés découlant de la race, du pouvoir économique, de la force militaire ou de la naissance. • Nous sommes en train de créer un monde où n’importe qui, n’importe où, peut exprimer ses croyances, aussi singulières qu’elles soient, sans peur d’être réduit au silence ou à la conformité. • Vos concepts légaux de propriété, d’expression, d’identité, de mouvement, de contexte, ne s’appliquent pas à nous. Ils sont basés sur la matière, et il n’y a pas ici de matière. » 8
- 9. Il y a 15 ans « Code is Law » • 2000. Lawrence Lessig publie l’article « Code is Law. » • « Des gens choisissent la manière dont le code effectue tout cela. Des gens écrivent ce code. Dès lors le choix n'est pas de savoir si les gens pourront choisir la manière de réguler le cyberespace. D'autres gens - les codeurs - le feront. Le seul choix est de savoir si nous jouerons collectivement un rôle dans leurs choix - et si nous pourrons alors déterminer la manière dont ces valeurs se régulent - ou si nous autoriserons collectivement ces codeurs à décider de ces valeurs à notre place. » 9
- 10. Il y a 1 mois. « Nous sommes au-dessus des lois ? » • 9 Janvier 2015. • 2 jours après les attentats, Mark Zuckerberg écrit sur son mur « Nous suivons les lois de chaque pays, mais nous ne laissons jamais un pays ou un groupe de gens dicter ce que les gens peuvent partager à travers le monde. » 10
- 11. Je résume 1996. « Il n’y a pas de lois ici » 2000. « le code c’est la loi » 9 Janvier 2015. « certaines plateformes sont au-dessus de certaines lois. » 11
- 12. HEUREUSEMENT … Lutter contre la haine sur internet ? 12
- 13. • Les lois existent et elles s’appliquent USA (patriot act), France (LOPPSI) • Des dispositifs existent et sont utilisés – Au niveau des états : https://www.internet-signalement.gouv.fr/ – Au niveau des plateformes : « report » / « block ». #BigBrother VS #LittleSisters – Au niveau des … consciences : phénomènes d’auto-régulation. • Panoptique dont nous sommes à la fois les gardiens et les prisonniers. • Mais toutes les voix ne se valent pas : – D. Cardon : « On est tous égaux a priori, mais la différence se creuse ensuite dans la mesure de nos actes, entre ceux qui agissent et ceux qui n’agissent pas. Internet donne une prime incroyable à ceux qui font. Et du coup, il peut y avoir une tyrannie des agissants. » http://www.culturemobile.net/visions/dominique-cardon-democratie- internet 13
- 15. Attention à ne plus se tirer une balle dans le pied • OUI C’EST VRAI : il est facile de « se radicaliser / acheter des armes / harceler les gens » EN LIGNE. • OUI C’EST VRAI AUSSI : il n’a jamais été aussi facile de repérer ceux qui « se radicalisent / achètent des armes / harcèlent les gens » EN LIGNE. • Car le numérique est, par nature, un média de la trace, de l’archive. Pas besoin de la NSA pour s’en souvenir. • Numérique est un « Pharmakon » (Stiegler) : à la fois remède et poison. 15
- 16. Attention à « internet zone de non-droit » que l’on fantasme en « internet état de droit » • Peut-il y avoir des lois « transnationales » ? Non. Il peut y avoir des accords mais pas de lois. • Internet n’est pas un « état ». Ou alors Mark Z., Brin et Page sont des chefs d’état. Barak O. Président of USA. 320 millions d’habitants. Mark Z. CEO of Facebook. 1,5 milliard d’utilisateurs. 16
- 17. Avant de (ré)agir … comprendre 17
- 18. Affaire du bijoutier de Nice. 1 même fait mais 2 réalités DANS L’UN ET DANS L’AUTRE CAS : Où sont les manifestants ? Quels discours tiennent-ils ? Contre qui ont-ils « de la haine » ? Contre la justice ? Contre les jeunes ? Contre la société ? Quel est le poids de ce discours de haine et/ou de colère ? Poids médiatique ? Poids politique ? Poids sociétal ? Poids communautaire ? 18
- 19. Affaire du bijoutier de Nice. 1 même fait mais 2 réalités JE PARTICIPE À UNE MANIF. Je m’engage. Je m’astreins. J’impacte. Coût physique (déplacement) Coût cognitif (je me renseigne pour savoir si cela en vaut vraiment la peine). Je peux ne pas être disponible. 19
- 20. Affaire du bijoutier de Nice. 1 même fait mais 2 réalités JE PARTICIPE À 1 DISCOURS COLLECTIF. Je me désengage. Je m’affranchis de la nécessité de l’engagement. Je me dédouane. Aucun coût, ni physique, ni cognitif. Ce qui ne coûte rien n’engage à rien (et si c’est gratuit c’est moi le produit) Je suis tout le temps disponible. 20
- 21. Affaire du bijoutier de Nice Pas la même temporalité Pas le même coût Pas la même participation Pas le même engagement Et peut-être même pas forcément Les mêmes … personnes !! 21
- 22. Y-a-t-il vraiment un discours de haine sur internet ? Oui mais … 22
- 23. 23 Effet « petit pois » : on se focalise sur des phénomènes relevant quantitativement de l’exception, de l’infinitésimal #jesuiskouachi : http://www.arretsurimages.net/chroniques/2015-01-22/- JeSuisKouachi-le-hashtag-sulfureux-peut-dire-merci-au-FN-id7399 #jenesuispascharlie : http://www.20minutes.fr/societe/1512771-20150108- attaque-charlie-hebdo-comment-reseaux-sociaux-gerent-messages-haineux Effet Streisand : supprimer « publiquement » un contenu c’est lui donner de l’audience. Supprimer un contenu c’est accélérer sa republication (et l’audience qu’aura cette republication) Effet miroir (ce qui est à gauche apparaît à droite dans le miroir) : on les interprète à l’inverse de ce qu’ils signifient. Pour 100 000 « je suis charlie », 100 « je ne suis pas charlie ». Et sur ces 100 : 99 pour condamner celui qui a dit « je ne suis pas charlie »
- 24. 24 • Effet cigogne* (confondre corrélation et causalité) • « sur internet il y a des terroristes / antisémites / pédophiles et les appels à la haine sont plus élevés que dans la vie. Conclusion : Internet incite à la haine. » • Cf « Tyrannie des agissants » déjà citée de D. Cardon. • * http://cortecs.org/effets-sophismes-biais-techniques/effets-cigogne-correlation-vs-causalite/ + + =
- 25. Pourquoi est-ce si compliqué ??! Ok mais alors lutter contre la haine sur internet, 25
- 26. 3 moyens de lutte contre la haine • La loi – principe de territorialité – Nul n’est censé l’ignorer. – Mais tout le monde à le droit à un avocat. • Les règlements (CGU) – principe de viabilité commerciale. – Nul n’est censé les lire – mais tout le monde est considéré comme les ayant accepté. • Le code – principe d’invisibilité. – Nul n’est (plus) censé le maîtriser, – mais tout le monde quotidiennement s’y soumet. – Y compris … le législateur ? • What Else ? • Principes ? Morale ? Ethique ? Valeurs ? 26
- 27. 27 Lutter contre la haine • La loi • Les règlements (CGU) • Le code • Qu’est-ce qui est le plus important ? LE CODE. • Qu’est-ce qui décide ? LE CODE. • Que doit connaître la loi ? LE CODE. Océan / plage (espace public) CIRCULAIRE n° 86-204 du 19 juin 1986. Surveillance des plages et lieux de baignade d'accès non payant. Piscine (espace privé) Dans quoi je me baigne ?? Dans de l’eau ou dans de l’acide chlorydrique ? 27
- 28. « Nul n’est censé ignorer la loi » « Nulle loi ne peut plus se permettre d’ignorer le code. » Devient … « Code is Law » 28
- 29. Résultat ? • 9 Janvier 2015. • 2 jours après les attentats, Mark Zuckerberg écrit sur son mur « Nous suivons les lois de chaque pays, mais nous ne laissons jamais un pays ou un groupe de gens dicter ce que les gens peuvent partager à travers le monde. » Il a le code. Nous avons signé son règlement. IL EST LA LOI. SA LOI. 29
- 30. On fait quoi ??! Donc pour lutter contre la haine sur internet … 30
- 31. Principes de démocratie • Ce sont, in fine et de facto les plateformes, leurs CEO et leurs algorithmes qui décident : 1. Décident de publier telle ou telle vidéo, 2. Décident de laisser passer tel ou tel #hashtag, 3. Algorithmes ont un pouvoir de police et de justice permanent et pour l’essentiel parfaitement opaque. • Or ces 3 points relèvent d’une éditorialisation « classique » • On ne peut pas demander aux plateformes : – de « modérer » les millions de contenus publiés chaque minute. – D’appliquer une « territorialité du droit » sur tous les sujets • DONC IL FAUT OUVRIR ET METTRE EN DÉLIBÉRÉ LA PARTIE DU CODE QUI RELÈVE DE CETTE ÉDITORIALISATION • Stiegler « la démocratie est d’abord un exercice de rendu public. » • Ne pas tout attendre du politique ni des plateformes – « Internet joue en effet un rôle majeur dans l’émancipation, dans l’auto- organisation de la société civile, sans que ses acteurs aient nécessairement à se préoccuper du centre de la société que seraient l’exécutif et la démocratie représentative… » D. Cardon 31
- 32. Ne pas laisser ces plateformes devenir le web. 32Et imposer leur loi.