Le 18 septembre 2017, la 4e chaîne de télévision britannique a diffusé des informations avec le titre «Sur Amazon», qui achètent souvent ensemble «des ingrédients pour des bombes meurtrières».
La nouvelle affirmait que «les utilisateurs à la recherche d'un produit chimique commun utilisé dans les aliments se voient proposer des ingrédients adaptés à la fabrication de poudre noire explosive» sur Amazon et que «des billes en acier, souvent utilisées comme des éclats d'obus», sont également annoncées sur cette page. comme des choses que les utilisateurs achètent souvent ensemble.
Le «produit chimique commun» dans le rapport Channel 4 est le nitrate de potassium (nitrate de potassium), utilisé pour mariner la viande. Si vous commandez un sac d'un demi-kilogramme de cette substance sur Amazon, parmi les produits proposés en plus de l'achat, vous verrez du soufre et du charbon, deux autres ingrédients de la poudre à canon (contrairement à Channel 4, il n'est pas difficile pour moi de révéler le secret de cette
technologie vieille de 1000 ans ).
Le sous-texte de l'actualité est clair: les recommandations du site incitent les amateurs de cuisine à la maison à des radicaux qui peuvent refuser de faire du corned-beef en faveur de la production de bombes à éclats. Pour aggraver les choses, il semble que suffisamment de gens achètent ces pièces pour des bombes dans le magasin afin que l'algorithme révèle une corrélation et commence à donner ses sombres conseils.
Certes, si vous regardez un peu, il s'avère que tout ce que Channel 4 a révélé est une communauté d'amateurs qui fabriquent de manière indépendante, en toute sécurité et légalement de la poudre noire pour les feux d'artifice, les modèles de fusées, les répliques d'armes anciennes ou l'élimination des souches.
En Grande-Bretagne, la fabrication et le stockage de poudre noire sont légaux. Il y a des restrictions sur les volumes de stockage (100 grammes), mais comme la poudre noire est facile à fabriquer à partir d'ingrédients bon marché, il est difficile de s'enflammer par accident, et elle est pratiquement non toxique, elle est souvent choisie par les amateurs de loisirs novices. Vous avez seulement besoin d'un
broyeur à boulets (granulateur) - un tambour rotatif avec des billes pour les roulements à l'intérieur, mélangeant des poudres et produisant des granulés de la même taille.
Tout cela a conduit à la déclaration étonnante de Channel 4 selon laquelle, avec le soufre et le charbon, l'algorithme d'Amazon propose des détonateurs, des fils et des "billes en acier pour roulements, souvent utilisées comme shrapnel dans les bombes".
Les billes de roulement en acier Amazon sont évidemment destinées à une usine de granulés. L'algorithme reconnaît le fait que les personnes qui achètent des ingrédients pour la poudre noire doivent fabriquer des granulés. Ce n'est pas plus choquant que l'offre d'acheter un moulin à épices en plus du poivre.
Le fait que ces balles soient vendues pour faire des éclats est un fantasme de journaliste. Il est inconcevable qu'Amazon vend autant de matériel de fabrication de bombes pour que l'algorithme commence à faire des recommandations.
Plus loin sur la chaîne, il a été dit que les personnes à la recherche d'un "autre produit chimique public" se voient proposer des ingrédients pour un
mélange de thermite composé de poudres métalliques, qui, lorsqu'elles sont incendiées, "déclenchent une réaction dangereuse utilisée dans les bombes incendiaires, ainsi que lors de la découpe de métal".
Dans ce cas, le «produit chimique couramment disponible» est le ruban de magnésium. Si vous recherchez une telle bande sur Amazon, le site vous proposera d'acheter plus d'oxyde de fer (rouille) et de poudre d'aluminium, et en les mélangeant, vous pouvez créer un feu d'artifice incroyable - une réaction de termite.
Cette réaction est montrée à n'importe quelle leçon de chimie au lycée, comme une récompense pour les élèves qui ont dû souffrir de l'étude des réactions d'oxydoréduction. Mélanger la rouille et l'aluminium en poudre dans un creuset, y mettre le feu avec du ruban de magnésium et observer un jet de flamme, laissant derrière lui du fer en fusion. Les poudres métalliques mixtes sont difficiles à enflammer (cela nécessite un ruban de magnésium), mais lorsque vous démarrez la réaction, elles brûlent violemment.
Les principales utilisations par les consommateurs du mélange de termites sont les démonstrations en laboratoire et la chimie du divertissement. Ce qui est important, le mélange de thermite n'explose pas.
La 4ème chaîne a donc été découverte par le fait que les fans de feux d'artifice et de professeurs de chimie achètent sur Amazon. Mais en tissant un rapport explosif sur le terrorisme à partir de ces observations innocentes, ils ont veillé à ce que les nouvelles obtiennent le plus d'attention.
L'histoire, Amazon vous apprend à fabriquer des bombes, s'est propagée de manière prévisible sur Internet.
Tous ces articles manquent de sens des proportions ou de réalisme. Dans quel univers une personne innocente achète-t-elle un sac de soufre ordinaire transformé en radical qui fabrique une bombe à poudre impromptue remplie de shrapnel en utilisant un service de recommandation?
Channel 4 pense-t-il vraiment que les instructions pour fabriquer des explosifs sont si difficiles à trouver sur Internet que les gens achètent des produits chimiques au hasard pour découvrir les secrets de la poudre à canon?
Dans quelle mesure Amazon doit-il prendre en charge les recommandations fournies par le site? Par exemple, sur la page avec une offre d'achat d'ammoniac, il y a des recommandations pour acheter de l'eau de Javel concentrée avec. L'ammoniac avec de l'eau de Javel réagit avec la libération de gaz mortel, et ces substances peuvent être achetées sur Amazon en quantités illimitées. Est-ce à dire qu'Amazon essaie de convaincre ses clients d'empoisonner les gens avec de la chloramine?
Et enfin, combien de personnes, selon Channel 4, achètent des bombes sur Internet? Pour que l'algorithme de recommandation propose des shrapnels aux acheteurs de soufre, il est nécessaire que des milliers ou des dizaines de milliers de personnes achètent ces articles en même temps, en les combinant dans un même panier. Et où sont tous ces terroristes avec des bombes à poudre noire? Et un tel terroriste utilisera-t-il une boutique en ligne qui révèle son identité?
Un journaliste plus équilibré préciserait que la poudre noire, en tant que substance qui brûle lentement, n'est pas le meilleur matériau pour les bombes. D'autres combinaisons sont tout aussi faciles à réaliser, et elles explosent beaucoup plus fort.
La bombe qui a explosé dans le bâtiment fédéral de l'Oklahoma, par exemple, était fabriquée à partir d'un mélange d'engrais agricole et de carburant de course. Les terroristes qui ont récemment organisé les attentats à Londres ont
choisi un composé appelé TATP, ou
peroxyde d'acétone , qui peut facilement être synthétisé à partir d'acétone, un solvant industriel disponible, pour l'auto-fabrication.
Il est plus facile pour les terroristes qui utilisent réellement de la poudre noire de la récupérer dans des feux d'artifice disponibles dans le commerce - c'est ainsi que le
terroriste de Boston a obtenu des explosifs pour son appareil. Ces substances sont achetées en ligne (ce qui est très facile à suivre) et seules les personnes inoffensives qui aiment les mousquets et les roquettes granulent soigneusement la poudre à canon à partir de zéro - et maintenant elles sont menacées de piqûres supplémentaires.
La nature de base de cette histoire ne l'a pas empêchée de se répandre comme une mauvaise herbe sur d'autres médias, gagnant ainsi le chemin d'erreurs supplémentaires. Le New York Times omet une déclaration sur les éclats d'obus, mais décrit complètement à tort le mélange de termites comme "deux poudres explosant après les avoir mélangées dans les bonnes proportions et les avoir incendiées" (le mélange de termites n'explose pas).
Vice répète les déclarations non fondées de Channel 4 sur les éclats d'obus, et implique également que le mélange de thermite explose: "les composants utilisés pour créer le mélange de thermite utilisé dans les bombes incendiaires ont été combinés avec des billes en acier pour roulements (shrapnel fait maison)."
The Independent est généralement confus et rapporte que "si les utilisateurs cliquent sur le lien" mélange de thermite ", un mélange pyrotechnique de poudres métalliques, le site leur montre des liens vers deux autres produits." Ils ont également ajouté les mots «la mère de Satan» à l'URL de l'article, probablement afin d'augmenter le classement de l'article dans les moteurs de recherche en le reliant à l'explosif TATP, qui n'est pas lié au matériel.
L'ardoise fait écho aux paroles de Channel 4 selon lesquelles Amazon incline «les utilisateurs à acheter des billes de roulement qui peuvent être utilisées comme shrapnel dans des bombes de fortune».
Seule la chaîne sceptique de la BBC s'est occupée de consulter des experts qui ont à juste titre remarqué que pour influencer l'algorithme de recommandations, il était nécessaire qu'un grand nombre de personnes achètent ces produits.
Lorsque j'ai contacté l'auteur de l'un de ces articles pour exprimer ma préoccupation, ils m'ont expliqué que l'article avait été rédigé dans le délai prévu le matin et qu'à ce moment-là, ils avaient déjà travaillé sur d'autres documents non liés. L'auteur a cité la couverture de cet événement par d'autres médias (y compris le New York Times), justifiant la réimpression et l'absence de corrections aux déclarations faites dans le rapport original de Channel 4.
La vraie histoire dans toute cette confusion n'est pas que les algorithmes menacent les acheteurs sur Amazon, mais que les algorithmes menacent le journalisme. En faisant en sorte que les journalistes optimisent toutes les histoires pour augmenter la cliquabilité, ne leur laissant pas le temps de vérifier ou de relier le matériel à la situation réelle, les obligeant à courir pour la publication d'articles sur tous les sujets, l'économie des médias en ligne, liée aux
clickbates , encourage la malhonnêteté et le drame. Cela se manifeste particulièrement souvent dans des sujets technologiques qui dépassent la compétence d'un journaliste.
Les journalistes n'ont d'autre choix que de chasser les clics. Google et Facebook ont créé un duopole sur la publicité en ligne, et la seule mesure de succès dans l'édition sera de savoir si l'histoire est devenue virale dans les médias. Les auteurs sont jugés sur le succès de leurs articles en ligne et sont constamment contraints de les rendre plus accrocheurs. Du matériel sur des sujets techniques complexes est remis aux jeunes indépendants travaillant selon un calendrier strict. Les corrections, si elles sont apportées, sont insérées dans l'article dans un style discret «d'édition ninja».
Il n'y a pas de pénalités pour les erreurs, mais il faut rédiger des histoires pour maximiser le nombre de vues. Une fois l'histoire reprise par les médias concurrents, il devient impossible de s'en débarrasser. Le grand nombre de reprises répétées de l'histoire lui confère une légitimité. Comme le dit le vieil adage, un mensonge passe la moitié du monde, alors que la vérité n'est que des chaussures.
Plus tôt cette année, lorsque le Guardian a publié un article tout aussi ignorant et plus dangereux sur le populaire messager sécurisé, un groupe d'experts en sécurité a mis six mois à convaincre et à faire honte au site suffisamment pour que la publication modifie l'article. Et Guardian est une publication prestigieuse avec un éditeur public indépendant (responsable de l'éthique journalistique). Toutes les histoires ne seront pas étudiées de manière aussi approfondie, et toutes ne recevront pas autant d'attention qu'avec le magazine Teen Vogue.
Les systèmes d'apprentissage machine très précis que Channel 4 a essayé d'exposer érodent la capacité du journalisme en ligne à bien faire son travail.
De telles paniques moralistes ne nuisent pas seulement aux propriétaires de fusils et aux mannequins. Ils distraient et discréditent les journalistes, les empêchant de remplir la fonction principale de contrôle du pouvoir.
La véritable histoire de l'apprentissage automatique n'est pas de savoir comment il encourage la fabrication de bombes artisanales, mais qu'il est largement utilisé sans supervision éthique appropriée, pour une utilisation dans des modèles commerciaux basés uniquement sur la manipulation psychologique et la surveillance de masse. La capacité de manipuler des personnes à grande échelle est vendue à celui qui paie le plus et empoisonne tous les aspects de la vie civile, y compris les élections démocratiques et le journalisme.
Avec le changement climatique, cette conquête algorithmique de la sphère publique est le plus grand média d'actualité du début du 21e siècle. Nous recherchons désespérément des journalistes couvrant ce sujet. Mais plus leur survie professionnelle dépend des publications en ligne, moins ils ont la possibilité de s'engager dans de tels reportages - s'ils existent toujours.