El 18 de septiembre de 2017, el cuarto canal de televisión de Gran Bretaña transmitió noticias con el titular "En Amazon" a menudo compran juntos "ingredientes para bombas mortales".
La noticia afirmó que "los usuarios que buscan un producto químico común utilizado en los alimentos se les ofrecen ingredientes adecuados para hacer polvo negro explosivo" en Amazon y que "las bolas de acero, a menudo utilizadas como metralla", también se anuncian en esta página. como cosas que los usuarios suelen comprar juntos.
El "químico común" en los informes del Canal 4 es el nitrato de potasio (nitrato de potasio), que se usa para marinar la carne. Si solicita una bolsa de medio kilogramo de esta sustancia en Amazon, entre los productos ofrecidos además de la compra verá azufre y carbón, otros dos ingredientes de la pólvora (a diferencia del Canal 4, no es difícil para mí revelar el secreto de esta
tecnología que tiene 1000 años ).
El subtexto de la noticia es claro: las recomendaciones del sitio hacen que las personas que aman cocinar alimentos en el hogar sean radicales que puedan negarse a hacer carne en conserva a favor de la producción de bombas de metralla. Para empeorar las cosas, parece que suficientes personas están comprando estas piezas para bombas en la tienda para que el algoritmo revele una correlación y comience a dar sus sombríos consejos.
Es cierto, si nos fijamos un poco, resulta que todo lo que reveló Channel 4 es una comunidad de aficionados que de forma independiente, segura y legal hacen polvo negro para usar en fuegos artificiales, modelos de cohetes, réplicas de armas antiguas o arrancar tocones.
En Gran Bretaña, la fabricación y almacenamiento de polvo negro es legal. Existen restricciones en los volúmenes de almacenamiento (100 gramos), pero dado que el polvo negro es fácil de preparar con ingredientes baratos, es difícil de encender por accidente, y es prácticamente no tóxico, a menudo es elegido por los aficionados novatos. Solo necesita un
molino de bolas (granulador): un tambor giratorio con bolas para cojinetes en el interior, que mezcla polvos y produce gránulos del mismo tamaño.
Todo esto llevó a la sorprendente declaración hecha por el Canal 4 de que, junto con el azufre y el carbón, el algoritmo de Amazon ofrece detonadores, alambres y "bolas de acero para cojinetes, a menudo utilizados como metralla en bombas".
Las bolas de rodamientos de acero de Amazon obviamente están destinadas a una fábrica de pellets. El algoritmo reconoce el hecho de que las personas que compran ingredientes para el polvo negro necesitan hacer gránulos. Esto no es más impactante que la oferta de comprar un molino de especias además de pimienta.
El hecho de que estas bolas se vendan para hacer metralla es la fantasía de un periodista. Es inconcebible que Amazon venda tanto equipo de fabricación de bombas que el algoritmo comience a hacer recomendaciones.
Más adelante en el canal se dijo que a las personas que buscan "otro producto químico público" se les ofrecen ingredientes para una
mezcla de termita que consiste en polvos metálicos, que, cuando se prende fuego, "desencadena una reacción peligrosa utilizada en bombas incendiarias, así como al cortar metal".
En este caso, el "químico comúnmente disponible" es la cinta de magnesio. Si busca dicha cinta en Amazon, el sitio le ofrecerá comprar más óxido de hierro (óxido) y polvo de aluminio, y al mezclarlos, puede crear un fuego artificial increíble: una reacción de termitas.
Esta reacción se muestra en cualquier clase de química en la escuela secundaria, como una recompensa para los estudiantes que tuvieron que sufrir el estudio de las reacciones de oxidación-reducción. Combina óxido y aluminio en polvo en un crisol, prende fuego con cinta de magnesio y observa un chorro de llama, dejando algo de hierro fundido. Los polvos metálicos mezclados son difíciles de encender (esto requiere una cinta de magnesio), pero cuando comienza la reacción, se queman ferozmente.
Los principales usos del consumidor de la mezcla de termitas son las demostraciones de laboratorio y la química del entretenimiento. Lo que es importante, la mezcla de termita no explota.
Entonces, el cuarto canal fue descubierto por el hecho de que los fanáticos de los fuegos artificiales y los maestros de química están comprando en Amazon. Pero al tejer un informe explosivo sobre el terrorismo a partir de estas inocentes observaciones, se aseguraron de que las noticias recibieran la mayor atención.
La historia, Amazon te enseña cómo hacer bombas, se ha extendido previsiblemente por Internet.
Todos estos artículos carecen de un sentido de proporción o realismo. ¿En qué universo es una persona inocente que compra una bolsa de azufre ordinario convertida en un radical que fabrica una bomba de polvo improvisada rellena de metralla utilizando un servicio de recomendación?
¿Cree realmente Channel 4 que las instrucciones para fabricar explosivos son tan difíciles de encontrar en Internet que las personas se dedican a comprar productos químicos al azar para descubrir los secretos de la pólvora?
¿Cuánto debe Amazon atender las recomendaciones proporcionadas por el sitio? Por ejemplo, en la página con una oferta para comprar amoníaco hay recomendaciones para comprar cloro concentrado con él. El amoníaco con lejía reacciona con la liberación de gas letal, y estas sustancias se pueden comprar en Amazon en cantidades ilimitadas. ¿Significa esto que Amazon está tratando de convencer a los clientes de envenenar a las personas con cloramina?
Y finalmente, ¿cuántas personas, según Channel 4, compran bombas por Internet? Para que el algoritmo de recomendación ofrezca metralla a los compradores de azufre, para esto es necesario que miles o decenas de miles de personas compren estos artículos al mismo tiempo, combinándolos en una sola canasta. ¿Y dónde están todos estos terroristas con bombas de pólvora negra? ¿Y tal terrorista usará una tienda en línea que revela su identidad?
Un periodista más equilibrado aclararía que el polvo negro, como sustancia de combustión lenta, no es el mejor material para las bombas. Otras combinaciones son igual de fáciles de hacer y explotan mucho más fuerte.
La bomba que explotó en el edificio federal de Oklahoma, por ejemplo, estaba hecha de una mezcla de fertilizante agrícola y combustible para carreras. Los terroristas que recientemente organizaron los bombardeos en Londres
eligieron un compuesto llamado TATP, o
peróxido de acetona , que puede sintetizarse fácilmente a partir de acetona, un solvente industrial disponible, para la fabricación propia.
Es más fácil para los terroristas que realmente usan polvo negro recogerlo de los fuegos artificiales disponibles comercialmente, así es como el
terrorista de Boston consiguió explosivos para su dispositivo. Estas sustancias se compran en línea (que es muy fácil de rastrear) y luego solo las personas inofensivas a las que les gustan los mosquetes y los cohetes granulan cuidadosamente la pólvora desde cero, y ahora están amenazados con la captura de liendres adicionales.
La naturaleza básica de esta historia no evitó que se extendiera como una hierba a otros medios, avanzando en el camino de errores adicionales. El New York Times omite una declaración sobre la metralla, pero describe de manera completamente incorrecta la mezcla de termitas como "dos polvos explotando después de mezclarlos en las proporciones correctas y prenderles fuego" (la mezcla de termitas no explota).
Vice repite las declaraciones infundadas del Canal 4 sobre la metralla, y también implica que la mezcla de termita explota: "los componentes utilizados para crear la mezcla de termita utilizada en las bombas incendiarias se combinaron con bolas de acero para rodamientos (metralla casera)".
The Independent generalmente está confundido e informa que "si los usuarios hacen clic en el enlace" mezcla de termita ", una mezcla pirotécnica de polvos metálicos, el sitio les muestra enlaces a otros dos productos". También agregaron las palabras "la madre de Satanás" a la URL del artículo, probablemente para aumentar la clasificación del artículo en los motores de búsqueda al vincularlo con el explosivo TATP, que no está relacionado con el material.
Slate se hace eco de las palabras del Canal 4 de que Amazon inclina a "los usuarios a comprar bolas de rodamiento que pueden usarse como metralla en bombas improvisadas".
Solo el escéptico canal de la BBC se encargó de consultar con expertos que notaron con razón que para influir en el algoritmo de recomendaciones era necesario que una gran cantidad de personas comprara estos productos.
Cuando me puse en contacto con el autor de uno de estos artículos para expresar mi preocupación, me explicaron que el artículo estaba escrito en la fecha límite por la mañana y que para ese momento ya habían estado trabajando en otro material no relacionado. El autor citó la cobertura de este evento de otros medios de comunicación (incluido el New York Times), justificando la reimpresión y la falta de correcciones a las declaraciones hechas en el informe original del Canal 4.
La verdadera historia de toda esta confusión no es que los algoritmos amenazan a los compradores en Amazon, sino que los algoritmos amenazan al periodismo. Al hacer que los reporteros optimicen todas las historias para aumentar la posibilidad de hacer clic, no les da tiempo para verificar o vincular el material a la situación real, lo que les obliga a competir por la publicación de artículos sobre todos los temas, la economía de los medios en línea, vinculada a los
clickbates , fomenta la deshonestidad y el drama. Esto se manifiesta especialmente a menudo en temas tecnológicos que están más allá de la competencia de un periodista.
Los periodistas no tienen más remedio que perseguir clics. Google y Facebook han creado un duopolio sobre la publicidad en línea, y la única medida de éxito en la publicación será si la historia se ha vuelto viral en los medios. Los autores son juzgados por el éxito de sus artículos en línea y se ven constantemente obligados a hacerlos más llamativos. Se entregan materiales sobre temas técnicos complejos a jóvenes profesionales independientes que trabajan en un horario estricto. Las correcciones, si se hacen, se insertan en el artículo en un estilo silencioso de "edición ninja".
No hay sanciones por errores, pero es necesario elaborar historias para maximizar el número de visitas. Después de que la historia es recogida por los medios de la competencia, se hace imposible deshacerse de ella. La gran cantidad de cobertura repetida de la historia le da legitimidad. Como dice el viejo refrán, una mentira pasa por la mitad del mundo, mientras que la verdad son solo zapatos.
A principios de este año, cuando The Guardian publicó un artículo igualmente ignorante y más dañino sobre el popular mensajero seguro, un grupo de expertos en seguridad tardó seis meses en convencer y avergonzar al sitio lo suficiente como para que la publicación cambiara el artículo. Y Guardian es una publicación prestigiosa con un editor público independiente (responsable de la ética periodística). No todas las historias se estudiarán tan a fondo, y no todas recibirán tanta atención como lo hizo con la revista Teen Vogue.
Los sistemas de aprendizaje automático que Channel 4 intentó exponer están erosionando la capacidad del periodismo en línea para hacer bien su trabajo.
Tales pánicos moralistas no solo perjudican a los propietarios de mosquetes y a los cohetes modelo. Ellos distraen y desacreditan a los periodistas, impidiéndoles cumplir la función principal de controlar el poder.
La verdadera historia del aprendizaje automático no es cómo fomenta la fabricación de bombas caseras, sino que se usa ampliamente sin una supervisión ética adecuada, para su uso en modelos comerciales basados solo en la manipulación psicológica y la vigilancia masiva. La capacidad de manipular personas a gran escala se vende a quien más paga y envenena todos los aspectos de la vida civil, incluidas las elecciones democráticas y el periodismo.
Junto con el cambio climático, esta conquista algorítmica de la esfera pública es el medio de comunicación más grande de principios del siglo XXI. Estamos desesperados por periodistas que cubran este tema. Pero cuanto más depende su supervivencia profesional de las publicaciones en línea, menos tienen la oportunidad de participar en tales informes, si aún existen.