"Patrones oscuros" (patrones oscuros): estos son los esquemas de participación del usuario en el producto, en el que hay un juego con una cantidad cero: el producto gana y el consumidor pierde. En pocas palabras, esta es una declinación ilegal del usuario para ciertas acciones.
Como regla general, en la sociedad, la moral y la ética son responsables de resolver tales problemas, pero en tecnología todo se mueve tan rápido que la moral y la ética simplemente no tienen tiempo. Por ejemplo, cuando Google intentó crear su propio comité sobre ética de la inteligencia artificial, se vino abajo solo una semana después. Historia verdadera
La razón, en mi opinión, es la siguiente. Las compañías de tecnología entienden la profundidad total del problema, pero, por desgracia, no pueden resolverlo desde adentro. De hecho, estos son dos vectores e intenciones opuestos: 1) cumplir con sus objetivos trimestrales de lucro, alcance y participación, y 2) hacer el bien a los ciudadanos a largo plazo.
Mientras que las mejores mentes están luchando por resolver este problema, lo más efectivo que ha sucedido es hacer productos en un modelo de negocio en el que el cliente paga por el producto (o alguien lo paga: empleador, patrocinador, papá). En el modelo de publicidad que vende sus datos, resolver el problema no es fácil.
Y en ese momento, los reguladores entran en escena. Su papel es actuar como garante de las libertades civiles, la moral y las reglas básicas (así como llegar al poder sobre la base de las leyes populistas la próxima temporada). Los estados en este sentido son extremadamente importantes. El único problema es que son muy lentos y extremadamente poco adaptables: intente crear una ley oportuna y progresiva. O cancele la ley, si ya la aprobó, y de repente se dio cuenta de que no funciona. (Las leyes sobre zonas horarias no cuentan).
Debo decir que la aparición en el Congreso de los Estados Unidos de Zuckerberg (Facebook), Pichai (Google) y Dorsey (Twitter) hace un año provocó muchos movimientos interesantes. Los senadores comenzaron a elaborar leyes que ayudan a limitar algo: la distribución y el uso de la información personal de los usuarios, el uso de "patrones oscuros" en las interfaces, etc.
Un último ejemplo: un par de senadores recientemente propuso restringir la mecánica que involucra a las personas en el uso de productos a través de la manipulación. Cómo determinarán qué es manipulación y qué no, no está claro.
Hay una línea muy fina entre distorsiones cognitivas, deseos e intenciones de diferentes partes. En este sentido, usar un usuario simple es mucho más fácil que el jefe de una empresa, pero todos tienen sus propios sesgos cognitivos . Y esto, en muchos sentidos, es exactamente lo que nos hace humanos, y no solo criar biorobots.
Comparación de la capitalización bursátil de las empresas tecnológicas y el PIB de los países europeos (2018).
De hecho, es muy probable que el antiguo gobierno esté muerto de la cantidad de poder de las nuevas empresas de tecnología:
- Si Facebook fuera un estado, sería el país más grande en términos de número de ciudadanos (MAU 2.200 millones), una vez y media por delante de China (1.400 millones) e India (1.300 millones). Además, si los líderes de las democracias de jure son reemplazados cada 4-8 años, prácticamente no hay mecanismos para eliminar a un líder en el capitalismo si posee una participación de control.
- Google ahora sabe más sobre las intenciones y los deseos de las personas que todos los pastores, chamanes, oráculos y sacerdotes para toda la existencia de las religiones del mundo. Tal poder sobre los datos no tiene precedentes en toda la historia registrada de la humanidad.
- Apple nos está obligando a hacer cosas increíbles: pagar una suscripción anual ultra costosa a una computadora de mano de $ 1,000, por ejemplo. Intente darse de baja: cambia inmediatamente la percepción de su estado social, la reputación kototsya del innovador y reduce el interés del sexo opuesto. (Solo bromeaba)
- Hasta el 40% de la infraestructura de nube en la que gira Internet pertenece a Amazon (AWS). La compañía es el "proveedor" dominante del planeta y es responsable del pan, la información y el entretenimiento.
Que sigue Eso creo:
- La versión estadounidense de GDPR está a la vuelta de la esquina.
- Las compañías tecnológicas se someterán a una serie de revisiones antimonopolio.
- Inside tech. Las empresas verán insatisfacción con las políticas no humanísticas, y los empleados tratarán de influir más en las decisiones de gestión.
¿Qué opinas sobre la regulación estatal de los supermercados y los patrones de diseño?