" Schémas sombres " (schémas sombres) - ce sont les schémas d'implication des utilisateurs dans le produit, dans lesquels il y a un jeu avec un montant nul: le produit gagne et le consommateur perd. Autrement dit, il s'agit d'une déclinaison illégale de l'utilisateur pour certaines actions.
En règle générale, dans la société, la moralité et l'éthique sont responsables de la résolution de ces problèmes, mais dans la technologie, tout va si vite que la moralité et l'éthique n'ont tout simplement pas le temps. Par exemple, lorsque Google a tenté de créer son propre comité sur l'éthique de l'intelligence artificielle, il s'est effondré une semaine plus tard. Histoire vraie .
La raison, à mon avis, est la suivante. Les entreprises technologiques comprennent toute la profondeur du problème, mais, hélas, elles ne peuvent pas le résoudre de l'intérieur. En fait, ce sont deux vecteurs et intentions opposés: 1) atteindre leurs objectifs trimestriels de profit, de portée et d'implication, et 2) faire du bien aux citoyens à long terme.
Alors que les meilleurs esprits ont du mal à résoudre ce problème, la chose la plus efficace qui soit arrivée est de fabriquer des produits sur un modèle commercial dans lequel le client paie le produit (ou quelqu'un le paie: employeur, sponsor, papa). Dans le modèle publicitaire qui vend vos données, la résolution du problème n'est pas facile.
Et à ce moment, les régulateurs entrent en scène. Leur rôle est d'agir en tant que garant des libertés civiles, de la moralité et des règles de base (ainsi qu'en arrivant au pouvoir sur la base des lois populistes la saison prochaine). Les États en ce sens sont extrêmement importants. Le seul problème est qu'ils sont très lents et extrêmement non adaptatifs: essayez de créer une loi progressiste et opportune. Ou annulez la loi, si vous l'avez déjà adoptée, et que vous réalisez soudain qu'elle ne fonctionne pas. (Les lois sur les fuseaux horaires ne comptent pas.)
Je dois dire que l'apparition au Congrès américain de Zuckerberg (Facebook), Pichai (Google) et Dorsey (Twitter) il y a un an a provoqué beaucoup de mouvements intéressants. Les sénateurs ont commencé à proposer des lois qui aident à limiter quelque chose: la distribution et l'utilisation des informations personnelles des utilisateurs, l'utilisation de «motifs sombres» dans les interfaces, etc.
Un dernier exemple: deux sénateurs ont récemment proposé de restreindre la mécanique impliquant des personnes dans l'utilisation de produits par la manipulation. La façon dont ils détermineront ce qu'est une manipulation et ce qui ne l'est pas n'est pas claire.
Il existe une frontière très fine entre les distorsions cognitives, les désirs et les intentions des différentes parties. À cet égard, utiliser un utilisateur simple est beaucoup plus facile que le chef d'une entreprise, mais chacun a ses propres biais cognitifs . Et c'est, à bien des égards, exactement ce qui fait de nous des humains, et pas seulement des biorobots d'élevage.
Comparaison de la capitalisation boursière des entreprises technologiques et du PIB des pays européens (2018).
En fait, il est très probable que l'ancien gouvernement soit mort de combien les nouvelles technologies ont un nouveau pouvoir:
- Si Facebook était un État, ce serait le plus grand pays en termes de nombre de citoyens (2,2 milliards MAU), une fois et demie devant la Chine (1,4 milliard) et l'Inde (1,3 milliard). De plus, si les chefs de droit des démocraties sont remplacés tous les 4 à 8 ans, dans le capitalisme, il n'y a pratiquement aucun mécanisme pour destituer le chef s'il possède une participation majoritaire.
- Google en sait plus sur les intentions et les désirs des gens que tous les pasteurs, chamans, oracles et prêtres sur l'existence entière des religions du monde. Un tel pouvoir sur les données est sans précédent dans toute l'histoire enregistrée de l'humanité.
- Apple nous oblige à faire des choses incroyables: payer un abonnement annuel ultra cher à un ordinateur de poche de 1000 $, par exemple. Essayez de vous désinscrire: cela change immédiatement la perception de votre statut social, la réputation kototsya de l'innovateur, et réduit l'intérêt du sexe opposé. (Je plaisante.)
- Jusqu'à 40% de l'infrastructure cloud sur laquelle Internet tourne appartient à Amazon (AWS). L'entreprise est le "fournisseur" dominant de la planète et est responsable du pain, de l'information et du divertissement.
Et ensuite? Je pense que oui:
- La version américaine du RGPD approche à grands pas.
- Les entreprises technologiques subiront une série d'examens antitrust.
- À l'intérieur de la technologie. les entreprises seront insatisfaites des politiques non humanistes et les employés tenteront d'influencer davantage les décisions de gestion.
Que pensez-vous de la réglementation étatique des modèles d'épicerie et de conception?