Au début était le mot. Et le mot est code.
Dans les pays du premier monde, les hautes technologies gèrent l'alimentation électrique et la logistique, donnent accès à l'information et aux services. Des médecins à plusieurs milliers de kilomètres du patient effectuent des opérations sur le cerveau à l'aide d'outils robotiques. Nous pouvons parler avec des parents et des amis à tout moment, étant à l'arrière de la Terre.
Et aussi des lignes de code contrôlent les drones de choc, dont les opérateurs ne choisissent pas particulièrement qui a été attaqué - militants ou non-combattants. Les mécanismes de rétention de l'attention sur les réseaux sociaux se forment, provoquant des scénarios comportementaux addictifs, FoMO (Peur de manquer, épuisement de la dopamine et dépression). Gérez les marchés électroniques de la drogue et des armes de DarkNet.
La profession de développeur informatique a grandi et mûri - après les droits et privilèges, il est temps que les responsabilités et les restrictions apparaissent. Alors, c'était avec les médecins, c'était avec les militaires.
À la barrière!
Le développeur revient du travail, dans sa tête, il y a une liste de contrôle de sa femme "acheter du pain entier au chou et au beurre de saucisse balsam pour les éponges de bœuf Venus rasoirs nouveau numéro Cosmo" - et il ne lui vient même pas à l'esprit qu'en même temps grâce à son code sur le lointain neigeux le polygone arpente les collines du bord. Pendant ce temps, le développeur rappelle que la liste comprend également "de l'huile pour bébé et du yaourt Johnsons avec des bactéries bénéfiques".
L'architecte informatique est assis dans une chaise en cuir confortable, regarde l'homme en uniforme en face et supprime le désir instinctif d'aboyer "Aye-aye, monsieur!". Et lui aussi, vaguement, bien qu'il sache à peu près où le code de son équipe finira par aller.
Les propriétaires d'entreprise, sirotant Glenfiddich 1937, ainsi qu'un général dix étoiles, calculent déjà les bénéfices du projet commun.
La responsabilité collective est bonne dans les mots. Mais il est très mal applicable en réalité. Un artiste ordinaire ne pense jamais vraiment à la façon dont ses réalisations sont utilisées en général. De plus, la " réalité qui nous est donnée dans les sensations " laisse entendre que les concepts de bien absolu et de mal absolu sont très arbitraires - et dépendent non seulement de l'époque et du contexte culturel, mais parfois simplement des coordonnées géographiques et de la demande politique.
Cela vaut la peine de penser à l'éthique, l'essentiel n'est pas de se glisser dans un hockey célèbre:
«Les hommes désirent la chair masculine.
Je suis seul avec une épée dans le manteau d'un mousquetaire.
Loin des plaisirs vicieux. "
Bonne société et projet Maven
En mars 2018, il est devenu connu que Google aidait le Pentagone à développer l'intelligence artificielle, qui a analysé la vidéo des drones de combat en temps réel. La direction de Google a salué la valeur de ce projet - le budget devait atteindre 250 millions de dollars.
Le projet Maven est un logiciel spécialisé pour la photographie aérienne à haute altitude, capable de reconnaître des objets en mouvement, de suivre leur trajectoire et de transmettre des informations en temps réel aux serveurs du département américain de la Défense.
Environ quatre mille employés de Google ont signé une pétition demandant à la "bonne société" de cesser de participer au projet Project Maven, ainsi que d'éviter à l'avenir des projets communs avec le Pentagone. Dans une pétition, les développeurs de Google ont déclaré: « Nous pensons que Google ne devrait pas s'engager dans des activités militaires. Par conséquent, nous vous demandons d'annuler le projet Maven, ainsi que de préparer, publier et appliquer une politique claire et précise que Google et ses sous-traitants ne créeront jamais de technologie de combat . "
La pétition des développeurs de Google dans une lettre ouverte a été soutenue par 90 scientifiques bien connus qui travaillent dans le domaine de l'intelligence artificielle. De plus, la Tech Workers Coalition, une organisation à but non lucratif qui rassemble des informaticiens des États de Californie et de Washington, a appelé d'autres grandes sociétés informatiques à refuser de coopérer avec le département américain de la Défense.
Les employés de Google qui se sont opposés au projet Maven ont expliqué leur position comme suit: les gens devraient analyser les informations des drones de combat, pas l'intelligence artificielle, car le prix de l'erreur est trop élevé. Sans aucun doute, l'intelligence artificielle peut distinguer un objet en mouvement d'un immobile et une créature vivante d'un objet inanimé. Mais déterminer si une personne est militante ou non combattante ne le peut pas.
Il est clair que le Pentagone est profondément étoilé, combien de civils tomberont sous le bombardement humanitaire. Mais comme la réaction de Google l'a montré, les développeurs se moquent de la façon dont leur code est utilisé.
Gizmodo, citant des sources sur Google, a partagé des informations selon lesquelles environ 10 employés ont quitté l'entreprise pour des raisons éthiques.
L'un des démissionnaires a déclaré: " À un moment donné, j'ai réalisé que je ne pouvais pas conseiller volontairement à quiconque d'aller sur Google, sachant ce que je sais. Et si je ne peux plus recommander cette entreprise à d'autres personnes, pourquoi suis-je toujours là? "
Les représentants de Google n'ont pas commencé à discuter avec la presse du licenciement des salariés. Mais en juin 2018, la société a refusé d'exécuter la commande du Pentagone.
Le département américain de la Défense a obtenu ce qu'il voulait de toute façon. Au lieu de Google, des services de développement ont été proposés par Anduril Industries, dont le propriétaire est Palmer Lucky, inventeur du casque de réalité virtuelle Oculus Rift et l'un des fondateurs d'Oculus VR, qui n'est manifestement pas très préoccupé par les questions éthiques du développement de la technologie militaire.
Good Corporation et le moteur de recherche chinois
Un peu moins de renommée était l'histoire du développement d'un moteur de recherche pour la Chine. La politique d'information de la Chine est bien connue - le projet Golden Shield bloque l'accès à un certain nombre de sites étrangers, les médias chinois ne peuvent pas établir de lien vers les actualités provenant de sites d'informations étrangers sans autorisation spéciale, les pages des résultats de recherche sont filtrées par des mots clés liés à la sécurité de l'État. En fait, le "Great Chinese Firewall" est le premier cas de censure profonde sur le net, une sorte de bonjour du "merveilleux nouveau monde" du futur.
En août 2018, plus de 1500 développeurs Google ont signé une lettre collective protestant contre le développement d'un moteur de recherche censuré pour la Chine. Les développeurs ont déclaré que l'existence d'un projet secret dans les murs de Google pour créer un tel moteur de recherche qui censurera le contenu à la demande de Pékin soulève des problèmes moraux et éthiques complexes.
Google souhaite depuis longtemps revenir sur le marché chinois. Et la création d'un tel moteur de recherche a été l'une des conditions des négociations. Dans l'intérêt du grand marché chinois, Google est prêt à s'écarter des principes de la liberté d'expression et à se soumettre aux exigences des autorités chinoises.
Pour cela, une équipe distincte a été créée dans l'entreprise qui, depuis le printemps 2017, développe un projet nommé Dragonfly ("Dragonfly"). Des ressources supplémentaires ont été transférées au projet et ont accéléré le travail autant que possible lorsque, en décembre 2017, le PDG de Google, Sundar Pichai, a rencontré de hauts responsables gouvernementaux chinois.
Après une protestation des développeurs, la direction de Google a dû suspendre le projet et expliquer aux employés. Sundar Pichai a tenté de rassurer les développeurs de Google lors de la réunion: « Nous ne sommes pas près de lancer un produit de recherche en Chine. Et si nous le ferons, et si nous pouvons le faire, ce n'est pas clair du tout . »
Conclusions évidentes et non évidentes
Les développeurs de Google, comme tous les honnêtes gens, ont découvert le projet Dragonfly à partir des pages de la publication en ligne The Intercept, qui est financée par Pierre Omidyar, le fondateur d'eBay. Et en ajoutant le cas d'Anduril Industries, qui a saisi le projet Maven de Google, nous constatons que les questions éthiques sont souvent utilisées en compétition. Les propriétaires de sociétés d'éthique informatique ne s'intéressent pas plus à la théorie de la relativité que les manchots royaux.
Google est très important pour revenir à l'espace d'informations de l'Empire céleste. De 2006 à 2010, Google a travaillé tranquillement en Chine et restreint l'accès aux informations de la même manière que Baidu.
Mais en 2010, quelque chose s'est produit. Les serveurs de grandes entreprises - Google, Yahoo, Adobe - ont été piratés par des pirates chinois lors de l'opération Aurora. Ensuite, Sergey Brin a saisi l'opportunité et a dépeint l'innocence insultée, a déclaré qu'il ne tolérerait pas la censure - bien que de 2006 à 2010, Google fasse partie du système de censure de la Chine - et a retiré l'entreprise du marché chinois.
Les vraies causes du mystère. Soit la politique américaine, soit Google ne pouvait pas s'intégrer dans le système complexe des relations orientales, soit les Chinois les ont évincés, ne faisant pas confiance aux systèmes américains sur leur territoire - et Google a simplement fait bonne figure dans un mauvais match.
Mais maintenant, Google a clairement regretté cette décision. Raisons: Android et Google Play.
Total et par pays le nombre de téléchargements d'applications selon le rapport App Annie.
En 2018, le nombre total de téléchargements d'applications dans le monde a dépassé 194 milliards - et plus de 50% provenaient de Chine. Au premier trimestre 2019, le nombre moyen d'installations d'applications mobiles en Chine était de 52 applications par personne. Et je vous rappelle que Google Play en Chine ne fonctionne pas.
Dépenses des utilisateurs dans les boutiques d'applications dans le monde et séparément par pays selon le rapport App Annie.
En 2018, les utilisateurs ont dépensé plus de 101 milliards de dollars dans les magasins d'applications et 40% des dépenses des utilisateurs en 2018 sont des magasins chinois alternatifs. Ces sommes astronomiques passées par Google. Est-ce dommage? Comme ça.
Et donc, il y a de très grands soupçons que Google n'a pas interrompu les contacts avec le gouvernement chinois. Même rassuré les collaborateurs externes. La direction de la «corporation du bien» a laissé un immense espace de manœuvre dans un plan non public - à partir de la création d'une filiale distincte dans laquelle travailleront des employés fidèles, acceptant initialement le développement de technologies à but non éthique, se terminant par le transfert de technologie aux camarades chinois. Les enjeux sont trop importants. Comme Thomas Dunning l'a dit: « Fournissez 10% et le capital accepte toute utilisation, à 20% il devient vivant, à 50% il est positivement prêt à se casser la tête, à 100% il viole toutes les lois humaines, à 300% il n'y a pas un tel crime, qu'il n'aurait pas risqué, ne serait-ce que par crainte de la potence . »
Éthique de Southbridge
Lorsque vous évaluez la position d'autres entreprises, vous devez aller vers le «vous» et être franc. Et comme ils ont soulevé le sujet, il vaut la peine de dire comment nous résolvons les problèmes éthiques dans notre entreprise.
J'ai posé ces questions au PDG de Southbridge, Igor Olemsky.
Le principe turquoise qui guide notre entreprise vise à faire mieux pour les clients, les employés et le monde extérieur. Au mieux de nos capacités.
Naturellement, nous ne travaillons pas avec des clients qui nous proposent de soutenir des services qui violent directement les lois de la Fédération de Russie. Il n'y a même rien à discuter. Vente d'armes, vente d'épices, portails avec services intimes, portails avec pornographie.
Mais il y a aussi une zone grise, qui n'est pas réglementée par la loi, mais qui ne suscite cependant pas un enthousiasme particulier. Par exemple, un casino en ligne ou un système pyramidal. Il est logique qu'une telle activité ne rende pas le monde meilleur et contredit le principe turquoise. Naturellement, l'entreprise doit gagner de l'argent, mais il est important que cela ne contredit pas les convictions internes de l'équipe.
Récemment, un client a voulu analyser des sites utilisant l'usurpation d'adresse IP à partir du pool. Il a indiqué qu'il agissait complètement dans le domaine juridique. Nous avons refusé - l'entreprise est contre de telles activités.
Le point de non-retour
Il existe une situation unique sur le marché mondial de l'informatique. Déficit élevé sur les développeurs hautement qualifiés. Le développement rapide de la sphère informatique, lorsque les universités n'ont tout simplement pas le temps de créer le bon nombre de spécialistes. La dépendance de presque tous les secteurs de l'économie vis-à-vis des informaticiens. Dépendance du succès et de la rentabilité des grandes entreprises internationales sur les équipes de développement internes.
C'est ici et maintenant que les développeurs peuvent dicter les termes à ceux qui ont l'habitude de se commander.
Dans la société humaine, les codes d'éthique apparaissent généralement dans les professions liées à la vie et à la santé des personnes. En Russie, il y a un serment militaire, il y a le serment d'un médecin russe.
Il est dommage qu'il n'y ait pas de serment politique - c'est à cause de leurs décisions, de leurs peurs personnelles et de leurs jeux en coulisses qu'un grand nombre de personnes meurent sur la planète. Parfois, il semble que la politique n'est pas une profession, mais une déviation mentale.
Aujourd'hui, la profession de développeur informatique est proche de la limite lorsque la vie et la santé des personnes, tant physiques que mentales, dépendent du spécialiste.
Malheureusement, il existe encore peu de cas où les développeurs soulèvent des problèmes éthiques complexes. Pour la plupart, les gens préfèrent ne pas penser aux conséquences de leur travail.
Eduard Medvedev, conférencier invité à Slerm DevOps, a répondu à une question dans une récente interview : « ... Je ne connais malheureusement pas de grandes communautés qui traiteraient spécifiquement de nouveaux problèmes moraux et éthiques sur le net. Je soupçonne qu'ils le sont, car ils ne peuvent qu'exister. Mais le fait que je ne les connaisse pas, même si j'étais intéressé par la question, parle encore de quelque chose . "
Je pense que tôt ou tard, il y aura une large discussion entre les informaticiens, afin que les questions éthiques ne soient pas soulevées en réponse aux projets douteux d'une entreprise particulière, et ne descendent pas «d'en haut» pour rassurer les employés. Et pour que le mouvement «d'en bas» forme des règles simples et claires qui ne peuvent pas améliorer le monde, mais ne lui permettent pas de s'aggraver.
Développeur Decalog
Et essayons, dans le cadre des jeux de l'esprit, d'imaginer comment pourraient sonner les principes du développeur du 21e siècle:
- Un développeur ne peut pas nuire à une personne ou, par inaction, permettre à une personne d'être blessée.
- Le développeur doit obéir à toutes les tâches de travail que le chef d'équipe donne, sauf dans les cas où ces ordres sont contraires à la première loi.
- Le développeur doit veiller à sa sécurité dans la mesure où cela ne contredit pas les première ou deuxième lois.
- Le développeur ne doit pas prendre le code de quelqu'un d'autre sans demande.
- Un développeur ne peut pas créer de code potentiellement capable de nuire à la vie et à la santé humaines.
- Un développeur ne peut pas créer de code capable de restreindre les droits humains fondamentaux - la liberté d'expression, de pensée et de croyance.
- Un développeur ne peut pas créer de code qui sera utilisé pour limiter l'accès des gens à des informations fiables.
- Un développeur ne peut pas créer de code qui utilise les vulnérabilités neurophysiologiques et psychologiques d'une personne pour contrôler son comportement et son temps.
- Le développeur doit être préparé au fait que rien ne peut toujours aller correctement et éthiquement.
- Le développeur doit être préparé au fait que tout ce qui peut mal se passe mal.
- et cetera, et cetera ...