Eduard Medvedev, CTO chez Tungsten Labs: «Nous avons grandi au point où la technologie peut causer des dommages considérables»

Si soudain vous ne le saviez pas, vous pouvez aujourd'hui augmenter le serveur, démarrer et annuler le déploiement, étendre le cluster en envoyant simplement un message au bot de télégramme.


Eduard Medvedev, CTO chez Tungsten Labs (Allemagne), a parlé le troisième jour de Slurm DevOps sur le thème «Automatisation de l'infrastructure avec ChatOps» et a parlé de l'intégration des messageries instantanées avec les pipelines. Et après avoir parlé autour d'une tasse de café, il a donné une interview.


Je comptais sur une histoire sur une technologie intéressante, mais à la fin, la conversation a tourné autour du sujet de l'éthique. Sur la façon dont une personne se transforme en rat de laboratoire, qui s'exécute chaque jour dans un labyrinthe d'algorithmes de contrôle de la dépendance et de l'attention, comment la guerre est automatisée, comment le commerce des armes et des drogues atteint un nouveau niveau d'anonymat et d'accessibilité, comment les informaticiens écrivent du code qui détruit la société et la personnalité - et se cachant derrière aussi vieux que le monde "nous venons d'exécuter l'ordre."



Commençons, comme d'habitude, depuis le tout début. Il était une fois vécu, codé, déployé ... Parlez-nous de votre parcours, comment en êtes-vous arrivé là où vous en êtes maintenant?


Il est long et confus. Avant de me retrouver en Allemagne, j'ai beaucoup déménagé, étudié un peu en Norvège, travaillé un peu dans une startup aux États-Unis, principalement dans un endroit éloigné. J'ai vécu un peu en Thaïlande quand le freelance est une histoire complètement typique pour les Russes à mon avis. Je suis arrivé en Allemagne presque par accident - et plus pour des raisons personnelles que pour le travail. Il s'est retrouvé au Tungsten Labs de Berlin. Maintenant que je suis rentré en Russie pour une courte période, je passe beaucoup de temps à Tomsk - j'aime ça là-bas.


Quelles étapes importantes pouvez-vous souligner en cours de route?


C'est une question difficile.


Commençons par l'enseignement supérieur?


Mais c'est une question simple. Je ne l'ai pas. J'ai commencé avec quelques petits emplois à temps partiel au lycée, travaillé en tant que concepteur de mise en page, puis en tant que développeur front-end, puis je suis passé à une architecture backend. J'aime apprendre quelque chose de nouveau, je ne peux pas rester assis. Beaucoup de pigiste, puis il a travaillé à temps plein à distance sur différents projets. En général, lorsque vous êtes indépendant, vous apprenez l'autodiscipline, puis cela aide lorsque vous travaillez à distance pendant une journée complète.


Êtes-vous CTO chez Tungsten Labs maintenant?


Jusqu'à récemment, mais plus. Oui, le dernier emploi à temps plein est à la STO chez Tungsten Labs, mais maintenant je conseille davantage. Tungsten Labs y compris.


Vous avez donc décidé de devenir un chasseur gratuit?


Jusqu'à présent.


Vous souvenez-vous de la série de technologies que vous avez traversées? Comme des marches.


Je peux essayer. J'ai commencé avec la mise en page, donc HTML et CSS. Un peu de cueillette PHP que nous avions sur le backend. Il y avait beaucoup de JS à l'avant et Node à l'arrière, il y avait Python. Avec les deux derniers, je suis toujours le plus à l'aise, même si ces derniers temps je dois souvent écrire ou ajouter quelque chose à Go.


Maintenant, Go est considéré comme un langage très prometteur. Quelle est votre opinion?


Je pense qu'il y a beaucoup de battage médiatique autour de Go, et seule une partie est justifiée, mais le langage est toujours bon et prometteur. Je ne vais même plus plaisanter sur les génériques maintenant.



C'était tel que vous avez appris une sorte de technologie, une sorte de langage - et ils sont morts? Comme le même Perl.


Je pense que non. Lorsque j'apprends quelque chose, j'essaie toujours de me concentrer sur des concepts généraux, qui de toute façon seront utiles plus tard. Pour cette raison, je ne connais pas très bien les langues, mais en même temps, il m'est beaucoup plus facile d'apprendre et d'utiliser quelque chose de nouveau. J'avais un petit projet sur Elixir, j'ai écrit quelque chose sur Haskell, refait le modèle ML avec Tensorflow. Pour la compétition, j'ai dû écrire une fois sur Brainfuck. Tout cela est beaucoup plus facile à faire lorsque certains principes généraux, structures et algorithmes sont familiers - en général, la base a déjà été posée. Par conséquent, je ne pense pas qu'il y ait une connaissance morte.


Quels projets et tâches sont récemment devenus un défi professionnel pour vous? Qu'est-ce qui vous a particulièrement plu dans la décision et la mise en œuvre?


Je participe beaucoup à des compétitions de sécurité de l'information, CTF (Capture the Flag) et autres. Même une petite équipe l'était. Une fois, j'ai gagné la première place dans l'un des matchs du DEF CON à Las Vegas. Et DEF CON est l'une des conférences les plus importantes et les plus célèbres de ce type. Près de 30 000 visiteurs, vraiment énormes. Plusieurs centaines de personnes ont concouru. Et me voici le premier. C'était inattendu et très cool. Maintenant, je peux toujours aller à DEF CON gratuitement, un si petit privilège pour les gagnants.


Et quelle était la tâche? Bref.


En bref, ce n'est pas une tâche, mais des dizaines de tâches différentes: vulnérabilités dans les applications Web, exploits binaires, analyse du trafic et extraction de clés à partir d'images de disque ou de mémoire. Piratage des réseaux Wi-Fi, capture du trafic sans fil. Cryptographie. En général, il est nécessaire d'absorber et d'appliquer un grand nombre de connaissances diverses en très peu de temps. Tout ce que j'aime, nous en avons déjà parlé.


Qu'est-ce qu'une valeur, un indicateur de réussite pour vous?


Pour moi, un indicateur important de réussite personnelle est la question suivante: "Qu'est-ce qui changerait si je n'étais pas ici?" Autrement dit, si je n'étais pas là, il se passerait quelque chose que j'ai fait, par exemple, dans mon travail ou non. Si quelqu'un d'autre l'aurait fait sans moi, alors ma présence ne semble pas si importante. Mais si j'avais fait quelque chose qui sans moi ne serait pas apparu ou que d'autres auraient fait pire ... Une autre chose.


Pensez-vous qu'il est désormais plus facile d'entrer sur le marché occidental des TI depuis la Russie ou plus difficile?


Assez facile à sortir si vous déménagez. Il y a beaucoup de postes vacants et il y a encore peu de spécialistes, donc ils sont souvent prêts à aider avec un visa, à payer le voyage. C'est plus difficile si vous êtes dans un endroit éloigné - vous pouvez rencontrer le fait que vous êtes souvent considéré comme un "mec de Russie". Cela signifie que vous pouvez payer moins - vous vivez dans un pays relativement pauvre, de combien avez-vous besoin? Cela signifie que vous n'avez pas de contexte professionnel et culturel que les gens en Occident ont - toutes ces réunions, communautés, conférences - et que vous parlez un langage un peu différent, utilisez d'autres concepts, valeurs. Cela ne semble pas si important, car vous écrivez en quelque sorte le code et écrivez, mais lorsque vous êtes un membre à part entière de l'équipe, cela affecte. En Russie, ce contexte est encore complètement différent, surtout si ce n'est à Moscou ou à Saint-Pétersbourg. À Tomsk, où je suis né et j'ai grandi, il n'y a pas particulièrement de communauté informatique. Il existe plusieurs bonnes entreprises, certains particuliers, des événements rares. Mais il y a peu de mitaps ou de communautés qui se rencontrent régulièrement. Conférences - une ou deux par an.


Vous n'avez pas pensé à organiser quelque chose?


J'organise ou j'aide régulièrement, mais généralement pas à Tomsk. Le problème n'est pas d'organiser, mais plutôt de rassembler les personnes intéressées. Et aussi, encore une fois, dans le contexte. Lorsque vous allez constamment à de tels événements, vous accumulez un certain contexte, et lorsque vous transférez des connaissances, vous partez du fait que les gens sont également dans ce contexte. Par conséquent, il m'est plus difficile de parler en Russie qu'en Europe - le contexte est complètement différent et des efforts doivent être faits pour comprendre ce qui doit être expliqué plus en détail, ce qu'il faut sauter, sur quoi se concentrer. La chose la plus difficile est de dire quelque chose à des gens qui n'ont pas du tout ce contexte, qui n'ont auparavant participé à aucune communauté. J'admire les gens qui savent bien dire aux nouveaux arrivants. En général, sur le même problème qu'avec la télécommande - tout de la différence de contextes.


Que pensez-vous, dans le domaine de la sécurité, de la probabilité de l'émergence de l'IA pour résoudre un certain nombre de problèmes? Vous, en tant que consultant en sécurité de l'information, que voyez-vous dans ce domaine?


En 2016, s'est tenu le Cyber ​​Grand Challenge, financé par l'agence américaine DARPA (Defense Advanced Research Projects Agency). J'ai déjà parlé un peu de CTF, lorsque les équipes reçoivent des images de systèmes avec des vulnérabilités pré-planifiées, et la tâche consiste à exploiter ces vulnérabilités les unes des autres, le plus tôt possible en découvrant et en corrigeant les leurs. Les CGC sont donc les mêmes compétitions, mais les IA y participent sans aucune intervention humaine. Autrement dit, l'apparition de l'IA n'est pas seulement «probable», elle est déjà en développement et très active - les robots cassent les robots, les robots sont protégés des robots. De nombreuses vulnérabilités sont exploitées et ne sont que des analyses larges et automatiques. Le fuzzing - test avec la saisie de données incorrectes pour rechercher des vulnérabilités - est également presque entièrement automatisé. Il y a tellement de choses dans lesquelles l'IA est utilisée à la fois pour l'attaque et la défense. Mais en même temps, la sécurité de l'information est autant une histoire de personnes que de voitures.


Voulez-vous dire l'ingénierie sociale?


Je veux dire non seulement l'ingénierie sociale, mais aussi tout facteur humain. Nous vivons maintenant à une époque où, dans les systèmes modernes, l'endroit le plus vulnérable n'est pas un logiciel et non une machine, mais une personne qui exploite tout cela et les erreurs qu'il fait.


Quelles tendances voyez-vous dans la sphère sur laquelle vous travaillez actuellement?


Je vois une très forte influence des questions morales et éthiques sur l'environnement dans son ensemble. Quand les gens non seulement écrivent du code, mais réfléchissent également à la raison pour laquelle ce code sera utilisé. Et à quoi cela servira devient une question beaucoup plus importante pour les gens qu'auparavant. Parce qu'il y a une possibilité, tout à fait tangible, que votre code tue des gens, que votre code soit utilisé pour discriminer ou porter atteinte aux droits d'autrui, qu'une erreur dans votre code peut priver une personne de sa maison ou la mettre en prison. Les gens pensaient moins à de telles choses, il me semble parce que nous ne comptions pas assez sur la technologie pour prendre des décisions sur un tel plan avec leur aide. Par conséquent, les gens commencent à réfléchir beaucoup plus à ces questions. Il n'y a pas si longtemps, les employés de Google ont manifesté massivement contre la participation au projet Maven (un projet de développement de l'IA pour le département américain de la Défense) - et, par conséquent, le contrat a été annulé.


Dans le même temps, la direction de Google, comme on dit dans certains médias, travaille avec des agences de renseignement. Et la véritable confidentialité des informations sur les mêmes services de messagerie Google soulève parfois des questions.


Il ne s'agit probablement pas de leadership, mais de développeurs, d'employés «ordinaires» ordinaires. Je connais des gens qui, fondamentalement, ne participeront pas (et ont déjà refusé de participer) à de tels projets.


Autrement dit, vous pensez que le réseau se développe progressivement. Une enfance insouciante et téméraire passe.


Oui Nous avons grandi au point où la technologie peut causer des dommages très réels, très tangibles et très massifs. Et jusqu'au moment où les sociétés informatiques se sont tellement développées qu'elles peuvent le faire sans aide extérieure.


Je m'intéresse depuis longtemps aux questions de manipulation, de scénarios addictifs et d'éthique des réseaux sociaux. Les grands réseaux sociaux utilisent un certain nombre de technologies qui influencent la capture de l'attention, la rétention ... Dans certains cas, ils peuvent former une dépendance à une personne, ce qui peut entraîner l'épuisement de la dopamine, la dépression et, finalement, le suicide. Autrement dit, le code peut conduire à une mort réelle. J'ai remarqué que le sénateur républicain américain Josh Hawley a récemment proposé le projet de loi SMART (Social Media Addiction Reduction Technology Act). Hawley a exigé que les réseaux sociaux cessent "d'exploiter la psychologie humaine ou la physiologie du cerveau" à leurs propres fins. Le projet de loi énumère quatre «pratiques interdites» pratiquées par les grands réseaux sociaux: le téléchargement automatique des données dans le flux de publication et l'impossibilité de faire défiler jusqu'au bout, une attaque avec des quantités excessives de contenu, des récompenses pour l'activité sur les réseaux sociaux et la fonction de lecture automatique de musique et de vidéos. Pensez-vous que l'éthique des réseaux du 21e siècle se formera dans un avenir proche? Ou les grandes entreprises résisteront-elles et bloqueront-elles de telles initiatives?


Il me semble que les grandes entreprises résisteront toujours. C'est une entreprise et son objectif principal sera toujours de gagner de l'argent. Bien sûr, le moyen le plus simple est de gagner plus d'argent si les gens utilisent beaucoup et souvent votre produit, et oui, ils en dépendront.


Seulement, il s'avère qu'il y a un conflit entre les développeurs qui travaillent pour ces grandes entreprises, mais forment une nouvelle éthique pour le développeur, et les grandes entreprises elles-mêmes, qui ne sont intéressées que par le profit.


Il existe déjà des cas massifs très médiatisés où les développeurs ont cessé de travailler pour des entreprises spécifiques en raison de différences éthiques - le même Maven. Ils sont encore rares. Mais il me semble qu'il y en aura plus. Parce que les bons développeurs ont toujours le choix, et l'informatique est désormais un tel marché, où ce ne sont probablement pas les entreprises, mais les développeurs qui dictent leurs conditions. Et un tel forçage des normes morales et éthiques peut commencer par le bas, puis remonter, ce qui se produit maintenant en général.


Les développeurs peuvent désormais dicter les conditions, car il y a une grande pénurie de développeurs talentueux et expérimentés sur le marché. Avec une augmentation du nombre de développeurs, le déficit diminuera, ce qui signifie que les entreprises pourront dicter.


Peut-être oui, peut-être non. Le nombre de développeurs expérimentés augmentera. Mais les développeurs, expérimentés en ce moment, vont également grandir. Et la demande pour ce niveau apparaîtra également. La profession est relativement jeune après tout. Mais le tournant, oui, en ce moment. Peut-être que cette période se terminera bientôt.


Et quelles tendances voyez-vous?


Je vois toute la tendance des mouvements qui vont de bas en haut, venant des employés. Ils essaient de forcer les dirigeants à accepter certains de leurs objectifs, qui ne sont pas uniquement associés au profit. Et les entreprises doivent changer quelque chose, non seulement parce que c'est bien et bien, mais aussi parce qu'alors, les gens iront vers eux et les employés existants resteront, et n'iront pas ailleurs. Je pense que jusqu'à un certain point, cela prendra de l'ampleur et, éventuellement, des règles et normes morales et éthiques seront formulées qui seront acceptées par tous. Dans les pratiques d'embauche concernant la même discrimination. Si nous parlons de diversité, qui est maintenant constamment discutée en Occident, alors la plupart de l'initiative vient juste d'en bas. Les gens disent: "Je ne serai pas embauché par une entreprise où il n'y a personne qui me comprend, qui me ressemble, qui a connu les mêmes problèmes que moi". Ou ils disent: "Il est peu probable que je retire beaucoup de choses utiles de la conférence, où tous les conférenciers ont des antécédents aussi similaires les uns aux autres et très différents des miens." Et les entreprises doivent changer. C'est à nouveau, à bien des égards, une question de contexte culturel, en Russie c'est maintenant moins.


Avez-vous entendu parler de communautés qui essaient déjà de créer une nouvelle éthique pour les développeurs en particulier et le réseau dans son ensemble?


Il y a tellement de groupes qui luttent pour la diversité, tant de gens qui s'engagent dans l'activisme en ligne, la lutte contre la censure et la persécution politique en ligne. Il s'agit principalement de personnes proches du journalisme, d'organisations à but non lucratif. Internet Freedom Festival est une bonne conférence sur ce sujet, par exemple. Mais, malheureusement, je ne connais pas les grandes communautés qui traiteraient spécifiquement les questions de la nouvelle moralité et de l'éthique sur le net. Je soupçonne qu'ils le sont, car ils ne peuvent qu'exister. Mais le fait que je ne les connaisse pas, même si j'étais intéressé par la question, parle néanmoins de quelque chose.


PS La conversation a laissé une impression intéressante: pour parler librement de ces sujets, vous avez besoin d'une personne vivant en Europe ou aux USA. Premièrement, la petite ville de moi au cours de l'interview a pensé: "Ethique informatique, sabotage ... Ils ricanaient un peu là-bas." Et un autre, universel, lui a répondu: "Peut-être que nous grandirons un jour à cela."

Source: https://habr.com/ru/post/fr468071/


All Articles