Sir Tim Berners-Lee, l'un des inventeurs du protocole WWW et hypertexte, professeur au Massachusetts Institute of Technology et à l'Université de Southampton, est également conseiller du gouvernement britannique. Par conséquent, il doit avoir une vision sobre du monde et évaluer ce qui se passe autour et à quoi cela peut conduire.
En parlant d'Intelligence Artificielle, de nombreux experts pensent à l'émergence d'une IA forte et d'une singularité technologique, mais si nous parlons judicieusement, alors à quoi sert une IA forte pour les gens, pourquoi investir des milliards de dollars dans son développement? Les avantages d'avoir une IA forte sont brumeux et les risques sont trop grands.
Il est beaucoup plus logique de supposer qu'au début, il y aura des versions faibles de l'IA qui sont meilleures que les gens effectueront des tâches hautement spécialisées. En raison de ces versions de l'IA, les gens vont essayer d'obtenir un avantage concurrentiel sur les autres pour le principal objectif qui anime l'humanité - pour le bien de l'argent
* .
Certains signes d'un avenir imminent sont visibles aujourd'hui. Les programmeurs les plus talentueux et les brillants mathématiciens vont travailler où? Oui, dans les fonds d'investissement. Ils y créent des modèles mathématiques innovants, de nouvelles stratégies de trading, des dérivés exotiques ingénieux selon des formules extraordinaires - et recherchent ce même
alpha , c'est-à-dire un profit supérieur au marché. Qui a une intelligence supérieure - il reçoit l'alpha. Les paysans moyens obtiennent la
version bêta et les perdants perdent. Le marché financier, exempt de toutes sortes de biens tangibles, d'intrigues secrètes, est une lutte d'intellects dans leur forme pure, selon des règles clairement établies. La lutte pour l'argent. C'est le seul domaine d'activité humaine au monde où un brillant mathématicien peut gagner régulièrement des centaines de milliers de dollars par mois, surtout s'il reçoit un pourcentage de l'alpha qu'il a apporté à sa fondation.
Une étape intelligente serait de mettre en œuvre des systèmes de prise de décision informatisés - les versions les plus avancées de l'IA - principalement dans le monde financier. À ce sujet, Sir Tim Berners Lee en a
parlé dans son
discours du 10 avril 2017 lors du
Sommet mondial sur les innovations financières .
Des systèmes d'IA faible d'IBM et d'autres sociétés sont déjà mis en œuvre dans les banques et les fonds d'investissement. Que se passera-t-il ensuite? Tim Berners-Lee pense que le tournant sera le moment où l'IA commencera à prendre des décisions importantes. Par exemple, évaluer les avantages des investissements et décider quelle entreprise est plus rentable à acquérir. Évaluez les antécédents de crédit des gens - et décidez à qui accorder un prêt hypothécaire et à qui c'est impossible. Les systèmes informatiques modernes sont déjà proches de telles fonctionnalités.
Tim Berners-Lee dit que la prochaine étape logique dans le développement de l'IA financière après avoir décidé d'acheter les entreprises les plus rentables sera la gestion des entreprises, la création de participations et la génération d'exemplaires subsidiaires de son propre programme pour gérer ces nouvelles entreprises.
Ce sera un processus naturel, car dans la concurrence sur le marché, les entreprises contrôlées par l'IA auront un avantage sur les entreprises gérées par des personnes. Au final, seules les entreprises contrôlées par l'IA qui se feront concurrence resteront sur le marché. Il sera difficile pour les gens de comprendre et de s'assurer que la concurrence loyale est respectée: "Oui, et comment expliquer le concept d'honnêteté à un ordinateur, en tout cas?", Demande Tim Berners-Lee. Ici, la question se pose d'observer l'éthique et la moralité - des règles de comportement que les gens eux-mêmes ne comprennent pas complètement (et ne sont pas d'accord), comment expliquer cela à un ordinateur?
Encore une fois, il existe des risques qu'une version limitée de l'IA commence à se développer dans la mauvaise direction. Créé initialement pour une tâche étroite, il peut finalement considérer que toute la réalité environnante est décrite par les conditions de cette tâche. Cette opinion de Berners-Lee rappelle les préoccupations exprimées par Elon Musk dans
une interview avec Vanity Fair:
"Supposons que vous ayez créé une IA auto-améliorante pour la cueillette des fraises et que cela va de mieux en mieux pour cueillir des fraises, et cueillir de plus en plus, et améliorer, et tout ce qu'il veut, c'est cueillir des fraises. Donc, à la fin, le monde entier se transformera en champs de fraises. Des champs de fraises pour toujours. »
En général, il y a quelque chose à penser. Si le programme peut s'auto-apprendre, alors une IA faible avec une spécialisation étroite peut être encore plus dangereuse qu'une IA forte à part entière avec une conscience de soi normale. Les principes moraux sont peut-être une qualité inaliénable de tout être rationnel doté d'intelligence et de conscience de soi.
* Dans la civilisation occidentale, la présence d'argent légalement gagné signifie la présence du pouvoir, dans d'autres sociétés, ce ne sont pas toujours des concepts identiques.
En tant que petite publicité: un utilisateur de
ZiingRR nous a informés qu'à la fin du mois de mai, la première conférence relativement importante en Russie sur le thème de la sécurité de l'IA (AI Safety, la langue parlée est l'anglais) se tiendra au HSE dans la
salle de conférence informatique . Il est également prévu de tenir une conférence similaire à
Arche .
ZiingRR promet qu'une vidéo sera publiée à partir des deux conférences.