RISQUES LIÉS À L'INTELLIGENCE ARTIFICIELLE
AF restera dans l'histoire comme le premier salarié italien licencié pour un motif explicite : un robot effectue son travail mieux que lui . AF est donc renvoyé pour faute grave. Le responsable des ressources humaines écrit : « Notre entreprise a installé une machine appelée applicateur de bouchons de peinture qui effectue automatiquement le même travail que vous faisiez jusqu'à présent. Par conséquent, votre poste est supprimé. » De plus, il ne s'agit pas d'un salarié ordinaire ; AF travaillait pour cette entreprise depuis trente ans, et son avocat, Mirko Mazzoli, a déjà interjeté appel, contestant son licenciement en ces termes : « Si cette décision est prise, ce sera une catastrophe pour le monde du travail. » Une catastrophe décrite avec force détails dans le livre de Riccardo Staglianò, intitulé « Al posto tuo » (Éditions Einaudi), que je vous recommande vivement. Alors, plus les robots évoluent, plus ils éliminent les humains ?
A LIRE AUSSI: La voiture autonome la plus performante au monde est en cours de construction à Parme par le consortium Vislab.
La question n'est ni rhétorique, ni fantaisiste, comme si nous parlions d'un film ou d'un livre de science-fiction , mais bien une préoccupation réelle qui ronge la communauté scientifique du monde anglo-saxon : et si les machines venaient à nous anéantir ? Le dernier avertissement en date nous vient du scientifique Stephen Hawking, qui écrit sur Reddit , le site d'agrégation d'actualités scientifiques : « L'intelligence artificielle pourrait mener à la disparition de l'humanité, à sa destruction . » Précisons d'emblée que Hawking n'est ni un catastrophiste carriériste, ni un prophète rétrograde des échecs technologiques. Au contraire, il est l'un des physiciens et mathématiciens les plus réputés au monde, l'auteur de théories universelles telles que l'origine de l'univers et les trous noirs , et un fervent défenseur des robots capables d'accroître la liberté et la prospérité des humains. Son inquiétude repose sur une observation : « Nous avons progressivement évolué pour devenir plus intelligents que les singes, et Einstein était plus intelligent que ses parents. Le véritable risque ne réside pas dans la malveillance des robots, mais dans leur extraordinaire capacité à devenir rapidement super-intelligents et bien plus performants que leurs créateurs . En pratique, les humains, dont l'évolution biologique est par nature lente, se retrouvent écrasés par une intelligence artificielle qui, elle, progresse à une vitesse supersonique, et devient donc incontrôlable. Nous sommes des fourmis, les robots ressemblent à des guépards. »
STEPHEN HAWKING ET L'INTELLIGENCE ARTIFICIELLE
Ce n'est pas la première fois que Hawking s'élève contre l'opinion générale . Il l'a fait il y a quelques mois, avec 400 autres chercheurs du monde entier, signataires d'une lettre publiée sur le site web du Future of Life Institute, dénonçant le danger imminent et le gaspillage que représentent les progrès de l'intelligence artificielle pour l'humanité . On peut y lire : « Ces systèmes doivent dire et faire ce que les humains décident, et non l'inverse. Autrement, les conséquences pourraient s'avérer bien plus dangereuses que les avantages. » La traduction de cet appel, étayée par des exemples concrets, est véritablement cauchemardesque. Une intelligence artificielle non pas maîtrisée mais imposée aux humains introduit des armes automatiques capables de provoquer des guerres accidentelles dévastatrices . Bientôt, nous aurons des voitures autonomes : mais qui peut nous assurer qu'elles seront capables d'évaluer, avec les mêmes critères que nous, à commencer par la sécurité des personnes, le risque d'accident ? Que restera-t-il du droit à la vie privée face à des robots capables de nous surveiller de manière de plus en plus omniprésente, avec les ordinateurs, les téléphones portables et les courriels au centre d'un système qui intercepte, espionne et archive chacun de nos mouvements ?
INTELLIGENCE ARTIFICIELLE ET GUERRE
Jusqu'à présent, nous n'avons vu l'apocalypse de l'intelligence artificielle , et nous en avons été fascinés, qu'au cinéma . Nous avons grandi avec les images de 2001 : L'Odyssée de l'espace de Stanley Kubrick , où la machine prend le contrôle du vaisseau et tente d'éliminer l'équipage. Des films comme la trilogie Matrix , I, Robot d'Isaac Asimov et Transcendence ont remporté des Oscars et d'autres prix : tous sont liés par un récit qui révèle le côté maléfique, voire criminel, de l'intelligence artificielle et met ainsi l'humanité en danger. Maintenant que notre imagination nous a transportés dans des univers inconnus et fascinants, nous devons faire face à la réalité et tenter de distinguer le utile du nuisible . L'attrait du développement des machines se conjugue à la barbarie de leur potentiel destructeur. Une frontière qui passionne et inquiète non seulement des scientifiques de renom comme Hawking, mais aussi les grands acteurs de l'industrie de la haute technologie, cette industrie qui a profondément révolutionné nos modes de vie ces dernières décennies. Elon Musk, le patron de Tesla, SpaceX et Hyperloop, est allé encore plus loin, spéculant sur Twitter qu'« un nouveau conflit pourrait être déclenché non pas par les dirigeants de différents pays, mais par l'un de leurs systèmes d'intelligence artificielle ». Selon cet entrepreneur visionnaire, nous pourrions bientôt atteindre un stade où les machines décideront s'il faut appuyer sur le fameux « bouton rouge » et à quel moment, réduisant ainsi toute décision à la seule rationalité. C'est pourquoi, dans cette perspective, l'éventualité qu'un système de défense/attaque puisse décider qu'un bombardement, même nucléaire, serait la voie idéale vers la victoire finale ne semble pas si improbable.
LES RISQUES DE L'INTELLIGENCE ARTIFICIELLE DANS LE MONDE DU TRAVAIL
Cela a aussi radicalement modifié notre perception de l'idéal du plein emploi : selon des études de l'Université d'Oxford, 47 % des emplois actuels sont menacés dans les vingt prochaines années par le développement de la robotique. Bill Gates, par exemple, a déclaré à propos de l'évolution de l'intelligence artificielle : « Elle a commencé comme une aide à l'homme, mais elle est aujourd'hui si puissante qu'elle pourrait devenir un cauchemar. » Et Elon Musk , l'un des entrepreneurs les plus admirés de la Silicon Valley, aujourd'hui PDG de Tesla, avertit : « L'intelligence artificielle est potentiellement plus dangereuse que les armes nucléaires . » Ces propos donnent à réfléchir. Ils devraient nous inciter tous, et pas seulement la communauté scientifique ou les industriels modernes, à repenser les limites et les fonctions du progrès technologique dans une perspective humaniste. Nous rappelant, comme l'écrivait Alessandro Manzoni, que « ce qui vient ensuite ne peut pas toujours être qualifié de progrès ».
TOUS LES RISQUES LIÉS À L'UTILISATION EXCESSIVE DES TECHNOLOGIES
Alerte smartphone : trop d’accidents. Les risques d’une utilisation excessive et incorrecte.
Circle, l'outil pour limiter notre dépendance à la technologie
Vous souhaitez voir une sélection de nos actualités ?
- Abonnez-vous à notre Newsletter cliquant ici;
- Nous sommes également sur Google Actualités, activez l'étoile pour nous ajouter à vos sources favorites ;
- Suivez-nous sur Facebook, Instagram e Pinterest.