Gerd Leonhard sur l’éthique des IoT et l’intelligence artificielle.
13 min

«Nous devons laisser nos peurs de côté»

Selon le futurologue Gerd Leonhard, le futur sera mieux que nous le pensons. Au final, il est de la responsabilité de l’être humain de maîtriser la transition numérique. Il doit toutefois déterminer les tâches qu’il abandonnera à la technologie, et celles qui resteront de son ressort. Rencontre avec un homme qui se voit davantage comme un thérapeute du futur que comme un prophète.

A vos marques, prêts, partez! Le futur arrive plus vite que l’on ne pense. Celui qui n’est pas dans les starting-blocks a probablement déjà raté le coche. Le futur, lui, grince des dents d’un air méprisant et siffle inlassablement: «numérique». Il n’est alors pas étonnant que certains aient un peu la boule au ventre à l’idée d’une vie vécue avec un train de retard, voire pire: à courir après le train.

La peur

Gerd Leonhard est bien réveillé, sur le qui-vive. Et il a, du moins professionnellement, une grande longueur d’avance. Son avis sur la révolution industrielle 4.0, ou la transition numérique, intéresse aussi bien les managers et les médias que les acteurs économiques tout autour du globe. Il passe ses journées à analyser l’impact des progrès technologiques sur nos vies.

Monsieur Leonhard, avez-vous peur de l’avenir?

Le futurologue Gerd Leonhard
Le futurologue Gerd Leonhard.

«Personnellement non. Je suis optimiste. Mais je suis bien conscient que tout le monde ne partage pas mon assurance et que, dans le monde réel, beaucoup d’individus ont peur de l’avenir. Au cours des deux dernières années, l’automatisation et la numérisation en ont amené beaucoup à penser: le futur ne va pas bien se passer, ça sera épouvantable!»

Né à Bonn, Gerd Leonhard a plus tard été musicien de jazz et actif au sein de start-up Internet aux Etats-Unis. Il est actuellement futurologue et humaniste. Il plaisante lui-même sur le fait qu’il n’est pas un scientifique du calibre d’Albert Einstein, mais plutôt de celui de Jimi Hendrix. Un expert talentueux dans sa discipline, il maîtrise également les éléments d’un bon show man.

Le sermon de la numérisation

Vêtu d’une chemise noire, de chaussures noires, d’un pantalon noir et d’une veste noire, le futurologue de 58 ans a été invité cet après-midi par Swisscom au World Trade Center de Zurich Oerlikon. Il se tient devant 400 spécialistes de la branche informatique pour discuter du thème de l’IoT, l’internet des objets.

Il marche de gauche à droite de la scène puis, de nouveau, de droite à gauche, à l’image des keynotes de Tim Cook ou d’autres gourous technologiques. Il présente des images et des messages sur l’écran et les accompagne de phrases telles que «l’intelligence artificielle (IA) est un outil fantastique, mais c’est aussi un maître abominable» ou «ces 20 prochaines années, notre société connaîtra une transformation encore plus importante qu’au cours des trois derniers siècles» ou encore «nous devons choisir entre le paradis et l’enfer».

Gerd Leonhard parle d’éthique, d’IoT, de transformation et de l’avenir
Gerd Leonhard sur scène à l’occasion du Swisscom Digitalk.

Gerd Leonhard, autrefois étudiant en théologie, décrit d’une part la numérisation inévitable et exponentielle: «Les données sont le nouveau pétrole. L’intelligence artificielle la nouvelle électricité. Et l’IoT le nouveau système nerveux». D’autre part, le fils de forestier qui crie tout haut dans les bois ce que d’autres veulent (ou parfois ne préfèrent pas) entendre, fait office d’avertisseur dédié. La transformation totale est inévitable, c’est une chose certaine. Gerd Leonhard revendique que la technologie devrait avoir pour seule mission de contribuer au bonheur de l’être humain.

Monsieur Leonhard, la transition numérique est-elle une transition pour le bien de tous?

«En principe oui. Le problème avec la numérisation, c’est qu’on la dramatise bien souvent. Quand Facebook, par exemple, prévoit de construire la connectivité à Internet sur le continent africain à l’aide de drones, c’est à première vue une bonne chose. Mais vous pouvez être sûr que cela sera au final davantage utilisé pour surveiller les individus que pour connecter des régions isolées à Internet.

Selon Gerd Leonhard, ce sont de telles évolutions défavorables qui détruisent les idées fondamentalement positives de la numérisation. Blâmer la technologie pour cela serait extrêmement réducteur. Il donne l’exemple: «C’est comme le marteau que l’on peut utiliser aussi bien pour enfoncer un clou dans une planche de bois que pour l’enfoncer dans une tête: en fin de compte, le marteau se fiche de savoir ce pourquoi on l’utilise. Il ne distingue pas le bien du mal, tout comme la technologie, que beaucoup croient pourtant corrompue en soi.

L’être humain pense et dirige

Si quelqu’un est corrompu, c’est bien lui. C’est là que Gerd Leonhard touche à la plus grosse faiblesse de la transition numérique. Tant que le système social continuera de faire des revenus financiers le principal benchmark de l’existence humaine, il y aura toujours des gens pour utiliser les avancées technologiques à leurs propres fins. Pour lui, le revenu de base inconditionnel pourrait être le fondement d’une structure nouvelle et innovatrice pour la société et le monde du travail. Il fronce les sourcils. Il y a plusieurs années, de nombreuses entreprises en ligne s’étaient engagées à suivre le code «don’t be evil» lors de leur création. Ces mêmes entreprises incarnent aujourd’hui le contraire de cet engagement, sont désormais «evil» et corrompues. Pas parce qu’elles souhaitaient le devenir. Mais tout simplement parce qu’il y avait trop d’argent à gagner en tirant profit des données.

Monsieur Leonhard, êtes-vous personnellement déjà devenu «evil»?

«Les tentations, ou autrement dit les offres, sont bien là. J’ai la chance d’être indépendant et de pouvoir refuser des propositions. Certaines entreprises et organisations peuvent me proposer autant d’argent qu’elles veulent pour mes services, je ne leur mets pas mes connaissances à disposition, et ce par principe.»

Morale, engagement, sens: voici les mots clés du moment dans le contexte de la transformation numérique. «2019 est l’année de l’éthique numérique», annonce Gerd Leonhard à l’avant de la scène, tandis que derrière lui, deux préhenseurs robotiques forment un cœur à l’écran. Il s’agit de la couverture de son dernier livre intitulé «Technology vs. Humanity» qu’il décrit comme une provocation consciente. En effet, il ne souhaite pas les positionner l’un contre l’autre, son intention est avant tout d’encourager une poignée de main amicale entre l’être humain et la machine. Du point de vue économique, écologique et social, l’être humain pourrait tirer profit de la technologie de façon titanesque. Ce dont nous devons être conscients au final, c’est de la manière dont nous voulons exploiter les possibilités offertes par la technologie aujourd’hui et demain. «Nous devons changer fondamentalement le système, et ce dès aujourd’hui.»

Nous avons besoin d’un «Mission Control»

La grande question est la suivante: que doit prendre en charge la technologie et qu’est-ce qui restera entre les mains de l’être humain? Au final, les machines et les algorithmes peuvent nous libérer des tâches pénibles. Mais qui décide de ce qui tombe dans cette catégorie, où et comment? Un algorithme? A ce sujet, Gerd Leonhard est de l’avis de Kevin Kelly, le cofondateur du magazine technique «Wired». Ce dernier a initié le monde au précepte de base selon lequel les ordinateurs sont là pour répondre aux questions posées par l’être humain.

Gerd Leonhard plaide pour un conseil d’éthique de la numérisation.
Gerd Leonhard plaide pour un conseil d’éthique de la numérisation.

Monsieur Leonhard, que faire si les machines compilent un jour toutes seules une liste de questions?

«L’intelligence autonome n’est certainement pas souhaitable. De manière générale, l’intelligence artificielle ne nous veut aucun mal, sauf si l’être humain la programme pour. C’est pourquoi il est nécessaire d’avoir une sorte de «Mission Control for Humanity» pour assurer le maintien de l’équilibre entre l’être humain et les machines. Mais, qui devrait s’en charger? Qui pourrait faire office de pouvoir indépendant pour la sécurité des données à l’ère des machines intelligentes? Pour la sphère privée? Actuellement, les leviers se trouvent entre les mains de la Silicon Valley. Et cela ne peut pas continuer ainsi. Les politiciens mais également les entreprises sont sollicités.»

Gerd Leonhard constate ici et là un certain mouvement vers la préservation des intérêts humains auprès de certaines entreprises, sous la forme par exemple d’«Ethics Officers» fraîchement installés. Ces derniers cherchent à savoir quels processus peuvent être automatisés et ce que cela provoquerait chez les collaborateurs et dans la société. En gros, des individus qui pensent en dehors des sentiers battus. Pour Gerd Leonhard, les politiciens sont eux inactifs. «A vrai dire, nous avons besoin d’un «Digital Ethics Council» européen dans lequel siègeraient des scientifiques interpartis, des philosophes, des penseurs et des artistes. Un Conseil des sages en quelque sorte, un Conseil des anciens qui fixerait les lignes directrices d’actions axées sur le futur et qui montrerait la voie aux politiciens.

L’être humain doit prendre conscience de ses points forts.

Les solutions IoT de Swisscom – concentré de puissance pour tous

L’Internet des objets, ou l’IoT, fait parler de lui et fait bouger les choses dans tous les domaines. Aujourd’hui déjà, les applications IoT accélèrent considérablement les cycles d’innovation des produits et des services. De nouvelles questions apparaissent également en ce qui concerne la sécurité et le traitement des données collectées.

En tant qu’entreprise technologique leader, Swisscom est consciente de cette responsabilité et traite les données de façon responsable, met en réseau et administre des «objets» pour en générer des avantages. De concert avec un vaste réseau de partenaires et en incluant les derniers éléments technologiques tels que l’IA, la cyber-sécurité, l’analytique ou encore le cloud computing, Swisscom crée des écosystèmes porteurs de valeur bénéfiques pour la Suisse. Concrètement, des projets allant de simples capteurs IoT jusqu’à des installations industrielles interconnectées de manière complexe voient le jour.

En savoir plus

Au cours de cet après-midi, Leonhard aborde à plusieurs reprises le rôle de l’être humain à l’ère technologique. Il est vrai que ce dernier, enfin nous, sommes plutôt inefficaces, lents et chers (en gros, le contraire des machines). Toutefois, contrairement à la technologie, les êtres humains disposent d’une capacité d’innovation, de créativité, d’esprit critique et de la capacité à douter. Qualités qu’il vaut la peine d’exploiter. «L’efficacité ne fait pas tout. Et la sagesse reste une qualité typiquement humaine. Les ordinateurs ne peuvent pas faire preuve de sagesse. Ils se projettent uniquement en se basant sur des faits.» Il montre une image sur laquelle on peut voir une cible et quatre flèches manquant cette dernière. «La machine ne voit pas les éléments se trouvant en dehors de ces faits clairement définis, c’est beaucoup trop flou.»

Monsieur Leonhard, que répondez-vous aux personnes qui pensent que le futur ne va pas bien se passer, qu’il sera épouvantable?

A ceux qui ne se penchent pas trop sur le thème de la technologisation, je leur conseille de laisser leurs appréhensions de côté. La vie telle que nous la connaissons va changer radicalement au cours des prochaines années. Après coup surviendra une certaine «réhumanisation»: nous serons super efficaces et entièrement interconnectés, et disposerons dans le même temps de plus de temps pour les relations interpersonnelles et sociales. A mon avis, le futur sera beaucoup mieux que ce que nous imaginons.

Les faits des machines, la sagesse des êtres humains

L’auditoire alterne de plus en plus entre fascination et inquiétude face aux prédictions de Gerd Leonhard. Les thèses présentées sur l’écran géant sont rapidement photographiées à l’aide de smartphones et partagées avec le monde extérieur. Le futur décrit par Gerd Leonhard au cours de ces 45 minutes s’annonce à 90% positif. Les 10% restants le sont moins.

Monsieur Leonhard, pourquoi devrions-nous vous croire?

«Car ce que je dis, les gens le savent déjà depuis longtemps. Ils ne s’en sont juste pas vraiment préoccupés jusqu’à présent. C’est comme lorsque vous allez chez un thérapeute, qu’il vous dit que vous ne traitez pas bien votre femme et que vous devriez changer radicalement de comportement. Vous en étiez déjà conscient depuis longtemps, mais c’est seulement maintenant que quelqu’un vous le dit directement que vous réalisez: oh, je devrais peut-être faire quelque chose.»

Applaudissements. Mots de remerciements. L’obscurité de la salle cède la place à la lumière vive des néons. Gerd Leonhard rectifie la position du casque-micro sur son col, ouvre le dernier bouton de sa chemise et répond aux questions d’enthousiastes et de sceptiques au fur et à mesure que les rangées se vident. Oui, il est tout à fait d’accord avec une étude déclarant que seulement 5% des professions seront touchées par l’automatisation totale; non, les politiciens sont encore bien loin d’un changement de paradigme vers un futur plus intelligent; oui, à l’avenir aussi, les futurologues et les journalistes se rencontreront pour débattre. Après tout, les faits sont une chose, on peut aussi alimenter des machines avec.

Gerd Leonhard Interview Swisscom
«Le futur sera beaucoup mieux que ce que nous imaginons.» Gerd Leonhard lors d’une interview.

«Au final», commence Gerd Leonhard en ramassant son sac, «au final, il s’agit de ne pas projeter ces faits, mais de les comprendre. Il est question d’intuition, et non d’informations concrètes. Au sens large, le futur reflètera ce qui différencie l’être humain depuis toujours: sa sagesse.»

Il regarde sa montre. A vos marques, prêts, partez: hop. Il s’oriente déjà vers le futur. Le repas du soir l’attend déjà à la maison.

L’exposé complet de Gerd Leonhard en vidéo

 

Le futurologue et la Suisse

Gerd Leonhard vit depuis 15 ans en Suisse. Son pays adoptif est une île magnifique, affirme cet allemand habitant à Zurich. La nature et la sécurité l’ont convaincu de rester, tout comme un certain «code déontologique» sur lequel sont fondées la pensée collective ainsi que la synergie équilibrée du pays. «C’est certes un peu vieux jeu, mais cela offre une très haute qualité de vie au cœur de l’Europe.»

Dans ce contexte, Gerd Leonhard prédit de très gros défis pour la Suisse au cours des prochaines années. Les Suisses sont trop longtemps restés inactifs en ce qui concerne la transition numérique, pensant «cela ne nous concerne pas, nous n’avons qu’à attendre un peu». Selon Gerd Leonhard, la Suisse a tout ce qu’il faut pour jouer un rôle de leader dans cette transition. Des hautes écoles de renom, des entrepreneurs futés, des start-up et des entreprises prospères.

Le futurologue de 58 ans est convaincu que la Suisse pourrait bâtir sa propre Smart-City. «Et la Suisse pourrait être la sauvegarde de données du monde.» Elle est sûre, non corrompue et a montré au cours du dernier siècle à travers ses banques comment les biens sensibles doivent être traités. «Les gens seraient prêts à payer cher pour pouvoir stocker leurs données en Suisse et ne pas avoir à les confier à la Silicon Valley.»

Lisez maintenant