ChatGPT ou Le Bal des pleureuses

Mais, par contre, ce qui est désagréable, c’est ce bruit de fond de gugusses et gugussettes (parité oblige), de prédicateurs à la petite semaine, qui vous expliquent que sans le machin-à-la-mode, point de salut. Le machin-à-la-mode varie (c’est le sens du terme « mode ») : on a vu se succéder les PC (comment, vous avez encore des mainframes AS/400 ?), les L4G[1] ou AGL[2] (IBM[3] a annoncé pendant des lustres la fin du métier d’informaticien, authentique), les bases de données Objet (je vous jure que cela a existé), la virtualisation (qui perdure depuis les années 1960 tout de même), les ETL, les EAI, le Big Data, les Datalakes (pas encore compris la différence). Dernièrement, on a eu le Cloud (incroyable le nombre de consultants qui viennent nous expliquer que c’est moins risqué que le On Premise sans jamais avoir fait d’analyse de risques de leur vie), et maintenant la cyber (Bonjour Monsieur Cartau, je suis Kevin de la société TartenpionCyberMachinChose et je vous appelle pour faire le point sur votre protection cyber. – Ben voyons, comme si j’allais te donner ce genre d’infos par téléphone, mon petit Kevin.).

Là, en revanche, on assiste à une rupture totale de paradigme (j’adore placer cette formule à table le dimanche, ça jette quand même) avec une nouvelle race d’intervenants nouvellement arrivés dans l’immense marketo-foutoir de l’IT : les pleureuses. Jusqu’à présent en effet, les oracles susnommés venaient vous expliquer que vous étiez le dernier des has been si vous n’aviez pas le machin qui clignote et que votre DG allait vous prendre pour la buse de service si vous ne présentiez pas au board un Proof of Concept afin de maximiser une démarche disruptive avec une approche de zoning scratching itératif[4]. THE nouveauté, c’est ChatGPT : depuis plusieurs semaines, on assiste à une bardée d’articles, d’interventions, d’interviews, de prédictions, venant vous expliquer qu’il faut y mettre le holà, temporiser, que l’on ne sait pas où cela va nous mener, et blablabla et blablabla. Bref, on vous demande de ne pas faire, et c’est une première.

À l’origine de cette new wave des conseillators, la photo du pape en parka Balenciaga : vachement bien fait quand même, et si le nombre de doigts n’y est pas encore (trois), ce n’est qu’une question de semaines avant que l’IA ne vous ponde une photo nickel de Joe Biden en train de surfer en binôme avec Poutine tirés par un yacht en pleine mer Noire.

Curieusement, que les innovations précédentes (les réseaux sociaux et leurs concerts de fake news) attaquent ce qui, selon Yuval Harari, constitue l’un des fondements de l’humanité : sa capacité de croyance aux mythes, n’avait manifestement pas ému les « visionnaires » de la Silicon Valley. Ainsi, en propageant les fake news à un rythme incontrôlable, les plateformes de type Twitter ou Facebook ont validé la citation de Mark Twain, selon laquelle « un mensonge peut faire le tour de la terre te temps que la vérité mette ses chaussures ». Il existe même une loi empirique ou informelle, la loi dite « de Brandolini » ou le principe d’asymétrie des baratins, aphorisme énonçant que « la quantité d’énergie nécessaire pour réfuter des sottises […] est supérieure d’un ordre de grandeur à celle nécessaire pour les produire ». Nous avons tous pu constater les impacts sur les élections de pays démocratiques de scandales tels que Cambridge Analytica, et leurs effets délétères sur les sociétés en général. Sans parler de l’empreinte carbone de tout ce bazar ni du fait qu’avec une débauche sans précédent de puissance de calcul et de stockage l’IT n’est toujours pas capable de trucs de base (il faut toujours imprimer ou envoyer en PDF le DPI d’un patient que l’on transfère dans un autre établissement, authentique). Étonnant, ce soudain regain de morale, non ?

Article connexe → Cyber : les effets pervers de la fuite en avant perpétuelle

Cette subite émotion (pour l’IA) a potentiellement trois causes. La première est que si quelqu’un a pu mettre au point un ChatGPT, ce n’est qu’une question de mois et de millions d’euros investis avant que les méchants d’en face ne parviennent au même résultat. Il n’est en effet point besoin d’être détenteur d’un « moat » (une douve selon Warren Buffet), soit un avantage concurrentiel marché tel qu’une énorme base installée pour tenir à distance les concurrents, modèle économique des Gafam, de Coca-Cola, de Nike, etc. En gros, si le premier ChatGPT est américain, le second sera chinois.

La deuxième cause est l’absence de modèle économique large : soit vous détenez une IA de dernière génération et vous raflez tout, soit non. Point barre. Et au jeu du « winner takes all » qu’affectionnent énormément les Yankees, pas sûr que les Gafam soient du bon côté du manche ce coup-ci. L’or des données personnelles (pour reprendre l’expression consacrée des Gafam qui siphonnent à tout va depuis des décennies) risque de ne plus valoir tripette avec l’IA. C’est bête, hein ?

La troisième, que je trouve piquante, c’est que ce siphonnage de données personnelles par les Gafam concerne surtout le quidam : le consommateur lambda, le patient lambda, l’électeur lambda. Et en masse, de préférence. Alors que, comme pour le coup du pape, voir M^me Michu grimée avec des oreilles de lapin serrer la main de Biden n’intéressera pas forcément grand monde. Par contre, les images de telle personnalité politique ou du business dans des situations vraisemblables mais fausses vont fuser dans tous les sens, et bon courage pour repérer le vrai du faux. Ça va être drôle quand les fakes news vont se retourner contre ceux qui en font, il faut le dire, une partie de leur chiffre d’affaires.

Il n’y aura aucun moratoire sur l’IA, pas plus qu’il n’y en a eu sur le développement de l’arc à double courbure, la dynamite, les gaz neurotoxiques, la bombe H, les drones. L’IA viendra se surajouter à toutes les techniques précédentes dans l’IT, tout comme chaque nouvelle source d’énergie s’est ajoutée à la précédente sans la supprimer (l’humanité consomme plus de charbon qu’au xix^e siècle), tout comme chaque « économie d’énergie » réalisée sur un équipement est immédiatement mangée par la multiplication desdits équipements. En d’autres termes, c’est la course en avant.

Cette course à l’échalote dure depuis 800 000 ans au bas mot. La seule nouveauté, c’est que maintenant tout le monde sans exception voit le mur arriver. Y compris Mark et Bilou.

J’adoooooore.

[1] L4G : langage de quatrième génération.

[2] AGL : atelier de génie logiciel.

[3] IBM : « Introduction du Bordel dans la Maison », surnom affectueux donné par les fans.

[4] J’ai dû lancer une bonne douzaine de fois https://www.bullshitor.com/ pour vous la sortir celle-là.

L'auteur 

Responsable Sécurité des systèmes d’information et correspondant Informatique et Libertés au CHU de Nantes, Cédric Cartau est également chargé de cours à l’École des hautes études en santé publique (EHESP). On lui doit aussi plusieurs ouvrages spécialisés publiés par les Presses de l’EHESP, dont La Sécurité du système d’information des établissements de santé.