Le futur de l’IA : Big Crunch, Big Freeze ou TVA ?

Alors non, je ne fais pas référence à une quelconque source biblique ou aux Védas¹, mais simplement aux dernières théories sur la fin de l’Univers. En résumé, il y a trois « fins » possibles : soit l’expansion de l’Univers, sous l’effet de l’énergie sombre, se poursuit indéfiniment et l’on finit tous gelés ; soit la gravitation finit par reprendre le dessus, l’Univers se recroqueville sur lui-même, et l’on finit tous écrasés et grillés ; soit, enfin, l’Univers atteint une sorte d’équilibre improbable, pile au milieu (lol).

Je vous laisse faire le parallèle avec l’espèce humaine, dont il est probable que l’on assiste au Big Crunch vers le trou noir ultime de sa propre bêtise, mais là n’est pas le sujet : ici, on parle d’IA. Parce que cela fait plusieurs actualités sur lesquelles je tombe et qui me laissent pantois. Voyez plutôt.

On commence par Amazon, qui vient d’en faire l’expérience. Une faille dans l’extension pour VS Code Amazon Q Developer a mis en lumière un scénario très inquiétant² : une injection de code visant un assistant de développement IA peut produire des effets inattendus, surtout lorsque cet assistant dispose d’un accès au code, aux fichiers ou à l’environnement du développeur. Ce n’est évidemment pas Skynet³ qui se réveille dans un datacenter, mais cela rappelle qu’un outil dopé à l’IA n’est pas un simple correcteur orthographique : lorsqu’il lit, écrit ou suggère du code, son périmètre d’action devient un vrai sujet de sécurité.

On continue avec les dernières arnaques à la mode à base d’IA. C’est indéniable : si le genre humain faisait preuve d’autant d’ingéniosité pour gérer la planète que pour arnaquer son prochain, il y a belle lurette que la faim et les maladies auraient disparu de la surface du globe. Par exemple : utiliser l’IA pour falsifier à distance l’état d’un appartement mis en location sur Airbnb afin de réclamer de la thune au dernier locataire, truquer de fausses notes de frais, retoucher les photos d’objets mis en vente sur des plateformes comme eBay, etc. Il fallait déjà se méfier d’un mail de son, prétendu, chargé de compte bancaire, puis d’un SMS provenant de son GSM pro ; maintenant, il va falloir se méfier, en plus, des appels téléphoniques, y compris en visio, puisque tout devient falsifiable.

Conseil personnel aux utilisateurs de Tinder : attention, vous pensez avoir rendez-vous avec le sosie de Jayne Mansfield, et vous allez voir débarquer le clone de Jane Birkin. Il y a un détail ou deux qui diffèrent, je vous laisse faire vos propres recherches.

Sinon, récemment, je suis tombé sur un truc somme toute assez drôle concernant l’évolution des plateformes et des modèles d’IA. Je vous suggère d’aller jeter un coup d’œil aux portraits de Philippe IV d’Espagne⁴, puis de son fils Charles II⁵ : vous aurez une petite idée de ce que l’on appelle les effets de la consanguinité dynastique. Charles II concentrait à peu près tout ce que plusieurs générations de mariages entre cousins pouvaient produire de moins optimal. Disons que ce n’était pas exactement la publicité la plus convaincante pour la diversité génétique.

Eh bien, figurez-vous que certains observateurs avisés des images générées par l’IA remarquent qu’elles sont de plus en plus jaunes, jaunasses serait d’ailleurs plus approprié. Il existe de fait des filtres pour retirer le jaune, d’accord. Mais le phénomène pose une question plus large : avec quoi entraîne-t-on les modèles quand ceux-ci ont déjà avalé une bonne partie du Web disponible ?

Or certains modèles sont tellement gourmands en données qu’ils auraient déjà fait le tour du Web ; il ne leur resterait maintenant, ou principalement, que les données générées par d’autres IA, donc, indirectement, par eux-mêmes. En cyber, ce n’est pas exactement une hallucination, mais plutôt une autre forme de dérive : une boucle de rétroaction dans laquelle les modèles recyclent leurs propres biais, leurs propres défauts et leurs propres aberrations. Dit autrement, on va bientôt assister à de la consanguinité d’IA. Inutile de dire que si cela se termine avec le menton proéminent de Charles II, on n’a pas fini de rigoler.

La question posée en titre du présent article est presque « vite répondue » : ni l’un ni l’autre, ma bonne dame. Darwin risque de s’appliquer à l’IA comme il s’est appliqué aux oiseaux dodo.

Car le vrai risque n’est peut-être pas que l’IA nous remplace. Le vrai risque est qu’elle nous ressemble trop : approximative, opportuniste, bavarde, parfois brillante, souvent paresseuse, et parfaitement capable de recycler ses propres erreurs avec une assurance désarmante.

Mais cette réponse appelle une autre question : qui, de l’IA ou de l’humain, va enterrer l’autre ? C’est la grande question philosophique qui m’anime en ce moment, je ne vous le cache pas. Bon, en même temps, on n’est pas au bout de l’histoire concernant l’IA : nos gratte-papiers en chef n’ont pas encore imaginé de formulaire CERFA pour l’IA, ni de TVA (Taxe sur la Valeur Artificielle) sur l’IA, ni de CSG sur les moteurs d’IA.

Ah : on me dit dans l’oreillette droite que c’est déjà en projet.

[1]   Textes sacrés Hindous
[2]   https://blog.koi.security/amazons-ai-assistant-almost-nuked-your-dev-environment-and-no-one-noticed-for-5-days-6d8091f78f05
[3]   Terminator
[4]   https://fr.wikipedia.org/wiki/Philippe_IV_(roi_d%27Espagne)
[5]   https://fr.wikipedia.org/wiki/Charles_II_(roi_d%27Espagne)