De l’âne Lolo à l’IA générative : le piège du résultat
En 1910, un âne a peint une toile exposée au Salon des Indépendants. Aujourd’hui, cette histoire me revient chaque fois qu’un utilisateur d’IA pense avoir remplacé des décennies d’ingénierie…
Au début du siècle dernier, l’écrivain Roland Dorgelès et quelques complices décidèrent de tendre un piège au monde de l’art parisien.
Ils attachèrent un pinceau à la queue de Lolo, l’âne du cabaretier du Lapin Agile. Devant une toile, l’animal recevait quelques carottes et feuilles de tabac qui l’incitaient à remuer la queue. Peu à peu, les mouvements du pinceau produisirent une peinture. L’œuvre fut signée Joachim-Raphaël Boronali, prétendu peintre italien et théoricien d’un nouveau mouvement artistique : « l’excessivisme ».
Sous le titre Et le soleil s’endormit sur l’Adriatique, elle fut présentée au réputé Salon des Indépendants. Et certains la trouvèrent bonne.
La plaisanterie ne consistait pas vraiment à démontrer qu’un âne était capable de peindre : il l’était manifestement. Elle consistait plutôt à observer ce qui se passerait lorsque le résultat serait présenté comme une œuvre d’art, accompagné d’un nom, d’un mouvement et du discours adéquat.
Plus d’un siècle plus tard, cette histoire me revient régulièrement à l’esprit lorsque j’observe l’utilisation massive de l’IA générative dans la production de logiciel.
Le rapprochement peut sembler provocateur. Il ne s’agit pas de prétendre que l’IA générative produit nécessairement du mauvais code, pas plus que la toile de Boronali n’était désagréable à regarder. Il ne s’agit pas non plus de comparer l’utilisateur à l’âne. L’animal représente ici le simple mécanisme de production : la capacité d’engendrer un résultat sans comprendre ce que l’on produit. La vraie question est celle du jugement porté ensuite sur ce résultat.
Une IA peut aujourd’hui générer très rapidement un programme impressionnant. Il compile, s’exécute, l’interface fonctionne et la démonstration est convaincante. Les cas d’usage principaux semblent couverts. C’est une prouesse remarquable.
Mais que savons-nous réellement du résultat ?
Que se passe-t-il dans les cas limites ? En cas d’erreur ? Sous forte charge ? Après plusieurs années d’évolution ? L’architecture est-elle cohérente ? Les dépendances sont-elles maîtrisées ? Le logiciel est-il sécurisé, testable, maintenable ? Dans l’embarqué, s’ajoutent encore les contraintes critiques de temps réel, de concurrence, de consommation, de ressources matérielles et de sûreté de fonctionnement.
Il ne se passe pourtant pas une semaine sans que je lise, au détour d’un réseau social :
Je ne suis pas ingénieur, mais j’ai conçu un outil IA révolutionnaire qui…
La formulation me frappe toujours. Elle traduit une étonnante désinvolture envers l’ingénierie, comme si des décennies de méthodes, de retours d’expérience et de savoir-faire pouvaient s’effacer devant la simple capacité à obtenir rapidement un résultat visible. Mais elle évoque surtout une forme de l’effet Dunning-Kruger : l’illusion de la maîtrise.
Tu as réussi à faire produire quelque chose à une IA. Peut-être même quelque chose de très intéressant. Mais que sais-tu réellement de ce que tu as généré ? Et surtout : qu’en ignores-tu ?
C’est précisément là que l’expérience, la culture technique et la compréhension en profondeur deviennent déterminantes. Non pas pour s’interdire d’utiliser l’IA, mais pour savoir quoi lui demander, quoi vérifier, où se méfier et jusqu’où lui faire confiance.
L’IA peut générer du code conforme à une demande et reproduire de nombreuses bonnes pratiques présentes dans ses données d’entraînement. Mais produire et juger restent deux actes distincts.
C’est là que la leçon de Boronali prend tout son sens. Dans le cas de la peinture comme dans celui du code généré, le plus important n’est pas le résultat brut : un mécanisme peut produire un résultat convaincant sans disposer du jugement nécessaire pour l’évaluer.
Dans cette situation, la limite déterminante devient la capacité de discernement.
C’est ce jugement technique qui permet de distinguer ce qui fonctionne dans les cas nominaux de ce qui est réellement maîtrisé, et donc de savoir pourquoi un système fonctionne, jusqu’où il tient, et si l’on peut raisonnablement lui confier une responsabilité.
Enjoyed this article?
Embedded Notes is an occasional, curated selection of similar content, delivered to you by email. No strings attached, no marketing noise.
