Vérifier avant de faire confiance à l'IA

Bonjour,
les IA peuvent parfois raconter des histoires.
Il y a quelques semaines, j'avais posté ici une question relative à la console de Google.
https://forum.alsacreations.com/topic-20-91541-1-Resolu-Ajouter-une-propriete.html
La question était "comment faire apparaître dans mon espace le sous-répertoire en anglais d'un site en français. Peut-on le faire en ajoutant une propriété dans la console ? Seul Rodolphe m'avait répondu. Une réponse pertinente, mais pas tout à fait sur la question précise. J'avais aussi demandé la réponse à une IA codeuse.
La réponse de l'IA était formelle, il ne faut pas créer une nouvelle propriété pour faire apparaître la version anglaise du site. Ça créerait des problèmes. Il faut laisser Google faire et le site en anglais apparaîtra avec le temps.
Sceptique et sachant que je n'allais rien casser, j'ai ouvert ce nouveau site sur mon espace en ajoutant une propriété. Après un jour d'attente, le site en version "en" est en place sur la console, avec ses propres analyses.
Avec l'IA, il faut vérifier avant de faire confiance.
Avertissement à tous ceux et celles qui font du code au kilomètre avec une IA et ne s'en sortent plus quand il s'agit de corriger les bugs.
Modifié par Bongota (01 Dec 2025 - 08:07)

Salut, j'utilise "BlackBox Ai", ça m'aide de fois, mais c'est vrai que, quand tu demande plusieurs choses à la suite, il a tendance à s'embrouiller et te faire du code sale....

Salut,

l'IA est un assistant et il faut toujours être vigilant avec ce qu'il propose. Sur un sujet précis, il m'avait proposé des liens. Ces liens ? 404 not found (de très vieux liens).

De plus en plus, je pense à ceci au sujet de l'IA : Ouroboros . On le voit déjà à la génération d'image (teinte jaune).
Modifié par Niuxe (25 Nov 2025 - 15:58)

Salut,

Avec BlackBox Ai tu dois choisir ton model (GPT, Claude, ...). Certains sont beaucoup plus performants que d'autres. Et on doit clairement faire nous-même un apprentissage pour utiliser correctement l'IA en programmation. Selon mon expérience à ce jour :

- GPT est verbeux et peu compétent. Il a une facheuse tendance à créer des patchs au lieu de résoudre les problèmes à la racine.
- Claude Sonnet 4.5 est très impressionnant.

Personnellement j'utilise Github Copilot + VSCode + agents personnalisés (chatmodes) + fichiers d'instructions (généraliste + language specific).
Les instructions peuvent servir entre autres à demander à l'AI de respecter les principes fondamentaux (DRY, SSOT, SOLID, ...)

Ce repo est une mine d'or : https://github.com/github/awesome-copilot

il est très utile aussi de prendre le temps de créer un répertoire d'architecture ou un simple fichier selon le projet, avec la doc (.md) destinée à l'AI de manière à ce qu'elle "comprenne" et prenne toujours en compte le contexte.
Modifié par migli (26 Nov 2025 - 12:34)

Bongota a écrit :

Septique

Ccomme la fausse.

Moi je suis une vendue à Claude également. Tellement plus élégant, à propos. pour mes snipets il est super !! J'adore pouvoir générer à la volette des choix de réponses que j'exploite ensuite en json.

migli a écrit :
Personnellement j'utilise Github Copilot + VSCode + agents personnalisés (chatmodes) + fichiers d'instructions (généraliste + language specific).
Les instructions peuvent servir entre autres à demander à l'AI de respecter les principes fondamentaux (DRY, SSOT, SOLID, ...).

Je suis totalement en phase avec tes propos.
J'ajoute que l'architecture du projet a son importance, ne pas hésiter à scoper le contexte, parfois avec des interfaces (là où ça a du sens bien sûr). Pensez à appliquer un fine-tuning sur vos modèles selon votre profil, très efficace.

Perso je génère de la documentation sur un build, genre "AI-CONTEXT.md", qui analyse l'AST de la codebase et même repère les pratiques non optimales (dictionnaire, réflexion, etc) pour les principes que je vise : Ahead-of-Time (AOT) au détriment de Just-in-Time (JIT), Data Oriented friendly, etc. Bref, ici, une architecture ECS, donc les agents IA doivent le savoir, sinon on va dans le mur.
Modifié par Olivier C (26 Nov 2025 - 19:58)

J'étais beaucoup plus modeste. Je posais simplement une question :
"comment faire apparaître dans mon espace le sous-répertoire en anglais d'un site en français. Peut-on le faire en ajoutant une propriété dans la console ? "
Et l'IA s'est plantée lamentablement.

Tout à fait Bongota, je me suis emballé
C'est parce que je suis à fond dans mon projet

Hello !

Perso j’utilise l’IA pour rechercher rapidement dans une documentation mal foutue, ou pour tenter d’apprendre un nouveau concept. Je ne laisse jamais l’IA générer du code à ma place.

Je pense que plus tu délégues une tâche, moins tu garderas la capacité de le faire toi même. Et donc utilisée à outrance, l’IA rends bête car elle n’encourage pas la réflexion.

De plus, le code généré contient très souvent un niveau d’abstraction inutilement compliqué, peut induire des bugs critiques si chaque ligne n’est pas vérifiée et devient difficile à maintenir lorsque la taille du projet augmente.

On peut tweak le modèle avec des instructions ou réglages pour optimiser la sortie, mais le temps perdu à se demander comment poser la question ou vérifier tout le travail, ne vaut-il pas mieux d’être investi pour apprendre quelque chose de nouveau et faire la tâche soi même ?

Bonjour,

Bongota a écrit :
les IA peuvent parfois raconter des histoires.

Les IA répondent au pif (elles ne raisonnent pas, en tout cas pas celles qui sont derrière les sites qu'on interroge sur "n'importe quoi". Elles sortent juste une réponse qui ressemble à l'idéal selon leurs critères). Donc forcément, elles peuvent se tromper. Un des problèmes majeurs est que lorsqu'elles se trompent, c'est de plus plus en difficile à détecter, parce qu'elles ont un pif qui s'améliore avec le temps.

On n'a plus qu'à attendre que leur pif s'améliore encore et que leurs erreurs deviennent si rares que la plupart du temps, ça ne sera plus un problème.

Cependant, avec les technologies actuelles, on ne sera jamais à l'abri d'erreur qui, bien qu'étant rare, pourrait avoir de grosses conséquences. La mise en place de garde-fou empêchant les grosses conséquences est d'ailleurs actuellement l'un des enjeux majeurs de la recherche en IA.

Amicalement,

Moi aussi à l'arrivée de l'IA j'étais très sceptique et dubitatif, et j'avais tendance à penser que le terme d'"intelligence artificielle" était complétement inapproprié.

Il y a à peine quelques semaines, l'IA avait effectivement une facheuse tendance à ne rien comprendre de ce qu'on lui demandait, malgré des explications et demandes réitérées, mais les choses ont évolué à une vitesse stupéfiante et on ne peut pas l'ignorer. La vraie question à mon sens est de savoir l'utiliser à bon escient.

L'IA peut faire en quelques minutes/heures ce que nous mettrions plusieurs heures/jours à programmer. Certaines tâches sont complexes ou chronophages pour nous mais d'une facilité déconcertante pour l'IA. Je pourrais donner des dizaines d'exemples, au hasard : utilisation d'APIs/SDK publics (Google ou autres), requêtes PDO, cUrl, intégration et utilisation de plugins Javascript, programmation de tests unitaires, ... etc.

Je suis derrière pour comprendre, vérifier et tester ce qu'il faut, ça ne me pose pas de problème. Par contre, je me demande comment fait un développeur débutant pour apprendre correctement son métier dans cette situation ...

@parsimonhi : l'IA te proposera du code "au pif" si tu conçoit un prompt au pif. Si tu la maîtrises elle fait très bien le boulot. Spoiler : le prompt ne suffit pas.

@Anymah : il faut bien comprendre une chose : la valeur n'est plus dans le code (l'a-t-elle jamais été ?) elle est du côté de la conception, de l'architecture système.

Plus vous serez clairs dans ce que vous recherchez, plus i'IA sera en capacité de s'aligner sur votre pattern, elle vous produira un code presque sans frictions, et même sans friction du tout.

@parsimonhi
effectivement, niveau sécurité, il faut faire attention.
Hier matin, j'ai assisté à un forum des métiers dans un collège. J'y ai rencontré un homme qui travaille sur un projet de ligne SNCF à grande vitesse dans le sud de la France.
Je l'ai questionné sur l'implantation de l'IA dans les systèmes de commande et de sécurité à la SNCF. La réponse a été formelle, en aucun cas, et sans doute pour longtemps. Les exigences de sécurité dans la circulation des trains sont draconiennes. Des moyens parfois rustres ont jusqu'à présent prouvé leur solidité, si on se réfère au nombre de voyageurs transportés, de lignes en service et d'années, en regard des très faibles incidents d'origine non humaine.
Modifié par Bongota (27 Nov 2025 - 15:49)

C'est pas parce que tu code avec l'IA que cela t'épargne le fait de devoir écrire des tests et même de faire de la TDD.

Si le code de production échoue alors que tous tes tests sont au vert c'est qu'il y a quelque chose qui a foiré au niveau de la couverture des tests (les use case n'ont pas tous été envisagés) et ça, ça n'a rien à voir avec un code écrit ou non avec l'intelligence artificielle.

De même, pour ce qui est d'analyser la rapidité d'exécution du code, les goulots d'étranglement, etc. : rien n'empêche d'écrire des outils de profiling ajustés au projet, outils qui analyseront l'AST, et même, les pipelines, les relations entre les méthodes ou fonctions, avec des outils dédiés, voir intégrés à l'écosystème (exemple : Roslyn pour .NET, proc-macro pour Rust). Ces outils se chargeront de détecter les frictions et les mauvaises pratiques dans ton code. Mauvaises pratiques que tu pourras donc refacoriser lors d'une session dédiée entre deux features.
Modifié par Olivier C (27 Nov 2025 - 18:11)

C'est toujours le même problème désolé. Si l'IA te ponds en 5 minutes le code que tu aurais produis en 1 semaine voir plus de travail, on parle d'un sacré nombre de ligne de code impossible à vérifier entièrement tout seul. Donc on délègue de nouveau et on laisse un outil de profiling vérifier le code à notre place.

La plupart des développeurs qui font du Vibe Coding ont sûrement les compétences de le faire tout seul (pour le moment). D'où le sentiment de légitimité. Mais vu la quantité de code produite, je ne vois pas comment c'est possible de garder un total contrôle dessus. Certains génèrent même les tests avec l'IA.

Et sincèrement, j'aime coder. J'aime le processus de réflexion derrière la réalisation d'une application. Faire du Vibe Coding aujourd'hui c'est pas développer. J'ai zéro plaisir à le faire.

Bonjour,
pour ce qui est du code, j'ai eu des réponses aux questions que je posais sur un projet en route, mais avec une avalanche de code supplémentaire. Non seulement pas nécessaire, mais en plus impossible à avaler. L'IA, si on ne la freine pas, va vous en donner des centaines de lignes en quelques secondes. Pour en faire quoi ? Un petit projet, une question bien précise par rapport à un blocage et le refus d'en ajouter suffisent généralement. Et bien sûr, des erreurs qu'il faudra détecter (et avoir la qualification pour le faire).
Même les IA conversationnelles en apprentissage d'une langue vous en proposent. Si vous avez le malheur de dire à l'IA que votre OS a un problème, elle va immédiatement vous donner une avalanche de tests à effectuer, sans que vous l'ayez demandé. On dirait que produire des tests ou du code est la manie des IA.
Je déconseille l'IA aux vrais débutants en codage. Ils vont se retrouver avec des lignes de code qu'il faudra intégrer dans un projet, sans en connaître les tenants et aboutissants. On retrouvera ces personnes sur ce forum, demander du secours. On en a déjà vu passer ici, j'en suis certain.

Anymah a écrit :
Donc on délègue de nouveau et on laisse un outil de profiling vérifier le code à notre place.

Oui. Un outil que TU as conçu. Donc aucun problème étant donné que tu sais ce que tu fais et ce qu'il surveille pour toi. La performance de cet outil ne fera que refléter ta performance à suivre ce qui compte vraiment. D'ailleurs tes outils ne sont pas figés du coup : tu peux retailler ton outil à volonté pour tes besoins de conception.

Anymah a écrit :
La plupart des développeurs qui font du Vibe Coding ont sûrement les compétences de le faire tout seul (pour le moment). D'où le sentiment de légitimité. Mais vu la quantité de code produite, je ne vois pas comment c'est possible de garder un total contrôle dessus.

Tu perds le contrôle sur les détails de l'implémentation, tu refocus sur ce qui est essentiel à ce que tu es sensé rechercher : le pipeline de tes données, leurs transformations, le résultat final recherché. Dans ce processus le code n'est qu'un outil.

C'est très facile de savoir si oui ou non tu es un imposteur dans ce domaine : si malgré la complexité et le volume croissant de ta codebase tu ne casse rien, que tes nouvelles fonctionnalités (plus ou moins complexes) s'intègrent sans friction à ta codebase déjà conséquente, ou encore si tes refactoring d'ampleur ne cassent rien, alors tu es légitime.

Faire un prompt sur une IA en version pro+++ en disant "recode-moi Fortnite" et obtenir ainsi un monde 3D avec quelques avatars crédibles est une chose, produire le résultat EXACT que tu cherches à obtenir en est une autre.

Note au passage que je n'ai pas d'abonnement, la version gratuite d'un Claude Sonnet et ses 190 000 tokens par session me suffit amplement pour une journée de conception + itérations. Évidemment, si j'étais un professionnel, je prendrai un abonnement.

Anymah a écrit :
Certains génèrent même les tests avec l'IA.

Totalement. Tout ce qui est ennuyeux je le laisse faire à l'IA, moi je me concentre sur ce qui est important pour moi : les données, le pipeline, le rendu, et enfin les perfs'.

Tu remarqueras que je n'ai pas parlé de "fonctionnalités" : pour moi les features sont un effet collatéral de la transformation des données et non l'inverse. Mais ça, c'est déjà un excursus par rapport à la question ici qui était de débattre de la pertinence de l'IA : cette approche que je suggère s'appelle ECS (Entity Component System), architecture logicielle qui s'aligne naturellement avec le DOD (Data-oriented design), une architecture très déterministe en regard de laquelle la POO est un anti pattern absolu (overhead +++).

Anymah a écrit :
Et sincèrement, j'aime coder. J'aime le processus de réflexion derrière la réalisation d'une application. Faire du Vibe Coding aujourd'hui c'est pas développer. J'ai zéro plaisir à le faire.

Oui, je te comprends ; personnellement j'ai mis 6 mois à faire mon deuil. Et je te donne aussi raison lorsque du dis que "faire du Vibe Coding c'est pas développer", du moins en partie : il ne s'agit plus de développer "les mains dans le cambouis" mais de concevoir. Je concevais déjà avant l'IA (en fait j'ai toujours fait ça), les LLM sont simplement des outils qui démultiplient nos capacités... ou pas.

En fait dans ce message j'ai parlé de deux choses :
- L'IA certes, le côté ennuyeux du message.
- Mais surtout d'une approche qui date d'avant la POO et qui revient en force depuis que les processeurs sont en passe d'atteindre la limite de Boltzmann-Landauer : les architectures systèmes data oriented reviennent en force. Se sont celles des simulateurs de particules, des moteurs de jeux, des systèmes embarqués, de la robotique, etc... C'est une tendance de fond, encore discrète, qui va évidement exploser dans les quinze ans qui arrivent. Mais ça, il ne faut pas compter sur nos ESN françaises ou sur nos architectes systèmes "Excel" pour le voir venir. L'avantage avec cette approche : tu fais du CSS, de la modélisation pour une base de donnée PostgreSQL, un moteur de jeu 2D... et bien c'est du pareil au même, toutes tes compétences acquises sont immédiatement transposables du moment que tu code dans une philosophie ECS/DOD.

C'est sûr, avec ça, pas besoin de recettes de cuisine, pas besoin d'apprendre les frameworks à la mode, la roadmap des "100 outils indispensables", etc. Tu seras forcément plus performant que tous ces frameworks, même les plus rapides, les outils... le temps de les apprendre t'as déjà codé les tiens, adapté selon tes besoins en qui plus est.

Évidement je parle de mon vécu ; je codais en ECS depuis toujours, seulement je ne le savais pas (par exemple mes CSS codés en modules, mes BDD postgres sans table "User", jamais, trop orienté métier/application, mais par contre une table "Person" + "Account", data-first, toujours, les ORMs... jamais). C'est au moins l'avantage de ne pas avoir été pro, j'ai pu librement faire ma petite R&D d'autodidacte qui, sans le savoir, m'aligne désormais fortement au runtime, à une tendance de fond qu'évidemment, en France, on va manquer.

Le développeurs qui craignent l'IA se trompent de focus, s'ils souhaitent rester opérationnels ils feraient mieux de surveiller la montée du data oriented.
Modifié par Olivier C (29 Nov 2025 - 16:04)