codage IA, Codage vibratoire Et essaim d’agents Entrée récente sur le marché, spectaculaire et surprenante, les outils de code d’IA ont créé une valeur marchande 4,8 milliards de dollars et devrait croître à un taux annuel de 23 %. Les entreprises sont aux prises avec des agents de codage IA et que faire avec les codeurs humains coûteux
Ils ne manquent pas de conseils. Le PDG d’OpenAI spécule que l’IA peut être performante Plus de 50 % de ce que les ingénieurs humains peuvent faire. Il y a six mois, le PDG d’Anthropic 90 % écriront du code Dans six mois. Le PDG de Mater dit qu’il croit que l’IA le fera Remplacez “bientôt” les ingénieurs de niveau intermédiaire. jugé par Technologie de pointeDe nombreux dirigeants semblent suivre ce conseil.
Les ingénieurs logiciels et les data scientists comptent parmi les postes les plus chers dans de nombreuses entreprises, et les dirigeants commerciaux et technologiques pourraient être tentés de les remplacer par l’IA. Cependant, de récents échecs très médiatisés montrent que les ingénieurs et leurs compétences restent précieux, même si l’IA continue de faire des progrès impressionnants.
Catastrophe SaaStr
Jason Lemkin, entrepreneur technologique et fondateur de la communauté SaaS SaaStr, tweete en direct son expérience de codage d’une application réseau SaaS. Environ une semaine après le début de son aventure, il admet à son public que quelque chose ne va vraiment pas. I.A. Sa base de données de production a été supprimée Malgré sa demande de « gel du code et des actions ». Aucun ingénieur expérimenté (ni même semi-expérimenté) ne commettrait ce type d’erreur.
Si vous avez déjà travaillé dans un environnement de codage professionnel, vous savez comment séparer votre environnement de développement de celui de production. Les ingénieurs juniors bénéficient d’un accès complet à l’environnement de développement (ce qui est important pour la productivité), mais l’accès à la production est accordé, selon des besoins limités, à certains des ingénieurs seniors les plus fiables. La raison de l’accès restreint est précisément ce cas d’utilisation : empêcher un ingénieur junior d’arrêter accidentellement la production.
En fait, Lemkin a commis deux erreurs. Premièrement : pour quelque chose de critique comme la production, l’accès à des acteurs non fiables n’est jamais accordé (nous ne comptons pas sur le fait de demander gentiment à un ingénieur junior ou à une IA). Deuxièmement, il n’a jamais séparé le développement de la production. Lors d’une conversation publique ultérieure sur LinkedIn, Lemkin, titulaire d’un Stanford Executive MBA et d’un Berkeley JD, a reconnu que Il n’était pas au courant des meilleures pratiques Base de données de développement et de production divisée.
Ce que les chefs d’entreprise doivent retenir, c’est que les meilleures pratiques standards en matière d’ingénierie logicielle s’appliquent toujours. Nous devrions inclure au moins les mêmes contraintes de sécurité pour l’IA que pour les ingénieurs juniors. Nous devrions sans doute aller au-delà de cela et traiter l’IA de manière quelque peu contradictoire : selon certaines informations, H.A.L. 2001 : Une odyssée de l’espaceL’IA peut essayer Rompre avec son environnement sandbox Avec davantage de codage dynamique pour accomplir un travail, il deviendra de plus en plus nécessaire de disposer d’ingénieurs expérimentés qui comprennent le fonctionnement des systèmes logiciels complexes et peuvent appliquer les rails appropriés aux processus de développement.
hack de thé
Sean Cook est le fondateur et PDG de Tee, une application mobile lancée en 2023 conçue pour aider les femmes à sortir en toute sécurité. Au cours de l’été 2025, elles ont été « piratées » : 13 000 étaient des photos de vérification et 72 000 photos, dont des photos de pièces d’identité gouvernementales. Fuite sur le forum de discussion public 4chan. Pire encore, la propre politique de confidentialité de Tea promet que ces images seront « immédiatement supprimées » une fois les utilisateurs authentifiés, ce qui signifie qu’elles sont potentiellement a violé sa propre politique de confidentialité.
J’utilise « piraté » dans les guillemets aériens car le phénomène tient moins à l’ingéniosité des attaquants qu’à l’incompétence des défenseurs. En plus de violer sa propre politique en matière de données, l’application a laissé un compartiment de stockage Firebase non protégé, Divulgation des données sensibles des utilisateurs sur l’Internet public. C’est l’équivalent numérique de verrouiller votre porte d’entrée tout en laissant votre dos ouvert avec vos bijoux de famille accrochés à l’extérieur à la poignée de porte.
Bien que nous ne sachions pas si le codage Vibe en était la cause première, le piratage met en évidence des violations catastrophiques résultant de failles de sécurité élémentaires et évitables causées par de mauvais processus de développement. Il s’agit d’une vulnérabilité résolue par un processus d’ingénierie discipliné et réfléchi. Malheureusement, la poussée incessante de la pression financière, où la culture du « risque », du « agir vite et casser les choses » est à l’opposé, et le codage vibratoire exacerbe le problème.
Comment adopter en toute sécurité AI Coding Agent ?
Alors, comment les dirigeants d’entreprise et technologiques devraient-ils penser l’IA ? Premièrement, il ne s’agit pas d’un appel à abandonner l’IA au profit du codage. Une étude du MIT Sloan On estime que l’IA entraîne des gains de productivité compris entre 8 % et 39 %, tandis qu’un Étude McKinsey Temps de réalisation réduit de 10 % à 50 % grâce à l’IA.
Cependant, nous devons être conscients des risques. Les vieilles leçons du génie logiciel ne disparaissent pas. Celles-ci incluent de nombreuses bonnes pratiques éprouvées, telles que le contrôle de version, les tests unitaires et d’intégration automatisés, les tests de sécurité tels que SAST/DAST, la séparation des environnements de développement et de production, la révision du code et la gestion de la confidentialité. Au contraire, ils deviennent plus importants.
L’IA peut générer du code 100 fois plus rapidement que les humains ne peuvent le saisir, créant ainsi une illusion de productivité qui est une sirène tentante pour de nombreux dirigeants. Cependant, la qualité des ateliers d’IA générés rapidement reste encore sujette à débat. Pour développer des systèmes de fabrication complexes, les entreprises ont besoin de l’expérience réfléchie et chevronnée d’ingénieurs humains.
Tianhui Michael Lee est président du Pragmatic Institute et fondateur et président de The Data Incubator.
En savoir plus sur nous Auteur invité. Ou pensez à soumettre votre propre message ! nous voir Voici les lignes directrices.
