Elon Musk a récemment exprimé ses préoccupations concernant les rapports selon lesquels Amazon a tenu une réunion obligatoire pour aborder les récentes interruptions de service, dont certaines seraient liées à des fonctionnalités de codage assistées par l'intelligence artificielle (IA). Selon un article du Financial Times, la réunion a eu lieu mardi et a permis de faire une "analyse approfondie" de plusieurs pannes, y compris celles résultant de l'utilisation de ces outils de codage.

Des incidents en hausse

Le rapport indique qu'Amazon a observé une "tendance d'incidents" au cours des derniers mois, avec un "large rayon d'impact" lié à des "modifications assistées par l'IA", ainsi qu'à d'autres facteurs. Plus tôt ce mois-ci, le site web et l'application d'Amazon ont connu des interruptions pour certains utilisateurs, avec plus de 22 000 signalements de problèmes, selon l'outil de suivi des pannes Downdetector. De nombreux clients n'ont pas pu finaliser leurs commandes, consulter les prix des produits ou accéder à leurs informations de compte. À l'époque, Amazon avait attribué cette panne à un "déploiement de code logiciel".

Réaction de Musk

La teneur de la réunion a attiré l'attention d'experts en technologie, y compris celle d'Elon Musk, qui a réagi à un post de Lukasz Olejnik, consultant en cybersécurité et chercheur invité au Department of War Studies de King's College London. "Amazon tient une réunion obligatoire sur l'IA qui casse ses systèmes", a écrit Olejnik. "Avancez avec prudence", a répondu Musk.

Mesures de sécurité renforcées

Dave Treadwell, vice-président senior des services de commerce électronique chez Amazon, aurait écrit dans un courriel que la réunion hebdomadaire intitulée "Cette semaine dans la technologie des magasins" (TWiST) serait en partie utilisée pour mettre en place des garde-fous supplémentaires concernant l'utilisation de l'IA par les ingénieurs. Cela inclut l'exigence que des ingénieurs seniors valident les modifications assistées par l'IA apportées par les ingénieurs juniors et intermédiaires.

Dans un courriel interne, Treadwell a reconnu que "la disponibilité du site et des infrastructures associées n'avait pas été satisfaisante récemment". Un porte-parole d'Amazon a déclaré à Fortune que la réunion TWiST est une réunion opérationnelle hebdomadaire régulière, où les équipes technologiques de vente au détail examinent la performance opérationnelle. "Dans le cadre de nos activités normales, cette réunion inclura un examen de la disponibilité de notre site web et de notre application, car nous nous concentrons sur une amélioration continue", a-t-il ajouté.

Clarifications sur les incidents

Amazon a confirmé que les incidents en question n'impliquaient pas Amazon Web Services (AWS), précisant que seul un incident discuté était lié à l'IA, mais qu'aucun code écrit par l'IA n'était concerné. De plus, la société a indiqué que les ingénieurs juniors et intermédiaires ne sont pas tenus d'obtenir l'approbation des ingénieurs seniors pour les modifications assistées par l'IA.

Risques associés à l'IA

Les pannes et la réunion subséquente ont suscité des inquiétudes parmi les experts en cybersécurité concernant les risques associés au déploiement rapide des outils d'IA. Des fonctionnalités comme l'assistant IA d'Amazon, Q, peuvent accélérer le processus de codage, produisant plus de code en moins de temps, mais cela pourrait aussi perturber les systèmes qui régissent la manière dont ce code est écrit, vérifié et déployé, rendant ainsi les plateformes plus vulnérables aux pannes, a déclaré Olejnik à Fortune.

"Je ne plaide pas contre le déploiement de l'IA", a-t-il précisé. "Il n'y a pas d'argument contre cela. Cela ne peut pas être arrêté. Tout le monde va déployer l'IA. Mon argument porte sur la vitesse pour elle-même ou sur l'utilisation de l'IA pour le plaisir d'utiliser l'IA."

Contexte des licenciements chez Amazon

À la fin de l'année dernière, Amazon a commencé à licencier des milliers de travailleurs, affirmant vouloir devenir plus efficace et aligner la culture de l'entreprise. Ces licenciements se sont poursuivis en 2023, avec une réduction supplémentaire de 16 000 postes en janvier. En parallèle, Amazon continue d'investir massivement dans l'IA, prévoyant un investissement de 200 milliards de dollars en capital d'ici 2026, en hausse par rapport aux 131 milliards de dollars prévus pour 2025.

Musk a, quant à lui, déclaré précédemment que l'IA pourrait complètement remplacer le codage d'ici fin 2026. Olejnik a mis en garde contre une transition trop rapide des systèmes de codage centrés sur l'humain vers des systèmes gérés par l'IA, qui pourrait entraîner l'absence de contrôles de sécurité, causant des temps d'arrêt prolongés ou une perte de données, ce qui pourrait avoir des conséquences désastreuses pour une entreprise en raison d'un déploiement irresponsable de l'IA.

Un appel à la prudence

Lorsqu'on lui a demandé son avis, Olejnik a déclaré qu'il partageait l'opinion de Musk sur l'attention que nécessite le déploiement de l'IA dans le secteur technologique. "Je suis d'accord avec lui", a-t-il dit. "L'IA offre de nombreuses opportunités, mais il existe un juste milieu entre le risque d'obsolescence en ne l'utilisant pas et le risque de destruction des entreprises à cause de déploiements malavisés."