Les experts estiment que les agents d’IA autonomes ne réussiront jamais en production.

Lors d’une conférence où l’IA agentique est célébrée comme une révolution, Marinela Profi, stratège chez SAS, met en garde contre des attentes excessives. Elle évoque l’écart entre la mode et la réalité des entreprises, soulignant l’illusion d’une autonomie totale et les raisons pour lesquelles beaucoup d’organisations ne sont pas encore prêtes.

Marinela Profi, Global Market Strategy Lead for Agentic AI chez SAS, a rencontré des journalistes lors de la conférence SAS Innovate. Elle a assisté à une session durant laquelle son entreprise a dévoilé de nouveaux agents d’IA pour divers secteurs, dont la chaîne d’approvisionnement et le marketing. Bien que l’enthousiasme soit palpable, Profi a nuancé les questions sur la maturité de l’IA agentique pour un déploiement à grande échelle, affirmant que si la technologie est mature, les organisations ne le sont pas encore.

L’illusion de l’autonomie

Un an après des promesses d’IA entièrement autonomes, le marché a fait marche arrière. Profi déclare : ‘Je l’avais dit l’année dernière et je le répète : les systèmes d’IA agentique entièrement autonomes ne réussiront jamais en production. Il faudra toujours un facteur humain, même pour un élément minime.’ Elle prévoit un spectre d’autonomie, allant d’agents hyper-spécialisés à ceux collaborant étroitement avec des humains.

Les entreprises doivent déterminer où et combien de temps l’humain doit intervenir. Selon Profi, ces questions restent sans réponse dans de nombreuses organisations.

Le déterminisme comme glissière de sécurité

Profi souligne que les entreprises ont historiquement automatisé leurs processus grâce à des règles déterministes, garantissant un contrôle sur l’IA. Elle note que cette approche, bien que peu spectaculaire, est essentielle pour maintenir le contrôle sur les agents. En revanche, les modèles de langage fonctionnent de manière probabiliste, ce qui peut générer des résultats variables.

Qu’en est-il entre-temps du retour sur investissement?

Profi observe que de nombreuses preuves de concept en IA agentique échouent. Elle distingue deux types d’organisations : celles qui se lancent sans évaluer les résultats et celles qui posent les bonnes questions dès le départ.

‘Pour réussir avec l’IA agentique, vous devez commencer par un cas d’usage mesurable. Sans cela, vous ne pourrez pas justifier un retour sur investissement.’

Elle met en garde contre l’enthousiasme technologique non tempéré, soulignant l’importance de définir clairement les objectifs et les mesures de succès.

Le problème de la qualité des données n’est pas nouveau

Les défis liés à la qualité des données persistent, avec des données souvent incomplètes ou fragmentées. Profi avertit que l’IA agentique ne fera qu’aggraver ces problèmes, en introduisant des données linguistiques, un domaine encore peu maîtrisé par les organisations.

Elle conseille de ne pas investir dans l’IA agentique sans une infrastructure de données solide et des systèmes de gouvernance en place. Sans cela, l’IA ne pourra pas être efficace en production.

Différence de générations dans l’IA fantôme

Profi aborde également la question de la Shadow AI, où des employés utilisent des outils d’IA sans supervision. Elle note une différence générationnelle dans l’attitude face à cette pratique, les jeunes étant plus enclins à partager leurs outils d’IA.

‘Arrêtez de demander ce que vous pourrez concurrencer avec l’IA. Commencez par poser la question suivante : en quoi puis-je devenir si bon qu’il ne faudra jamais faire confiance à l’IA?’

‘Si l’IA réfléchit pour vous, cela devient dangereux’

Profi met en garde contre l’utilisation de l’IA comme un outil de réflexion primaire. Elle souligne que cela peut nuire à la capacité des individus à apprendre et à faire confiance à leur propre jugement.

Aux étudiants: ‘Apprenez ce que l’IA ne pourra jamais faire’

Profi encourage les étudiants à développer des compétences non techniques, telles que la communication et la réflexion critique, plutôt que de se concentrer uniquement sur l’utilisation des outils d’IA.

Elle conclut en insistant sur l’importance d’évaluer les réponses de l’IA plutôt que de s’y fier aveuglément.