Les entreprises et la méfiance envers les modèles d’IA : Le problème des bases de données
Des fondations de données déficientes
Une recherche récente menée par Ataccama révèle qu’une part considérable d’entreprises ne fait toujours pas confiance aux résultats de leurs modèles d’intelligence artificielle (IA). La raison ? Des fondations de données qui laissent à désirer.
L’étude a mis en évidence que deux organisations sur cinq (42 %) ne font pas confiance aux sorties de leurs modèles d’IA/ML. Pourtant, seulement trois sur cinq (58 %) ont mis en place ou optimisé des programmes d’observabilité des données.
L’importance de l’observabilité
Ataccama souligne que ceci pose problème car les outils traditionnels d’observabilité ne sont pas conçus pour surveiller les données non structurées, comme les PDF et les images, ce qui constitue un frein à l’efficacité des modèles.
Problèmes de données inadaptées
Le rapport a également souligné la méthode souvent improvisée des entreprises, où l’observabilité est implantée de façon réactive, créant ainsi une gouvernance fragmentée et des silos dans l’organisation.
Un programme efficace est défini par Ataccama comme proactif, automatisé et intégré à l’ensemble du cycle de vie des données. Une observabilité plus avancée pourrait également inclure des vérifications automatiques de la qualité des données et des flux de travail de remédiation, évitant ainsi d’autres problèmes en amont.
« Elles ont investi dans des outils, mais n’ont pas encore opérationnalisé la confiance. Cela signifie intégrer l’observabilité dans tout le cycle de vie des données, de l’ingestion et l’exécution des pipelines à la consommation pilotée par l’IA, afin que les problèmes puissent être détectés et résolus avant d’atteindre la production », explique Jay Limburn, CPO.
Défis persistants : compétences et budgets
Cependant, la pénurie continue de compétences et les budgets limités restent des défis auxquels font face de nombreuses entreprises. Ataccama a également noté que les entrées non structurées continuent de croître en raison de l’augmentation de l’IA générative et de l’adoption de RAG. Actuellement, moins d’une entreprise sur trois alimente ses modèles avec des données non structurées.
Le rapport précise encore : « Les programmes les plus matures comblent cet écart en intégrant directement l’observabilité dans leurs cadres d’ingénierie et de gouvernance des données. »
Les bénéfices d’une observabilité bien mise en œuvre
Avec une observabilité correctement mise en place, les entreprises peuvent s’attendre à une amélioration de la fiabilité des données, une prise de décision plus rapide et une réduction des risques opérationnels.
