Méfiance des entreprises envers leurs modèles AI/ML : quand les données posent problème
L’importance de bases de données solides
De récentes recherches menées par Ataccama révèlent qu’une proportion significative d’entreprises ne fait pas confiance aux résultats fournis par les modèles d’intelligence artificielle (IA), possiblement en raison de bases de données insuffisantes.
Selon l’étude, 42% des organisations ne font pas confiance aux résultats fournis par leurs modèles AI/ML, tandis que seulement 58% ont mis en place ou optimisé des programmes d’observabilité des données.
Limites des outils d’observabilité traditionnels
Ataccama souligne qu’il pourrait y avoir un problème, car les outils d’observabilité classiques ne sont pas conçus pour suivre les données non structurées, comme les PDF et les images.
Cette limitation entrave une confiance totale des entreprises dans leurs modèles d’IA.
Vers une observabilité proactive et intégrée
Le rapport a également mis en lumière la tendance des entreprises à adopter une approche ponctuelle et réactive de l’observabilité, entraînant une gouvernance fragmentée et des silos à travers l’organisation.
Selon Ataccama, un programme efficace devrait être proactif, automatisé et intégré tout au long du cycle de vie des données.
“Ils ont investi dans des outils, mais ils n’ont pas institutionnalisé la confiance. Cela signifie intégrer l’observabilité dans tout le cycle de vie des données, depuis l’ingestion et l’exécution des pipelines jusqu’à la consommation pilotée par l’IA, afin que les problèmes puissent être identifiés et résolus avant d’atteindre la production,” explique le CPO Jay Limburn.
Défis persistants : compétences et budgets
Cependant, des pénuries de compétences et des budgets limités représentent encore des défis majeurs. Ataccama a également noté que les entrées non structurées continuent de se multiplier en raison de l’augmentation de l’adoption de l’IA générative et de RAG (Récupération et génération).
Actuellement, moins d’une entreprise sur trois intègre ces données non structurées dans leurs modèles.
Des programmes matures pour combler le fossé
Le rapport ajoute : “Les programmes les plus matures comblent cet écart en intégrant l’observabilité directement dans leurs cadres d’ingénierie et de gouvernance des données.”
Avec une observabilité adéquate, les entreprises peuvent s’attendre à une meilleure fiabilité des données, une prise de décision plus rapide et une réduction des risques opérationnels.
Articles connexes et recommandations
- Découvrez les meilleurs outils d’IA et meilleurs rédacteurs d’IA.
- De nombreuses entreprises repensent leur utilisation des bots IA.
- Consultez notre sélection des meilleurs hébergeurs cloud.
Avec plusieurs années d’expérience en freelance dans les domaines technologique et automobile, Craig s’intéresse particulièrement à la technologie conçue pour améliorer notre vie quotidienne, incluant l’IA et le ML, les outils de productivité, et la remise en forme intelligente. Passionné de voitures et de décarbonisation du transport personnel, il est également un chasseur de bons plans avisé.
