Pourquoi la gouvernance devrait être un élément crucial de votre stratégie de ML 2021

Actualités de de l'Intelligence Artificielle - Machine Learning - Objets connectés

Pourquoi la gouvernance devrait être un élément crucial de votre stratégie de ML 2021


En novembre, nous a mené une enquête avec plus de 400 chefs d’entreprise impliqués dans des initiatives d’IA / ML dans leurs organisations et ont découvert le les 10 principales tendances du secteur en 2021.

L’une des principales tendances que nous avons découvertes est que la gouvernance du ML est de loin le principal défi auquel les organisations sont confrontées avec le déploiement de modèles à l’approche de 2021. Cet article explore ce que nous avons découvert dans les données – et ce que cela signifie pour votre organisation à l’approche de 2021.

56% des organisations ont des difficultés avec la gouvernance et 67% doivent se conformer à plusieurs réglementations

Dans l’enquête, nous avons demandé aux répondants d’indiquer les défis auxquels ils sont confrontés lors du déploiement de modèles ML. Bien que nous ayons vu une gamme de problèmes signalés, le défi n ° 1 sélectionné par les répondants était Exigences en matière de gouvernance informatique, de sécurité et d’auditabilité. En fait, 56% de tous les répondants ont indiqué que c’était un défi pour leur organisation – plus que tout autre défi dans le sondage.

56% des organisations sont aux prises avec des problèmes de gouvernance, de sécurité et d'auditabilité

Nous avons également interrogé les répondants sur les réglementations à respecter pour leurs efforts d’IA / ML. La grande majorité des répondants – 67% – ont choisi plusieurs règlements, tandis que 26% ont déclaré devoir se conformer à un règlement et seulement 8% n’ont choisi aucun règlement.

67% de toutes les organisations doivent se conformer à plusieurs réglementations

Qu’est-ce que tout cela veut dire? Bien que de plus en plus d’organisations investissent dans l’IA / ML, nous n’en sommes encore qu’aux tout premiers jours de la gouvernance. De nombreuses organisations sont (naturellement) aux prises avec ce problème dans un paysage réglementaire complexe et en constante évolution.

Pourquoi la gouvernance est-elle importante?

Gouvernance du modèle AI / ML est le processus global permettant à une organisation de contrôler l’accès, met en œuvre la stratégie et suit l’activité des modèles. Il est indispensable de minimiser les risques organisationnels en cas d’audit, mais ce n’est pas tout.

La gouvernance est le fondement de la minimisation des risques pour les résultats financiers d’une organisation et pour sa marque. Les organisations dotées d’une gouvernance IA / ML efficace ont non seulement un niveau de contrôle et de visibilité précis sur le fonctionnement des modèles en production, mais elles libèrent des gains d’efficacité opérationnelle en intégrant des politiques de gouvernance AI / ML avec le reste de leurs politiques informatiques.

Grâce à la gouvernance, les organisations peuvent comprendre toutes les variables susceptibles d’affecter les résultats du modèle, ce qui les aide à identifier et à atténuer rapidement les problèmes (tels que dérive du modèle) qui peuvent dégrader la précision des résultats et les performances des applications. Ces problèmes peuvent avoir un impact direct sur les résultats de l’entreprise et éroder la confiance des clients dans la marque au fil du temps.

Ce que cela signifie pour votre stratégie ML 2021

Alors que 56% des répondants ont indiqué que la gouvernance était un défi pour eux, nous pensons que le nombre réel pourrait être encore plus élevé. Les problèmes de gouvernance ont tendance à survenir tard dans le cycle de vie du ML, après que les modèles ont été développés et que les organisations commencent à chercher des moyens de minimiser leurs risques. De nombreuses organisations pourraient avoir des problèmes de gouvernance avant de s’en rendre compte.

Même si vous ne luttez pas activement avec la gouvernance en ce moment, il est possible que cela devienne une préoccupation à l’avenir. Alors que les organisations se dirigent vers 2021, elles devraient envisager de se concentrer davantage sur la gouvernance, même si ce n’est pas actuellement une préoccupation majeure.

Découvrez les 10 tendances du ML en entreprise

Ce n’est qu’une des tendances que nous avons découvertes dans notre enquête auprès de plus de 400 chefs d’entreprise. Vérifiez rapport complet aujourd’hui pour explorer les 10 tendances que nous avons découvertes dans nos recherches. 2021 sera une année cruciale pour les initiatives de ML: préparez-vous au succès en comprenant où se dirige l’industrie et comment vous pouvez en tirer le meilleur parti.

En savoir plus sur la série de blogs ML Trends