Le chemin vers une gouvernance pragmatique de l'IA : leçons apprises
Par Shuo Wang, Scientifique des données, et Jason Milnes, Directeur de l'intelligence artificielle
Le pouvoir de transformation de l'IA est indéniable. L’IA générative à elle seule nous réserve des surprises, McKinsey prévoyant une contribution de 2,6 à 4,4 billions de dollars à l'économie mondiale1. Pourtant, certains experts, comme le pionnier de l'IA Geoffrey Hinton, mettent en garde contre ses risques existentiels. Alors, comment trouver un équilibre entre innovation et contrôle?
Chez Bell, nous travaillons sur cet équilibre depuis un certain temps, et nous avons beaucoup appris sur la manière de gérer l'IA de manière responsable. Nous avons créé un Centre d'excellence en IA et mis en place des programmes d'IA responsable pour transformer toute notre organisation. Cela a été un long chemin avec de nombreuses leçons apprises en cours de route. Plongeons-nous dans nos cinq meilleures leçons.
Leçon 1 : Obtenir un soutien organisationnel global
La mise en œuvre d'une politique d'IA nécessite l'adhésion de tous les niveaux. Le parrainage de la direction assure la responsabilité et fournit les ressources nécessaires à une mise en œuvre réussie. Expliquez clairement les avantages de la gouvernance de l'IA aux dirigeants, en soulignant l'atténuation des risques, l'amélioration de la réputation et l'avantage concurrentiel.
Tout aussi important : assurez-vous d'impliquer les développeurs et les utilisateurs finaux par le biais d'ateliers et de séances de rétroaction afin de répondre à leurs préoccupations, d'intégrer leur expertise et de favoriser un sentiment d'appropriation.
Un comité directeur interfonctionnel dédié, composé de représentants de divers départements, est essentiel pour garantir le respect des engagements en matière d'utilisation sûre et responsable de l'IA.
Leçon 2 : Tirer parti des cadres et des ressources existants
Ne réinventez pas la roue. Intégrez la gouvernance de l'IA dans les fonctions de conformité existantes, telles que la sécurité de l'information et la confidentialité. Cela évite les doubles emplois et assure la cohérence.
Lors de la création d'une fonction et d'une politique d'IA parallèles, définissez clairement les rôles et les responsabilités, établissez des lignes hiérarchiques et intégrez les considérations relatives à l'IA dans les processus décisionnels existants.
De plus, tirez parti des principes d'IA responsable établis par des sources respectées telles que le cadre de gestion des risques de l'IA du NIST, la norme ISO/IEC 42001 sur les systèmes de gestion de l'IA et les principales entreprises technologiques comme les principes d'IA de Google pour adapter une politique spécifique à l'industrie, à la taille et à l'appétit pour le risque de votre organisation.
Leçon 3 : Anticiper les réglementations futures
Le rythme rapide des progrès technologiques dépasse souvent la législation actuelle. En adhérant proactivement à des pratiques d'IA responsables et éthiques, telles que l'équité, la transparence et l'explicabilité, vous pouvez vous positionner pour la conformité lorsque les réglementations finiront par rattraper leur retard.
Il est également important de rester informé des réglementations et des meilleures pratiques émergentes en suivant les développements législatifs, en participant à des forums de l'industrie et en consultant des experts juridiques.
Envisagez de réaliser des évaluations d'impact éthique pour les systèmes d'IA à haut risque afin d'identifier et d'atténuer les dommages potentiels. Cette approche prospective non seulement minimise les risques juridiques futurs, mais renforce également la confiance des clients et des parties prenantes.
Leçon 4 : Mettre en œuvre et répéter
Commencez par traiter les risques les plus importants associés à l'intelligence artificielle, en particulier ceux liés aux systèmes à fort impact et grand public. Développez un cadre d'évaluation des risques pour classer les systèmes d'IA en fonction de leur impact potentiel et de la probabilité de dommages.
La centralisation de la mise en œuvre de l'IA par le biais d'un Centre d'excellence en IA peut améliorer l'efficacité, promouvoir le partage des connaissances et garantir une application cohérente des principes de gouvernance. Signalez régulièrement les progrès au comité directeur et aux sponsors exécutifs, en utilisant des indicateurs clairs pour suivre les indicateurs clés de performance.
Efforcez-vous d'une mise en œuvre diligente de votre cadre de gouvernance de l'IA, en reconnaissant qu'il s'agit d'un processus itératif nécessitant une amélioration continue. Envisagez de faire appel à un auditeur tiers neutre pour évaluer l'efficacité de votre cadre et identifier les domaines à améliorer.
Leçon 5 : Communiquer efficacement
Donnez à tous les employés des connaissances approfondies sur les capacités de l'IA, les risques potentiels et les considérations éthiques. Adaptez les programmes de formation aux rôles et responsabilités spécifiques, en proposant une formation technique spécialisée aux développeurs d'IA et aux professionnels de la gouvernance.
Assurez-vous également d'établir des canaux de communication clairs pour tenir tout le monde informé des mises à jour des politiques, des développements réglementaires et des meilleures pratiques. Favorisez une culture de communication ouverte et encouragez les employés à exprimer leurs préoccupations et à signaler les problèmes potentiels liés à l'éthique et à la gouvernance de l'IA.
Enfin, il est prioritaire de communiquer régulièrement l'engagement de l'organisation en faveur d’une IA responsable aux parties prenantes externes, y compris les clients, les partenaires et le public.
Globalement, la mise en place d'un cadre de gouvernance de l'IA robuste est un processus continu, et non une réalisation ponctuelle. En adoptant une approche pratique, en intégrant les meilleures pratiques de l'industrie et en cultivant une culture d'amélioration continue, les organisations peuvent naviguer efficacement dans le paysage dynamique de l'IA tout en exploitant son potentiel transformateur de manière responsable.
L'essence d'une gouvernance réussie de l'IA consiste à trouver le juste équilibre entre l’innovation et le contrôle, en veillant à ce que la technologie de l'IA serve au mieux les intérêts de l'humanité.
Faites progresser votre parcours en IA avec Bell
Chez Bell, nous reconnaissons le rôle crucial d'une gouvernance de l'IA bien structurée. Notre Centre d'excellence en ingénierie des données et en IA a joué un rôle déterminant dans la conduite du changement, et notre modèle de gouvernance garantit que l'innovation et la modernisation sont parfaitement intégrées au soutien organisationnel et à une exécution rigoureuse. Nous pensons que vous pouvez obtenir un succès similaire.
Contactez l'un de nos experts pour en savoir plus.
Source :
1. “The economic potential of generative AI: the next productivity frontier”, McKinsey, 14 juin 2023