Alors que les organisations de services sociaux cherchent à découvrir les avantages potentiels substantiels que l’utilisation de l’intelligence artificielle (IA) peut apporter, le type de capacités dont l’organisation a besoin pour rationaliser les opérations quotidiennes et obtenir les bons résultats de leurs programmes est une préoccupation croissante. En collaboration avec l’université du Queensland, le SAP Institute for Digital Government a identifié les principales capacités requises pour garantir l’adoption réussie de l’intelligence artificielle et a formulé des recommandations pour favoriser le succès des changements induits par l’intelligence artificielle dans les services sociaux.
Les 5 capacités clés
- Compréhension du domaine : capacité à développer des connaissances nouvelles ou améliorées dans des domaines d’activité, par exemple en codifiant les connaissances implicites des propriétaires d’entreprise actuels, en changeant les paradigmes en place (statu quo) et en améliorant les compétences des experts du domaine (concepts et outils d’IA, valeur des données, questions éthiques).
- Développement de modèles : capacité à former un ensemble de modèles ML précis et robustes pour soutenir diverses tâches organisationnelles, à savoir la conservation des données (accès aux données existantes, génération de nouvelles données et partage des données dans l’ensemble de l’organisation), l’acquisition de talents humains et la coproduction de modèles.
- Explication du modèle : capacité à communiquer les objectifs, la logique et les résultats d’un modèle ML à diverses parties prenantes, c’est-à-dire expliquer la logique du modèle aux parties prenantes (communiquer les décisions de l’IA), retracer les résultats dans les entrées (transparence et validation des décisions du modèle, identification des sources de biais) et visualiser les résultats du modèle pour les experts du domaine.
- Intégration des modèles : capacité à intégrer les modèles de ML dans les interfaces techniques, les processus de travail, les produits, les plates-formes et les structures existantes, c’est-à-dire l’intégration technique, la gestion du changement et la refonte du travail (modification des processus pour soutenir la prise de décision basée sur les données).
- Assurance du modèle : capacité de superviser, d’évaluer et d’améliorer en permanence les performances d’un modèle de ML, et de contrôler ses effets sur les parties prenantes, c’est-à-dire de superviser les performances du modèle (mécanismes de gouvernance, dérive du modèle), de mesurer la valeur du modèle pour les parties prenantes et de prévenir les conséquences involontaires (évaluation de l’impact, mécanisme permettant d’apporter des modifications au modèle).
Nous présentons les capacités clés suivantes, qui sont apparues dans nos recherches, pour mettre en place des programmes d’IA réussis dans les services sociaux :
L’avenir
Les organismes publics sont confrontés à des défis uniques dans l’adoption de la technologie de l’IA. Les cinq capacités que nous avons évoquées ci-dessus débouchent sur des recommandations visant à favoriser la réussite des changements induits par l’IA dans les services sociaux :
- Lancer le développement de l’IA avec des solutions préformées : les agences disposant d’un budget limité peuvent lancer leur développement de l’IA en investissant dans des solutions développées à l’extérieur pour des cas d’utilisation soigneusement sélectionnés et étroitement spécifiés. Envisagez d’investir dans des solutions pré-entraînées et des modèles pré-construits pour éviter les coûts initiaux élevés du développement de l’IA à partir de zéro.
- Développez votre expertise interne au fur et à mesure de votre maturation : évitez d’exploiter des systèmes d’IA que vous ne comprenez pas. S’il est relativement facile d’obtenir une expertise technique auprès des fournisseurs d’IA, il vous incombe de veiller à ce que vos collaborateurs comprennent parfaitement le système et ses limites, et puissent être tenus responsables de ses décisions (par exemple, identifier, comprendre et contrôler les risques liés aux systèmes d’IA). Appropriez-vous ces modèles en développant votre expertise interne en matière de science des données au fil du temps. Développer des compétences complémentaires en matière d’éthique, de droit et de gouvernance de l’IA pour préserver l’utilisation des modèles.
- Passez au crible les systèmes et les données existants : libérez-vous des silos créés par les anciens systèmes. Investissez des ressources dans la refonte de votre architecture informatique. Par rapport aux systèmes d’analyse traditionnels qui se concentrent sur la production de rapports ou de simples statistiques, la mise en place systématique de l’IA nécessite un ensemble de plates-formes et de systèmes contemporains qui permettent la capture de données volumineuses de haute qualité, nécessaires à l’entraînement des modèles et au partage et à la collaboration des permis. C’est essentiel pour établir un environnement agile de partage des données et de développement de l’IA.
Recherches complémentaires
Cette étape de notre recherche a permis d’identifier les capacités clés requises pour garantir que les projets d’IA réussis produisent les résultats escomptés et apportent de la valeur aux parties prenantes. Des recherches supplémentaires (publiées dans les éditions précédentes du bulletin d’information d’ESN) ont exploré les défis spécifiques de l' »explicabilité » de l’IA et ont identifié des lignes directrices pour contrer les obstacles à l’adoption de l’IA dans les services sociaux.
Vous pouvez télécharger notre document de recherche ici et trouver des recherches supplémentaires sur le SIDG.