A medida que las organizaciones de servicios sociales tratan de descubrir los importantes beneficios potenciales que puede aportar la utilización de la inteligencia artificial (IA), cada vez es más preocupante el tipo de capacidades que la organización necesita para agilizar las operaciones cotidianas e impulsar los resultados adecuados de sus programas. En colaboración con la Universidad de Queensland, el Instituto SAP para el Gobierno Digital identificó las capacidades clave necesarias para garantizar el éxito de la adopción de la IA y formuló recomendaciones para alimentar el cambio impulsado por la IA en los servicios sociales.

Las 5 capacidades clave

1. Comprensión del dominio: capacidad para desarrollar un conocimiento nuevo o mejorado de los dominios empresariales, es decir, codificar el conocimiento implícito actual de los propietarios de las empresas, cambiar los paradigmas actuales (statu quo) y mejorar la capacitación de los expertos del dominio (conceptos y herramientas de IA, valor de los datos, cuestiones éticas).
2. Desarrollo de modelos: capacidad de entrenar un conjunto de modelos ML precisos y robustos para apoyar diversas tareas organizativas, es decir, la curación de datos (acceder a datos heredados, generar nuevos datos y compartir datos en toda la organización), la adquisición de talento humano y la coproducción de modelos.
3. Explicación del modelo: capacidad de comunicar los objetivos, la lógica y los resultados de un modelo de ML a diversas partes interesadas, es decir, explicar la lógica del modelo a las partes interesadas (comunicar las decisiones de IA), rastrear los resultados en las entradas (transparencia y validación de las decisiones del modelo, identificación de las fuentes de sesgo) y visualizar los resultados del modelo para los expertos del dominio.
4. Integración de modelos: capacidad de integrar los modelos de ML en las interfaces técnicas, los procesos de trabajo, los productos, las plataformas y las estructuras existentes, es decir, integración técnica, gestión del cambio y rediseño del trabajo (cambio de procesos para apoyar la toma de decisiones basada en datos).
5. Aseguramiento del modelo: capacidad de supervisar, evaluar y mejorar continuamente el rendimiento de un modelo de LD, y controlar sus efectos en las partes interesadas, es decir, supervisar el rendimiento del modelo (mecanismos de gobernanza, deriva del modelo), medir el valor del modelo para las partes interesadas y evitar consecuencias no deseadas (evaluación del impacto, mecanismo para instigar cambios en el modelo).

Presentamos las siguientes capacidades clave que se pusieron de manifiesto en nuestra investigación para ofrecer programas de IA con éxito en los servicios sociales:

Mirando al futuro

Las organizaciones públicas se enfrentan a retos únicos a la hora de adoptar la tecnología de IA. Las cinco capacidades que hemos analizado anteriormente apuntan a recomendaciones para alimentar un cambio exitoso impulsado por la IA en los Servicios Sociales:

• Poner en marcha el desarrollo de la IA con soluciones preformadas: los organismos con limitaciones presupuestarias pueden poner en marcha su desarrollo de la IA invirtiendo en soluciones desarrolladas externamente para casos de uso cuidadosamente seleccionados y estrechamente especificados. Considere la posibilidad de invertir en soluciones preentrenadas y modelos preconstruidos para evitar los elevados costes iniciales de desarrollar la IA desde cero.
• Aumente su experiencia interna a medida que madura: evite ejecutar sistemas de IA que no entiende. Aunque es relativamente fácil obtener los conocimientos técnicos de los proveedores de IA, es su responsabilidad asegurarse de que su personal entiende perfectamente el sistema y sus limitaciones, y puede responder de sus decisiones (por ejemplo, identificar, comprender y controlar los riesgos que conllevan los sistemas de IA). Asuma la propiedad de estos modelos haciendo crecer su experiencia interna en ciencia de datos a lo largo del tiempo. Desarrollar competencias complementarias en materia de ética, derecho y gobernanza de la IA para salvaguardar el uso de los modelos.
• Examinar los sistemas y datos heredados: liberarse de los silos creados por los sistemas antiguos. Invierta recursos para revisar su arquitectura de TI. En comparación con los sistemas analíticos tradicionales que se centraban en la elaboración de informes o simples estadísticas, la construcción sistemática de la IA necesita un conjunto de plataformas y sistemas contemporáneos que permitan la captura de big data de alta calidad, necesaria para el entrenamiento de los modelos y que permita el intercambio y la colaboración. Esto es esencial para establecer un entorno ágil de intercambio de datos y desarrollo de IA.

Más investigaciones

En esta fase de nuestra investigación se identificaron las capacidades clave necesarias para garantizar que los proyectos de IA tengan éxito y ofrezcan los resultados esperados y el valor para las partes interesadas. Otras investigaciones (publicadas en ediciones anteriores del boletín de la ESN) exploraron los desafíos específicos de la «explicabilidad» de la IA e identificaron directrices para contrarrestar las barreras a la adopción de la IA en los Servicios Sociales.

Puede descargar nuestro documento de investigación aquí y encontrar otras investigaciones en el SIDG.