In dem Maße, in dem Organisationen des Sozialwesens versuchen, die beträchtlichen potenziellen Vorteile zu erschließen, die der Einsatz von künstlicher Intelligenz (KI) bieten kann, stellt sich zunehmend die Frage nach der Art der Fähigkeiten, die die Organisation benötigt, um die täglichen Abläufe zu rationalisieren und die richtigen Ergebnisse aus ihren Programmen zu erzielen. In Zusammenarbeit mit der University of Queensland ermittelte das SAP Institute for Digital Government die wichtigsten Fähigkeiten, die für eine erfolgreiche Einführung von KI erforderlich sind, und gab Empfehlungen für einen erfolgreichen KI-gestützten Wandel im Sozialwesen.
Die 5 wichtigsten Fähigkeiten
- Bereichsverständnis: Fähigkeit zur Entwicklung neuer oder verbesserter Kenntnisse über Geschäftsbereiche, d. h. Kodifizierung des impliziten Wissens der derzeitigen Geschäftsinhaber, Änderung der etablierten Paradigmen (Status quo) und Weiterbildung von Bereichsexperten (KI-Konzepte und -Tools, Datenwert, ethische Fragen).
- Modellentwicklung: Fähigkeit, eine Reihe präziser und robuster ML-Modelle zu trainieren, um verschiedene organisatorische Aufgaben zu unterstützen, z. B. Datenkuration (Zugriff auf alte Daten, Generierung neuer Daten und gemeinsame Nutzung von Daten im gesamten Unternehmen), Akquisition von Talenten und Modell-Koproduktion.
- Modellerläuterung: Fähigkeit, die Ziele, die Logik und die Ergebnisse eines ML-Modells an verschiedene Interessengruppen zu kommunizieren, d. h. den Interessengruppen die Modelllogik zu erklären (Kommunikation von KI-Entscheidungen), die Ergebnisse in die Eingaben zurückzuverfolgen (Transparenz und Validierung von Modellentscheidungen, Identifizierung von Quellen für Verzerrungen) und die Modellergebnisse für Fachleute zu visualisieren.
- Modellintegration: Fähigkeit zur Integration von ML-Modellen in bestehende technische Schnittstellen, Arbeitsprozesse, Produkte, Plattformen und Strukturen, d. h. technische Integration, Änderungsmanagement und Neugestaltung der Arbeit (Änderung von Prozessen zur Unterstützung datengestützter Entscheidungsfindung).
- Modellsicherheit: Fähigkeit zur kontinuierlichen Überwachung, Bewertung und Verbesserung der Leistung eines ML-Modells und zur Kontrolle seiner Auswirkungen auf die Beteiligten, d. h. Überwachung der Modellleistung (Governance-Mechanismen, Modelldrift), Messung des Modellwerts für die Beteiligten und Verhinderung unbeabsichtigter Folgen (Folgenabschätzung, Mechanismus zur Veranlassung von Änderungen am Modell).
Wir stellen die folgenden Schlüsselfähigkeiten vor, die bei unseren Untersuchungen für die Umsetzung erfolgreicher KI-Programme im Sozialwesen festgestellt wurden:
Blick in die Zukunft
Öffentliche Einrichtungen stehen bei der Einführung von KI-Technologie vor besonderen Herausforderungen. Die fünf Fähigkeiten, die wir oben erörtert haben, weisen auf Empfehlungen hin, wie ein erfolgreicher KI-gesteuerter Wandel im Sozialwesen gefördert werden kann:
- Starthilfe für die KI-Entwicklung mit vorgefertigten Lösungen: Agenturen mit begrenztem Budget können ihre KI-Entwicklung vorantreiben, indem sie in extern entwickelte Lösungen für sorgfältig ausgewählte, eng spezifizierte Anwendungsfälle investieren. Erwägen Sie die Investition in vortrainierte Lösungen und vorgefertigte Modelle, um hohe Anfangskosten für die Entwicklung von KI von Grund auf zu vermeiden.
- Erweitern Sie Ihr internes Fachwissen: Vermeiden Sie den Einsatz von KI-Systemen, die Sie nicht verstehen. Zwar ist es relativ einfach, technisches Fachwissen von KI-Anbietern zu beziehen, doch liegt es in Ihrer Verantwortung, dafür zu sorgen, dass Ihre Mitarbeiter das System und seine Grenzen vollständig verstehen und für seine Entscheidungen verantwortlich gemacht werden können (z. B. Erkennen, Verstehen und Kontrollieren von Risiken, die mit KI-Systemen einhergehen). Übernehmen Sie die Verantwortung für diese Modelle, indem Sie Ihr internes Fachwissen im Bereich der Datenwissenschaft mit der Zeit erweitern. Entwicklung ergänzender Kompetenzen in den Bereichen Ethik, Recht und KI-Governance, um die Nutzung von Modellen zu gewährleisten.
- Überprüfen von Altsystemen und Daten: Aufbrechen von Silos, die durch alte Systeme entstanden sind. Investieren Sie Ressourcen für die Überarbeitung Ihrer IT-Architektur. Im Vergleich zu herkömmlichen Analysesystemen, die sich auf die Erstellung von Berichten oder einfachen Statistiken konzentrierten, ist für den systematischen Aufbau von KI eine Reihe moderner Plattformen und Systeme erforderlich, die die Erfassung von Big Data in hoher Qualität ermöglichen, die für das Training von Modellen erforderlich sind und die gemeinsame Nutzung und Zusammenarbeit ermöglichen. Dies ist eine wesentliche Voraussetzung für die Schaffung eines agilen Umfelds für die gemeinsame Nutzung von Daten und die Entwicklung von KI.
Weitere Forschung
In dieser Phase unserer Untersuchung wurden die wichtigsten Fähigkeiten ermittelt, die erforderlich sind, um sicherzustellen, dass erfolgreiche KI-Projekte die erwarteten Ergebnisse liefern und den Stakeholdern einen Mehrwert bieten. Weitere Untersuchungen (die in früheren Ausgaben des ESN-Newsletters veröffentlicht wurden) untersuchten die besonderen Herausforderungen der „Erklärbarkeit“ von KI und ermittelten Leitlinien, um die Hindernisse für die Einführung von KI im Sozialwesen zu beseitigen.
Sie können unser Forschungspapier hier herunterladen und weitere Forschungsergebnisse bei der SIDG finden.