Zurück zur Bibliothek

Kernfrage Neu

KI-aufbereitet · Von Autoren geprüft

Welche Risiken entstehen, wenn öffentliche Organisationen künstliche Intelligenz von externen Anbietern beziehen, und wie können sie diese bewältigen?

Between Innovation and Risk Aversion: A Contextual Perception of AI Sourcing Risks in Public Organisations
Zacchaeus Otunla, Tobias Mettler · International Conference on Information Systems (ICIS) · 2026
Illustration zu: Welche Risiken entstehen, wenn öffentliche Organisationen künstliche Intelligenz von externen Anbietern beziehen, und wie können sie diese bewältigen?

Lädt den Spotify-Player; Spotify kann Cookies setzen. Dieses Gerät merkt sich Ihre Auswahl.

Zentrale Ergebnisse

  • Identifizierte drei Kernkategorien von KI-Beschaffungsrisiken: Operationalisierungsrisiken vor der Einführung, risikobewusste Anbieterrisiken und Risiken bezüglich adaptiver Zukunftssicherheit.
  • Stellte fest, dass operationelle Risiken häufig daraus entstehen, dass KI zur Befriedigung externen institutionellen Drucks statt zur Lösung konkreter Probleme implementiert wird, was zu verfehlten Leistungserwartungen führt.
  • Zeigte, dass Behörden erhebliche Schwierigkeiten haben, unerfahrene Anbieter ohne nachweisbare Erfolge zu überprüfen und sicherzustellen, dass externe Dienstleister strenge Datenschutzstandards der öffentlichen Hand einhalten.
  • Hob hervor, dass Organisationen die Risiken von Anbieterabhängigkeiten und Systemüberalterung durch flexible Rahmenverträge, Qualitätsmeilensteine und dedizierte Wartungsbudgets steuern.
  • Entwickelte ein Modell kontextueller Risikoaversion, welches veranschaulicht, wie öffentliche Akteure unter Unsicherheit schrittweise betriebliche Passgenauigkeit, regulatorische Compliance und Beschaffungsagilität austarieren.

Bedeutung für die Praxis

CIO / IT-Leitung

Institute mandatory 'quality gates' and allocate dedicated maintenance budgets in upcoming vendor contracts to explicitly mitigate system obsolescence and lock-in risks.

IT-Management

Audit all current AI vendor requirements to ensure strict adherence to public data protection standards and filter out unverified suppliers lacking a proven track record.

Unternehmensstrategie

Review all active AI project proposals to verify they solve a specific internal operational problem rather than merely satisfying external institutional innovation pressures.

Forschung

Design a study examining how public sector agencies navigate the friction between strict regulatory compliance and the need for procurement agility when sourcing AI.

Politische Entscheidungsträger

Draft updated procurement guidelines that replace rigid legacy frameworks with flexible framework contracts specifically tailored to manage AI opacity and uncertainty.

Zusammenfassung

Diese Studie untersucht, wie Organisationen des öffentlichen Sektors frühe Risiken bei der Beschaffung von Lösungen für künstliche Intelligenz identifizieren und bewältigen. Mittels eines explorativen qualitativen Ansatzes analysierten die Autoren 33 leitfadengestützte Interviews mit Schweizer Fach- und Führungskräften des öffentlichen Sektors, die Erfahrung in der Steuerung von KI-Initiativen haben.

Problemstellung

Während sich ein wesentlicher Teil der Forschung auf Risiken nach der Inbetriebnahme von Systemen künstlicher Intelligenz konzentriert, bleiben Risiken in der frühen Beschaffungsphase und Anforderungsspezifikation kaum erforscht. Öffentliche Institutionen stehen unter Druck, über externe Anbieter zu innovieren, doch traditionelle Beschaffungsmodelle scheitern an der Intransparenz, Ungewissheit und den Datenschutzanforderungen von KI.

Transkript
Host: Willkommen zu einer neuen Ausgabe von A.I.S. Insights — powered by Living Knowledge. Mein Name ist Anna Ivy Summers. In der heutigen Folge besprechen wir eine Studie mit dem Titel „Zwischen Innovation und Risikoaversion: Eine kontextuelle Wahrnehmung von KI-Beschaffungsrisiken in öffentlichen Organisationen“, verfasst von Zacchaeus Otunla und Tobias Mettler. Die Studie befasst sich mit der Frage, wie Organisationen des öffentlichen Sektors frühe Risiken bei der Beschaffung von KI-Lösungen wahrnehmen und steuern. Bei mir im Studio ist unser Analyst Alex Ian Sutherland. Willkommen, Alex.

Expert: Hallo Anna. Schön, dabei zu sein.

Host: Alex, die Forschung zu künstlicher Intelligenz befasst sich häufig mit Risiken, die auftreten, wenn Systeme bereits im Einsatz sind. Welches Problem steht stattdessen im Mittelpunkt dieser Untersuchung?

Expert: Das Problem liegt in einer früheren Phase des Lebenszyklus. Öffentliche Institutionen stehen unter Druck, technologische Neuerungen über externe Anbieter einzuführen. Herkömmliche Beschaffungsprozesse setzen jedoch voraus, dass Anforderungen und Leistungseigenschaften von Software im Vorfeld präzise spezifiziert werden können. Bei KI-Lösungen stoßen diese Prozesse an Grenzen, da Intransparenz, hohe Ungewissheit bezüglich der Modellleistung und strenge Datenschutzanforderungen die Vorab-Bewertung erschweren. Risiken in der frühen Beschaffungsphase und Anforderungsspezifikation sind bislang jedoch wenig erforscht.

Host: Welchen methodischen Ansatz haben die Autoren gewählt, um diese Lücke zu schließen?

Expert: Es handelt sich um eine explorative qualitative Untersuchung. Die Autoren führten 33 leitfadengestützte Interviews mit Fach- und Führungskräften aus dem Schweizer öffentlichen Sektor. Alle Befragten verfügten über praktische Erfahrung in der Leitung oder Steuerung von Initiativen rund um künstliche Intelligenz. Die Daten wurden anschließend systematisch analysiert, um Muster in der Risikowahrnehmung und den Bewältigungsstrategien zu identifizieren.

Host: Welche zentralen Ergebnisse hat die Untersuchung geliefert?

Expert: Die Autoren identifizierten drei wesentliche Kategorien von Beschaffungsrisiken: erstens Operationalisierungsrisiken vor der Einführung, zweitens risikobewusste Anbieterrisiken und drittens Risiken bezüglich adaptiver Zukunftssicherheit. Ein zentrales Ergebnis im Bereich der operationellen Risiken ist, dass Probleme oft dann entstehen, wenn Organisationen KI implementieren, um externem institutionellen Erwartungsdruck zu genügen, anstatt ein klar definiertes fachliches Problem zu lösen. Dies führt häufig zu verfehlten Erwartungen an die tatsächliche Systemleistung.

Host: Welche Herausforderungen wurden bei der Auswahl und Steuerung von Anbietern festgestellt?

Expert: Die Interviews zeigten, dass öffentliche Einrichtungen erhebliche Hürden dabei erleben, unerfahrene Anbieter ohne nachweisbare Erfolge objektiv zu bewerten. Zudem ist es eine Herausforderung sicherzustellen, dass externe Dienstleister die strengen Datenschutz- und Governance-Standards des öffentlichen Sektors durchgehend einhalten. Um Risiken wie Anbieterabhängigkeiten oder die rasche Veralterung von Modellen abzufedern, greifen Organisationen auf flexible Rahmenverträge, definierte Qualitätsmeilensteine vor Projektfortführungen und dedizierte Budgets für Wartung und Nachjustierung zurück.

Host: Die Autoren fassen diese Mechanismen in einem Modell zusammen. Was beinhaltet dieses Modell?

Expert: Es handelt sich um ein Modell kontextueller Risikoaversion. Es beschreibt, wie Entscheidungsträger im öffentlichen Sektor unter Unsicherheit schrittweise vorgehen. Sie balancieren dabei kontinuierlich drei Faktoren aus: die betriebliche Passgenauigkeit der Lösung, die regulatorische Konformität und die erforderliche Agilität im Beschaffungsprozess, ohne dabei unkalkulierbare Risiken einzugehen.

Host: Was bedeutet das nun konkret für die Unternehmens- und Verwaltungspraxis?

Expert: Die wichtigste Erkenntnis für die Praxis ist, dass Risikomanagement bereits vor der Ausschreibung ansetzen muss. Beschaffungsverantwortliche sollten sicherstellen, dass KI-Projekte durch reale Anwendungsfälle begründet sind und nicht durch bloßen Innovationsdruck. Zudem empfiehlt sich der Einsatz modularer Verträge mit phasenbasierten Qualitätsprüfungen, um Fehlinvestitionen bei unzureichender Modellgenauigkeit zu begrenzen und vertragliche Abhängigkeiten von Dienstleistern zu reduzieren.

Host: Zusammenfassend zeigt die Studie von Zacchaeus Otunla und Tobias Mettler, dass eine erfolgreiche KI-Beschaffung davon abhängt, Risiken frühzeitig zu strukturieren, Verträge flexibel zu gestalten und den Fokus auf konkrete funktionale Anforderungen zu legen. Alex, vielen Dank für die Erläuterungen.

Expert: Gern geschehen, Anna.

Host: Und Ihnen vielen Dank fürs Zuhören bei A.I.S. Insights — powered by Living Knowledge. Bis zur nächsten Folge.
Artificial Intelligence & Automation Information Systems & Management Human-Computer Interaction Data Analytics & Big Data Digital Transformation & Strategy Cybersecurity & Privacy Cloud & Infrastructure E-Commerce & Digital Platforms Operations & Supply Chain Sustainability & Green IS

AI sourcing, risk evaluation, public sector, vendor management, procurement agility, AI governance