KI bietet sowohl für das organisationale als auch das persönliche Wissensmanagement ein großes Potenzial. Doch sind damit auch große Risiken verbunden, aus denen sich oft Bedenken und Skepsis von Mitarbeitenden bei der Einführung von KI-Lösungen speisen und die bei einer Einführung – nicht nur aus diesem Grund – berücksichtigt werden müssen:

• Verlust von Kontrolle und Transparenz
  KI-Systeme – insbesondere solche auf Basis von Deep Learning – sind oft so genannte Black Boxes. Ihre Entscheidungen sind für Menschen schwer nachvollziehbar, was zu einem Verlust an Kontrolle und Vertrauen führen kann.
• Verbreitung von Desinformation
  Generative KI kann täuschend echte Texte, Bilder oder Videos erzeugen – was die Verbreitung von Fake News, Deepfakes und Manipulation erleichtert.
• Datenschutz und Informationssicherheit
  KI-Systeme benötigen große Datenmengen – oft auch personenbezogene. Es besteht das Risiko, dass:
  – sensible Daten ungewollt preisgegeben werden,
  – Datenschutzvorgaben (z. B. DSGVO) verletzt werden,
  – oder Systeme durch Prompt Injection oder andere Angriffe kompromittiert werden.
• Diskriminierung und Verzerrung (Bias)
  KI-Systeme übernehmen oft unbewusst Vorurteile aus den Trainingsdaten. Das kann zu diskriminierenden Entscheidungen** führen – etwa bei Bewerbungen, Kreditvergabe oder polizeilichen Prognosen.
• Abhängigkeit und Kompetenzverlust
  Wenn Organisationen oder Einzelpersonen sich zu stark auf KI verlassen, kann dies zu einem Verlust menschlicher Kompetenzen führen – z. B. im Schreiben, Denken oder Entscheiden.
• Ethische und rechtliche Grauzonen
  Viele KI-Anwendungen bewegen sich in einem regulatorischen Graubereich. Es fehlen (noch) klare Regeln für Haftung, Verantwortung und ethische Grenzen .

Das EU KI-Gesetz (AI Act)

Um den oben genannten Risiken zu begegnen und Organisationen und Individuen Rechtssicherheit im Umgang mit KI zu geben, hat die Europäische Union im Sommer 2024 den EU AI Act verabschiedet, der im August 2026 vollständig in Kraft tritt.

Die wesentlichen Punkte werden in diesem Video erklärt (Dauer 7’24 Min.):

Daraus ergeben sich für Organisationen, die KI entwickeln oder einsetzen einige Handlungsempfehlungen:

• Schult eure Mitarbeitenden im Umgang mit KI.
• Prüfe, ob eure KI-Anwendungen unter den AI Act fallen.
• Klassifiziere die Systeme nach Risikokategorien.
• Erarbeitet eine Compliance-Strategie.
• Dokumentiert die KI-relevanten Prozesse und Datenquellen.

Die oben genannten Punkte sind eine Zusammenfassung mehrerer Studien:
TÜV Nord – Risiken der KI
UNESCO-Empfehlung zur Ethik Künstlicher Intelligenz
MENA Editors Network: Die 10 größten KI-Risiken