Die vier Risikokategorien des AI Act – Von minimalem Risiko bis verbotener KI: Die EU reguliert Künstliche Intelligenz nach ihrem Gefahrenpotenzial für Gesellschaft und Wirtschaft.
Die neue Künstliche-Intelligenz-Verordnung bietet Orientierungshilfe für Unternehmen, die KI bereits einsetzen oder dies planen. KI-Lösungen werden in fünf Kategorien eingestuft – von unproblematisch bis problematisch/verboten. Für die meisten Anwender dürfte ihre nutzung in die Kategorie "unproblematisch" fallen.
Unproblematische Anwendungen (z. B. Produktvorschläge) sind ohne Einschränkungen nutzbar.
Höheres Risiko besteht z. B. bei automatisierter Entscheidungsfindung, etwa in der Preisgestaltung oder Kundenbewertung. Diese Systeme müssen strenge Transparenz- und Sicherheitsanforderungen erfüllen.
Verbotene KI (z. B. emotionale Manipulation, soziale Bewertungssysteme) darf nicht eingesetzt werden.
KI-Qualität – Made in Germany
Der AI Act schafft zudem Möglichkeiten, KI zu entwickeln, die sich deutlich von US-amerikanischen Lösungen abhebt. Sicherheit und Transparenz haben Priorität, wodurch europäische Unternehmen einen Wettbewerbsvorteil gegenüber der internationalen Konkurrenz erhalten.
Es ist davon auszugehen, dass die Verordnung ein Innovationstreiber in Europa sein wird, da die Nachfrage nach sicherer KI weiter steigen dürfte.
Mehr Infos >>
KI-Kompetenz für Mitarbeiter*innen
Ab Februar 2025 müssen Mitarbeiter geschult werden, wobei es keine Anforderungen an eine Dokumentation oder Nachweispflicht der KI-Kompetenzvermittlung gibt. Unternehmen sollten dennoch alle Evaluationen, Schulungsmaßnahmen, Inhalte und deren Umsetzung dokumentieren, um mögliche Risiken und Haftung im Schadensfall zu minimieren.
Ein Verstoß gegen die Sicherstellung der KI-Kompetenz ist derzeit nicht mit Bußgeldern belegt. Dennoch ist es sinnvoll, sich frühzeitig mit dem Thema auseinanderzusetzen.
Mitarbeiter sollten insbesondere folgende Kompetenzen erwerben:
Grundverständnis von KI: Wie funktioniert Künstliche Intelligenz? Welche Einsatzmöglichkeiten gibt es im Unternehmen?
Rechtliche Grundlagen & AI Act: Welche Vorschriften gelten für den Einsatz von KI? Welche Systeme sind erlaubt, welche eingeschränkt oder verboten?
Datenkompetenz & Datenschutz: Sensibler Umgang mit Daten, DSGVO-Anforderungen und Transparenzpflichten bei KI-gestützten Entscheidungen.
KI-gestützte Systeme im Arbeitsalltag: Anwendung und Steuerung von KI-Tools, z. B. für Kundenkommunikation, Prozessautomatisierung oder Warenwirtschaft.
Mensch-KI-Zusammenarbeit: Wie kann KI Mitarbeiter unterstützen, ohne Entscheidungsprozesse vollständig zu übernehmen?
Erkennen von Risiken & Fehlentwicklungen: Sensibilität für mögliche Verzerrungen (Bias), Fehler oder Manipulation durch KI.
Kritisches Denken & ethische Aspekte: Bewusstsein für ethische Herausforderungen beim Einsatz von KI im Unternehmen.
Durch eine frühzeitige Schulung können Unternehmen sicherstellen, dass ihre Mitarbeiter den technologischen Wandel nicht nur verstehen, sondern auch aktiv und verantwortungsvoll mitgestalten.
Demnächst wird es sicherlich ein großes Schulungsangebot aus öffentlicher Hand geben. Wir halten euch auf dem Laufenden.