Die Anwendung von künstlicher Intelligenz gehört in vielen Betrieben längst zum Alltag. Mit einer Reihe von neuen und überarbeiteten Vorgaben reguliert die Europäische Union den Einsatz für die Betreiber von KI-Systemen.

Besonders gefährliche Praxis untersagt

Die KI-Verordnung regelt insbesondere die Pflichten von Anbietern und Betreibern von KI. „Als Betreiber eines KI-Systems gilt grundsätzlich, wer marktübliche KI-Anwendungen im Unternehmen nutzt, etwa zur Erstellung oder Überarbeitung von Texten oder audiovisuellen Medien, für Übersetzungen, Recherchen oder zur Auswertung betrieblicher Daten“, erklärt Stephan Burger, Justitiar beim Bundesverband Automatenunternehmen (BA), in einem aktuellen Rundschreiben. Bereit seit Februar 2025 müssen Betreiber „angemessenen Rahmen“ die KI-Kompetenz in einem ihrer Beschäftigten fördern. Ebenfalls bereits seit Februar 2025 sind bestimmte, als besonders gefährliche eingestufte KI-Praktiken für Betreiber verboten. „Erfasst sind insbesondere manipulative oder diskriminierende Anwendungen, das gezielte Ausnutzen schutzbedürftiger Personen, bestimmte biometrische Kategorisierungen und Emotionserkennung am Arbeitsplatz sowie der Aufbau von Gesichtserkennungsdatenbanken durch ungezieltes Auslesen von Bildmaterial“, führt Burger weiter aus.

Mehr Transparenz

Am 2. August treten die Transparenzpflichten nach Artikel 50 der EU-KI-Verordnung (AI Act) in Kraft. Sie sollen künftig verhindern, dass Menschen über den Ursprung von Inhalten getäuscht werden. Die interne Nutzung von KI (E-Mails, Dienstpläne, Kalkulationen, Protokolle) ist nicht betroffen. Vielmehr gibt es vier konkrete Bereiche, in denen die KI-Verordnung wirkt. Zum einen müssen Chatbots und Telefonassistenten künftig durch klare Hinweise sofort erkennbar sein. Auch Fotorealistische KI-Bilder, -Audio und -Video müssen künftig eindeutig markiert werden. KI-Texte müssen hingegen nur dann mit einem Hinweis versehen werden, wenn sie ohne menschliche Prüfung veröffentlicht werden. Wer KI-Texte redaktionell prüft und die Verantwortung übernimmt, muss hingegen nicht kennzeichnen. Zudem müssen Nutzer über den Einsatz von Emotionserkennung und biometrischen Systemen informiert werden.

Der Bundesverband Automatenunternehmen weist zudem darauf hin, dass KI-Systeme die gesetzlichen Vorgaben etwa aus dem Bereich Datenschutz, Arbeitsrecht oder Urheberrecht nicht implementiert haben. Es sei die Aufgabe des jeweiligen Unternehmens die gesetzlichen Vorgaben einzuhalten und alle Ergebnisse der KI entsprechend zu kontrollieren. Weiter rät der Verband sich mit den Vorgaben der KI-Verordnung zu beschäftigen. Hierzu stellen unter anderem diverse Industrie- und Handelskammern Infomaterial bereit. Einen Überblick bietet die IHK München und Oberbayern beispielsweise hier. 

© Vadym – stock.adobe.com