Welche Auswirkungen hat der AI Act auf mein Unternehmen?
Im Auftakt zum Info-Lunch: „AI Act – Auswirkungen auf mein Unternehmen“ am 19. November 2024 haben wir Univ.-Prof. Dr. Markus Fallenböck, LL.M., Vizerektor für Personal und Digitalisierung sowie Universitätsprofessor für Technologie- und Innovationsrecht an der Universität Graz, zum Interview gebeten. Erfahren Sie, welche Herausforderungen der AI Act mit sich bringt, wie sich dieser auf KI-Lösungen in der Praxis auswirkt und welche Auswirkungen er auf die Innovations- und Wettbewerbsfähigkeit hat.
Welche wesentlichen Herausforderungen bringt der AI Act für Unternehmen mit sich, und wie können sich diese auf die Implementierung von KI-Lösungen in der Praxis auswirken?
„Der AI Act kategorisiert KI-Systeme entsprechend ihrem Risikopotenzial in vier Stufen: inakzeptables, hohes, begrenztes und minimales Risiko. Systeme mit inakzeptablem Risiko, wie etwa Technologien, die menschliches Verhalten manipulieren oder für „Social Scoring“ und vorhersagende Polizeiarbeit genutzt werden, sind zur Gänze verboten. Hochrisiko-KI-Systeme, wie biometrische Fernidentifizierung oder Systeme zur Bewertung von Lernergebnissen, dürfen nur unter strengen und sehr detaillierten Auflagen betrieben werden. Systeme mit begrenztem Risiko unterliegen in erster Linie Transparenzpflichten. Letztlich werden die meisten KI Anwendungen in dieser dritten Gruppe liegen.“
Welche konkreten Maßnahmen sollten Unternehmen ergreifen, um sicherzustellen, dass ihre KI-Systeme den neuen gesetzlichen Vorgaben des AI Acts entsprechen?
„Im oben genannten Sinne werden Unternehmen vor allem KI-Systeme mit „begrenztem Risiko“ einsetzen. Dazu gehören unter anderem Systeme, die direkt mit natürlichen Personen interagieren (z.B. Chatbots) oder solche, die Inhalte wie Bilder, Audio, Texte oder Videos erzeugen oder manipulieren (z.B. Deepfakes). Hier gelten besondere Transparenzpflichten: Betroffene Personen müssen darüber informiert werden, dass sie mit einem KI-System interagieren oder dass Inhalte künstlich erzeugt wurden. Generell ist wichtig: Bereits ab dem 2. Februar 2025 müssen Unternehmen gemäß Artikel 4 des AI Act sicherstellen, dass ihr Personal, das KI nutzt, über ausreichende KI-Kompetenz verfügt. Dies bedeutet, dass Mitarbeitende mit dem notwendigen Wissen und den entsprechenden Konzepten ausgestattet werden müssen, um fundierte Entscheidungen im Umgang mit KI-Systemen treffen zu können. Dabei sind die individuellen technischen Fähigkeiten, Erfahrung, Ausbildung und der Einsatzkontext des KI-Systems zu berücksichtigen, ebenso wie die Personengruppen, bei denen die KI-Systeme zur Anwendung kommen. Es wird daher entscheidend sein, dass Unternehmen entsprechende Schulungen anbieten, um diese Anforderungen zu erfüllen.“
Wie schätzen Sie die Auswirkungen des AI Acts auf Innovation und Wettbewerbsfähigkeit von europäischen Unternehmen im globalen Kontext ein? Könnte es zu Wettbewerbsnachteilen gegenüber außereuropäischen Ländern kommen?
„Das wird auch stark von der Umsetzung in den Mitgliedstaaten abhängen. Österreich ist hier mit der in der RTR eingerichteten Servicestelle für Künstliche Intelligenz auf einem guten Weg. Diese dient als Ansprechpartner und Informationshub einer breiten Öffentlichkeit zum Thema KI. Sie unterstützt auch bei der Umsetzung des europäischen AI Act. Auf den Internet-Seiten finden Sie Informationen rund um regulatorische Rahmenbedingungen beim Einsatz von künstlicher Intelligenz sowie den Aspekten im Hinblick auf Cybersecurity, Datenökonomie und deren Einsatz im Medienbereich: https://www.rtr.at/rtr/service/ki-servicestelle/ki-servicestelle.de.html “
