Künstliche Intelligenz und ihre zahlreichen Anwendungen verbessern sich stetig und verdoppeln ihre Fähigkeiten in etwa alle 3,5 Monate. Diese Entwicklung kann der österreichischen Wirtschaft einen Gewinn bis zu etwa sieben Milliarden Euro bis zum Jahr 2035 erbringen. Um die Anwendungsmöglichkeiten von KI in einem geordneten Rahmen vonstattengehen zu lassen, wurde vom Europäischen Parlament der AI-Act beschlossen, der die erste rechtliche Grundlage im Bereich der KI bilden wird
Doch was bringt der AI-Act mit sich und worauf müssen Sie in Ihrem Unternehmen in Zukunft achten?
Mit Mai/Juni 2024 wird die EU-Verordnung für die europäischen Mitgliedsstaaten schlagend und damit Sie Ihr Unternehmen dementsprechend vorbereiten können, haben wir für Sie die Neuigkeiten und Tipps rund um den AI-Act kurz zusammengefasst.
Der Rechtsrahmen tritt 20 Tage nach der Veröffentlichung im Amtsblatt der EU im Mai/Juni in Kraft und wird für die Mitgliedstaaten gestaffelt in zwei Phasen umgesetzt.
In der ersten Phase werden KI-Systeme mit inakzeptablen Risiken innerhalb von 6 Monaten nach Inkrafttreten des AI-Acts in den Mitgliedstaaten verboten, welche durch ihr erhebliches Potenzial zur Verletzung der Menschenrechte und Grundprinzipien zu erkennen sind.
Zu diesen gehören:
- Echtzeit-basierte biometrische Fernidentifikationssysteme in öffentlich zugänglichen Räumen (Ausnahme: Strafverfolgungsbehörden)
- Biometrische Fernidentifikationssysteme im Nachhinein (Ausnahme: Strafverfolgungsbehörden), biometrische Kategorisierungssysteme, die Merkmale wie Geschlecht, ethnische Zugehörigkeit oder Religion erkennen
- Beliebige Extraktion von biometrischen Daten aus sozialen Medien oder Videoüberwachungsaufnahmen zur Erstellung von Datenbanken zur Gesichtserkennung.
- Social Scoring, das zu Benachteiligung in sozialen Kontexten führt
- KI-Systeme, die Schwachstellen einer bestimmten Personengruppe ausnutzen oder unbewusste Techniken einsetzen, die physischen oder psychischen Schaden verursachen
Nach Ablauf von 36 Monaten, wird ein Verbot von KI-Systemen mit hohem Risiko folgen. Diese werden mit folgenden Anwendungs- und Einsatzgebieten erkannt:
- Hohes Risiko für Gesundheit, Sicherheit und Grundrecht
- Management und Betrieb kritischer Infrastruktur
- Zugang und Anspruch auf grundlegende private und öffentliche Dienste und Leistungen
- Strafverfolgung
KI-Systeme, die in den genannten Bereichen verwendet werden und keine Gefahr für Gesundheit, Sicherheit, Umwelt und Grundrechte darstellen, unterliegen nicht den rechtlichen Anforderungen. Um dies nachzuweisen, muss die zuständige nationale Behörde über das KI-System informiert werden. Diese hat dann drei Monate Zeit, die Risiken zu überprüfen. Während dieser Zeit kann die KI bereits in Betrieb genommen werden. Wenn die prüfende Behörde jedoch feststellt, dass es sich um eine Hochrisiko-KI handelt, können hohe Strafen verhängt werden.
Die Analyse (Compliance-Pläne) gelingt am besten, wenn Expertenbewertungen in die Analyse miteinfließen, die potenzielle negative Auswirkungen der KI-Tools auf die Sicherheit und Rechte der Gesellschaft bewerten. Ebenso ist die Überprüfung des Verwendungszwecks entscheidend. Hier steht im Mittelpunkt, welchem Zweck die KI-Tools eingesetzt werden und ob sie möglicherweise für Missbrauchszwecke verwendet werden könnten. Außerdem spielt die qualitative- und Herkunftsanalyse der KI eine wesentliche Rolle in der Frage der Sicherheit der künstlichen Intelligenz.
Zusätzlich zu einer Analyse der Tools, wird auch eine Schulung der Mitarbeiter: innen, die mit künstlicher Intelligenz in Ihrem Unternehmen zu tun haben empfohlen, die dabei helfen soll, ethische Grundsätze und das Verständnis der neuen Verordnung verstehen und anwenden können.
Die KI-Servicestelle – eine staatliche Unterstützung
Im Jänner dieses Jahres wurde die KI-Servicestelle eingerichtet, die in der RTR (Rundfunk und Telekom Regulierungs-GmBH) etabliert ist. Diese wird die Umsetzung des AI-Acts in Österreich unterstützen und Transparenz und Rechtssicherheit gegenüber der Bevölkerung und der Wirtschaft gewährleisten. Sie dient auch als Ansprechpartner und Informationshub einer breiten Öffentlichkeit zum Thema KI.
Der AI-Act trägt also als Rechtsrahmen dazu bei, Unternehmen Rechtssicherheit bei der Anwendung von KI zu geben.