Denke an ein KI-System, das dich manipuliert, ohne dass du es merkst. Vielleicht beeinflusst es deine Kaufentscheidungen oder überredet dich zu riskanten Entscheidungen. Solche Praktiken sind nicht nur ethisch fragwürdig, sondern auch gesetzlich untersagt. Die Regeln helfen, Vertrauen in die Technologie aufzubauen und schützen vor Schaden.
Es geht also darum, sicherzustellen, dass Menschenrechte und Würde gewahrt bleiben. Lies weiter, um mehr über konkrete verbotene Praktiken zu erfahren und wie sie dich betreffen könnten. Allen voran reglementiert daher die KI-Verordnung (VERORDNUNG (EU) 2024/1689) den Einsatz von Systemen basierend auf künstlicher Intelligenz (“KI Systemen“).
Die KI-VO ist am 1. August 2024 in Kraft getreten. Zu beachten sind die Regeln aber zum Teil frühestens ab 2. Februar 2025.
Und jetzt zu den in Artikel 5 der KI-VO regelten 8 strikten Verboten:
#1 Manipulative Techniken: Ein unsichtbarer Einfluss
Beschreibung: KI-Systeme dürfen keine manipulativen oder unterschwelligen Techniken anwenden, um Menschen zu Entscheidungen zu verleiten, die sie sonst nicht treffen würden, insbesondere wenn daraus erheblicher Schaden entsteht.
Beispiel: Ein Online-Dienst nutzt KI, um dir basierend auf deinem Surfverhalten gezielt Werbung zu zeigen, die deine Emotionen ausnutzt und dich zu überteuerten Käufen drängt, die du später bereust.
#2 Ausnutzung von Schutzbedürftigkeit: Schutz für die Schwächsten
Beschreibung: Es ist verboten, KI-Systeme einzusetzen, die gezielt die Schutzbedürftigkeit bestimmter Gruppen wie Kinder, ältere Menschen oder sozial Benachteiligte ausnutzen.
Beispiel: Eine App, die Kindern suggeriert, dass sie ohne zusätzliche Käufe in einem Spiel nicht mithalten können, nutzt deren mangelnde Reife und Entscheidungsfähigkeit aus.
#3 Soziale Bewertung: Ein Ranking, das schadet
Beschreibung: KI-Systeme dürfen Menschen nicht anhand ihres Verhaltens oder ihrer Eigenschaften bewerten und dadurch benachteiligen.
Beispiel: Ein System verweigert dir die Möglichkeit, eine Wohnung zu mieten, weil du aufgrund deiner Online-Aktivitäten als “unzuverlässig” eingestuft wurdest, obwohl keine objektive Grundlage dafür besteht.
#4 Strafrechtliche Risikobewertungen: Kein Platz für Vorurteile
Beschreibung: KI-Systeme dürfen nicht eingesetzt werden, um ausschließlich auf Basis von Profiling das Risiko vorherzusagen, dass jemand eine Straftat begeht.
Beispiel: Eine Software stuft dich als potenziellen Straftäter ein, weil dein soziales Umfeld und deine Interessen einem Muster entsprechen, das mit Kriminalität assoziiert wird.
#5 Ungezielte Nutzung biometrischer Daten: Schutz der Privatsphäre
Beschreibung: KI-Systeme dürfen nicht unkontrolliert biometrische Daten wie Gesichtsmerkmale aus dem Internet oder Überwachungsvideos auslesen und speichern.
Beispiel: Ein Unternehmen nutzt eine Datenbank mit Bildern aus sozialen Medien, um Gesichter zu analysieren und diese ohne Zustimmung der Betroffenen für Marketingzwecke zu verwenden.
#6 Emotionserkennung am Arbeitsplatz und in Schulen
Beschreibung: Der Einsatz von KI zur Emotionserkennung in sensiblen Kontexten wie am Arbeitsplatz oder in Schulen ist verboten, außer bei medizinischen oder sicherheitsrelevanten Anwendungen.
Beispiel: Dein Chef setzt eine KI ein, die deine Gesichts- und Stimmmerkmale analysiert, um zu bewerten, wie engagiert du bei der Arbeit bist. Dies könnte zu unberechtigten Nachteilen führen.
#7 Biometrische Kategorisierung: Kein Platz für Diskriminierung
Beschreibung: KI-Systeme dürfen nicht verwendet werden, um Menschen anhand biometrischer Daten in Kategorien wie Rasse, Religion, politische Ansichten oder sexuelle Orientierung einzuordnen.
Beispiel: Ein System analysiert dein Gesicht und ordnet dir auf dieser Basis eine religiöse Zugehörigkeit zu, die dann dazu führt, dass dir bestimmte Dienstleistungen verweigert werden.
#8 Echtzeit-Fernidentifizierung: Einschränkungen im öffentlichen Raum
Beschreibung: Der Einsatz von KI zur Echtzeit-Fernidentifizierung von Personen in der Öffentlichkeit ist verboten, außer in spezifischen Ausnahmefällen wie bei der Suche nach vermissten Personen oder zur Terrorabwehr.
Beispiel: In einer belebten Fußgängerzone wird eine KI-basierte Gesichtserkennung eingesetzt, um potenzielle Verdächtige zu identifizieren. Diese Praxis ist nur in eng definierten Ausnahmefällen erlaubt, da sie massiv in die Privatsphäre eingreift.
Wenn du als Anbieter oder Betreiber von KI-Systemen rechtliche Fragen hast:
– oder Anfrage über das Kontaktformular senden –