Social Scoring: Verboten nach Art. 5 EU Artificial Intelligence Act
Das systematische Bewerten von Bürgerinnen und Bürgern durch staatliche Stellen anhand ihres Verhaltens ist seit dem 2. Februar 2025 in der EU verboten. Was genau darunter fällt und was das für Schweizer Unternehmen bedeutet.
Was ist Social Scoring?
Social Scoring bezeichnet den Einsatz von KI-Systemen, die Personen anhand ihres sozialen Verhaltens, ihrer persönlichen Eigenschaften oder ihrer Lebensumstände systematisch bewerten und klassifizieren – mit dem Ziel, sie unterschiedlich zu behandeln.
Das bekannteste Beispiel ist das chinesische Sozialkredit-System. Die EU hat sich explizit dagegen ausgesprochen und ein umfassendes Verbot im EU AI Act verankert.
Was genau ist verboten?
Verboten ist der Einsatz durch öffentliche Behörden oder in deren Auftrag, wenn:
- Das System natürliche Personen oder Gruppen bewertet oder klassifiziert
- Die Bewertung auf sozialem Verhalten oder persönlichen Eigenschaften basiert
- Die Klassifizierung zu nachteiligen Behandlungen in nicht damit zusammenhängenden sozialen Bereichen führt
Was gilt für private Unternehmen?
Das Verbot richtet sich an staatliche Stellen. Private Unternehmen unterliegen anderen Regelungen:
- Kreditscoring: Gilt als Hochrisiko-KI (Anhang III Nr. 5)
- Profiling: Eingeschränkt durch DSGVO Art. 22
- Manipulation: Separat verboten durch Art. 5 Abs. 1 lit. a
Schweiz: Gilt das Verbot auch hier?
Schweizer Behörden unterliegen dem EU AI Act nicht direkt. Aber Schweizer Unternehmen, die Produkte in den EU-Markt liefern oder EU-Bürger verwalten, müssen den EU AI Act dennoch beachten. Zusätzlich gilt das revidierte Schweizer DSG mit umfangreichen Profiling-Einschränkungen.
Wie hoch ist das KI-Risiko Ihres Unternehmens?
In 10 Minuten erfahren Sie, ob und wie der EU AI Act Ihr Unternehmen betrifft – kostenlos, ohne Registrierung, auf Deutsch.
KI-Risiko kostenlos prüfen →Kostenlos · Kein Account nötig · Auf Deutsch · DSGVO-konform