Die neue europäische KI-Verordnung (KI-VO) bringt weitreichende Regeln für den Einsatz künstlicher Intelligenz in der Wirtschaft. Besonders kritisch für Entwickler und Anwender ist der Artikel 5, der bestimmte KI-Praktiken aufgrund ihrer unkalkulierbaren Risiken komplett verbietet. Im Fokus stehen dabei Systeme, die unterschwellige, manipulative oder vorsätzlich täuschende Techniken einsetzen, um das Verhalten von Personen maßgeblich zu beeinflussen.

Das Verbot greift, sobald eine KI darauf ausgelegt ist, das Bewusstsein von Menschen zu umgehen oder Schwachstellen bestimmter Gruppen (wie Alter oder körperliche Beeinträchtigungen) auszunutzen. Ziel solcher Praktiken ist es oft, Nutzer zu Entscheidungen zu verleiten, die sie sonst nicht getroffen hätten – was im schlimmsten Fall zu physischen oder psychischen Schäden führen kann. Für Unternehmen bedeutet dies, dass bereits beim Design von KI-gestützten Marketing-Tools, HR-Software oder Chatbots genau geprüft werden muss, wo die Grenze zur unzulässigen Verhaltensmanipulation verläuft.

Wer gegen diese Kernverbote der KI-Verordnung verstößt, riskiert drakonische Strafen, die sogar die Höchstsätze der DSGVO übersteigen können. Eine rechtzeitige Risikoanalyse und die Einhaltung von Transparenzstandards sind daher für den rechtssicheren Einsatz moderner KI-Systeme zwingend erforderlich.

Näheres können Sie den verlinkten Bericht entnehmen:
https://www.dsn-group.de/datenschutz-notizen/unterschwellig-manipulativ-taeuschend-was-verbietet-art-5-abs-1-lit-a-ki-vo-1460009

Unsere Empfehlung

Überprüfen Sie Ihre eingesetzten oder geplanten KI-Systeme auf Konformität mit der neuen KI-Verordnung. Stellen Sie durch strenge Audits und Richtlinien sicher, dass keine Algorithmen genutzt werden, die das Nutzerverhalten unterschwellig manipulieren, und binden Sie Ihren Datenschutzbeauftragten frühzeitig in die Risikobewertung ein.

👉 Kontaktieren Sie uns jetzt – wir unterstützen Sie dabei, Ihre Informationspflichten DSGVO-konform umzusetzen, verständliche und rechtssichere Texte zu erstellen und nachhaltige Prüfprozesse zu etablieren.
Vereinbaren Sie ein unverbindliches Beratungsgespräch und bringen Sie die Transparenz Ihres Unternehmens auf den neuesten Stand.