Die digitalen Gesetze

Durch Instagram scrollen, Online-Einkäufe bei Amazon tätigen oder Fragen an ChatGPT stellen – das gehört längst zum Alltag. Die neuen Technologien bieten zahlreiche Möglichkeiten, bringen aber auch Risiken mit sich: Betrug, illegale Inhalte, Marktmacht großer Plattformen und täuschend echte KI-generierte Bilder und Videos.

Damit all diese Dienste trotzdem sicher verwendet werden können, hat die EU einige Regeln aufgestellt. Diese sind in drei großen Gesetzen verankert: Dem Gesetz über digitale Märkte (DMA), dem Gesetz über digitale Dienste (DSA) und dem Gesetz über Künstliche Intelligenz (AI Act).

DMA - Gesetz über digitale Märkte<#_0_1>
DSA - Gesetz über digitale Dienste<#_0_6>
AI Act - Gesetz über künstliche Intelligenz<#_0_9>

DMA - Gesetz über digitale Märkte

Seit dem 2. Mai 2023 gilt das Gesetz über digitale Märkte (Digital Markets Act), kurz DMA. Dieses Gesetz sorgt dafür, dass der digitale Markt fair bleibt und Verbraucherinnen und Verbraucher umfassende Rechte haben. Online werden vor allem die Plattformen großer Unternehmen genutzt. Sie haben großen Einfluss auf die digitalen Märkte, kleinere Unternehmen und die Nutzenden. Deshalb verpflichtet der DMA die größten Unternehmen dazu, bestimmte Regeln einzuhalten.

Bei den großen Unternehmen spricht man auch von Gatekeepern. Dazu zählen: Alphabet, Amazon, Apple, Booking.com, ByteDance (TikTok), Meta, Microsoft. Die Liste kann aber jederzeit erweitert werden.

Gatekeeper müssen:

Ihre Plattformen für andere Unternehmen zur Verfügung stellen.
Zugang zu den Daten der Userinnen und User ermöglichen, die sie auf ihren Plattformen sammeln.
Unternehmen erlauben, ihre Produkte auch außerhalb der Plattform zu bewerben und direkt mit ihren Kundinnen und Kunden Geschäfte zu machen.

Gatekeeper dürfen nicht:

Eigene Dienstleistungen oder Produkte bevorzugen.
Nutzerinnen und Nutzer tracken, um ohne Einwilligung gezielte Werbung zu schalten.
Bestimmte Apps vorinstallieren oder Nutzende davon abhalten, sie zu deinstallieren.
Personenbezogene Daten von Userinnen und Usern für gezielte Werbung nutzen, ohne dass diese eingewilligt haben.

Halten sich die Plattformen nicht an die Regeln, drohen ihnen hohe Strafen! Meta wurde zu einer Strafe von 200 Millionen Euro verklagt, weil es ein unzulässiges “Consent or Pay”-Modell eingeführt und personenbezogenen Daten der Nutzenden verwendet hat, ohne dass diese eingewilligt haben. Google droht aktuell eine Strafe von 890 Millionen Euro, weil es die eigenen Dienste bevorzugt hat.

DSA - Gesetz über digitale Dienste

Seit dem 17. Februar 2024 gilt das Gesetz über digitale Dienste (Digital Services Act), kurz DSA. Dieses Gesetz schafft einen sicheren und transparenten digitalen Raum. Es gilt: Was offline illegal ist, soll auch online illegal sein.

Das bedeutet konkret, dass Plattformen Verantwortung dafür tragen, welche Inhalte und Produkte auf ihren Seiten dargestellt und angeboten werden. Der DSA gilt für soziale Netzwerke, Online-Marktplätze und Suchmaschinen. Er schützt vor Betrug, illegalen Inhalten und unsicheren Produkten.

Die Plattformen haben also bestimmte Pflichten zu erfüllen:

Meldemöglichkeiten für Inhalte (z. B. beleidigende Kommentare) schaffen.
Dark Patterns, die Nutzende unter Druck setzen, sind verboten. Dazu gehören beispielsweise aggressive Countdowns bei angeblichen Angeboten.
Suchmaschinen müssen böswillige Akteure auf ihren Plattformen verhindern.
Vermittlungsdienste müssen Transparenzberichte veröffentlichen.

Wer gegen den DSA verstößt, dem drohen hohe Strafen. AliExpress musste 550 Millionen Euro Strafe zahlen, weil die verkauften Waren nicht den Sicherheitsstandards entsprachen oder illegal waren. X zahlte 120 Millionen Euro Strafe, weil ihr blauer Haken käuflich von jeder Person für jeden Namen erworben werden konnte, obwohl er eigentlich ein Identitätsnachweis sein sollte.

AI Act - Gesetz über künstliche Intelligenz

Seit August 2026 gelten die meisten Regeln des Gesetzes über künstliche Intelligenz (AI Act). Dieses Gesetz legt erstmals EU-weite Regeln für Künstliche Intelligenz (KI) fest und soll sie vertrauenswürdige und sichere Anwendung von KI fördern. Er gilt für Unternehmen, Behörden und Organisationen.

Deshalb teilt die EU KI-Systeme in verschiedene Risikostufen. Je risikoreicher ein System ist, desto mehr Auflagen gibt es.

Manche KI-Systeme sind komplett verboten. Das sind Systeme, die manipulierend sind oder „Social Scoring“ betreiben, also Daten über Menschen sammeln und sie aufgrund persönlicher Eigenschaften bewerten.

Zur Hochrisiko-KI zählt zum Beispiel der Einsatz von KI im Bewerbungsprozess oder in der Medizin. Hier müssen Sicherheits-, Dokumentations- und Transparenzpflichten eingehalten werden.

Zu den KIs mit begrenztem Risiko gehören Chatbots oder Systeme zur Bild- und Textgenerierung. Bei ihrem Einsatz müssen die Nutzenden darüber informiert werden, dass sie mit einem KI-System interagieren oder Inhalte sehen, die von einer KI erstellt wurden.

KI-Anwendungen mit geringem Risiko sind beispielsweise Spamfilter oder Empfehlungssysteme, etwa bei Streamingdiensten die Kategorie „Anderen Nutzenden gefiel auch“.

Grundsätzlich gilt aber: Die Nutzung von KI muss kenntlich gemacht werden. Alle mit KI erstellten oder veränderten Inhalte müssen gekennzeichnet sein.

Mehr Informationen über die digitalen Dienste finden sich in unserer diesjährigen Sonderausgabe des Newsletters.

Zum Newsletter<https://www.nuernberg.de/internet/eu_buero/nachrichten.html>

Zurück