SightEffect | Blog

EU AI Act fordert Transparenz für KI-generierte Inhalte | SightEffect

Geschrieben von Per Kasch | 31.03.25 10:55

Die EU KI-Verordnung (EU AI Act) ist weit mehr als ein bürokratischer Regelkatalog. Sie ist ein Weckruf an alle, die heute bereits mit Künstlicher Intelligenz arbeiten. Ob ihr mit ChatGPT authentischen Content generiert, Midjourney für die Umsetzung einer konsistenten Bildsprache nutzt oder andere generative KI-Tools in eurem Unternehmen einsetzt: Der Wandel ist in vollem Gange, und genau jetzt ist der Moment, euch auf eine transparente, ethische und zukunftssichere Nutzung von Künstlicher Intelligenz vorzubereiten.

Hintergrund und Zielsetzung des EU AI Acts

Der EU AI Act, der seit dem 1. August 2024 schrittweise in Kraft ist, verfolgt einen risikobasierten Ansatz. Dabei werden KI-Systeme in vier Risikokategorien eingeteilt: Von unvertretbarem Risiko über Hochrisiko bis hin zu Systemen mit begrenztem oder minimalem Risiko. Ziel der Verordnung ist es, den Schutz von Grundrechten, Sicherheit und Transparenz im Umgang mit KI zu gewährleisten.

Insbesondere die generative KI, die in Bereichen wie Marketing und Kommunikation eingesetzt wird, fällt häufig in die Kategorie der Systeme mit sogenannten „Transparenzrisiken“. Wenn ihr mithilfe solcher Technologien Content erzeugt, müsst ihr daher sicherstellen, dass eure Inhalte klar als künstlich generiert erkennbar sind. Dies betrifft unter anderem synthetische Texte, Bilder, Videos oder Audioinhalte.

Vom Anbieter zum Betreiber: Wer vom EU AI Act betroffen ist

Der EU AI Act bringt klare und umfassende Regelungen für den Umgang mit Künstlicher Intelligenz und das sowohl für Anbieter als auch für Betreiber von KI-Systemen. In diesem Abschnitt beleuchten wir, welche Anforderungen diese Stakeholder im Rahmen der Verordnung erfüllen müssen und welche Verantwortung ihnen im Umgang mit KI-Systemen zukommt.

Pflichten der Anbieter

Als Anbieter gelten alle Unternehmen oder Organisationen, die KI-Systeme entwickeln, bereitstellen oder in Verkehr bringen. Beispiele hierfür sind OpenAI (ChatGPT), Midjourney oder Adobe Firefly. Nach Artikel 50 der KI-Verordnung müssen Anbieter sicherstellen, dass ihre Systeme bereits bei der Bereitstellung mit maschinell lesbaren Kennzeichnungen ausgestattet sind, um die Herkunft der Inhalte transparent zu machen. Dazu zählt auch, dass Nutzer über die Funktionsweise und etwaige Einschränkungen der Systeme informiert werden.

Pflichten der Betreiber

Unter Betreiber versteht der EU AI Act jene Unternehmen, die KI-Systeme in ihrem Arbeitsalltag einsetzen. Viele von uns betrifft das also schon heute. Und damit obliegt uns, bzw. den Unternehmen, für die wir tagtäglich Content produzieren, auch die Verantwortung für die rechtskonforme Nutzung der Systeme. Folgende Aspekte sollten wir daher ganz besonders im Auge behalten:

  • Kennzeichnungspflichten: Inhalte, die mit generativer KI erstellt wurden, müssen eindeutig als solche erkennbar sein. Besonders kritisch sind Deepfakes und Inhalte, die täuschend echt wirken.
  • Transparenz: Betreiber sind auch dazu angehalten, Kunden und Zielgruppen zu informieren, wenn diese mit einem KI-System interagieren. Das ist beispielsweise beim Einsatz von Chatbots der Fall.
  • Compliance: Neben der Einhaltung der Vorgaben des EU AI Acts bleiben auch Datenschutzbestimmungen wie die DSGVO weiterhin relevant.

Neue Transparenzpflichten: Ein zentraler Punkt der Verordnung

Ein wesentlicher Aspekt des EU AI Acts ist die Transparenzpflicht für KI-generierte Inhalte. Ab dem 2. August 2026 müssen Unternehmen sicherstellen, dass alle Inhalte, die mit Hilfe generativer KI erstellt wurden, eindeutig als solche erkennbar sind. Folgende Ziele sollen durch die Transparenzpflicht erreicht werden:

  • Maschinell lesbare Labels: Inhalte müssen technisch so gekennzeichnet sein, dass automatisierte Systeme ihre Herkunft (dh. die künstliche Generierung) erkennen können.
  • Schutz vor Desinformation: Die Kennzeichnung soll verhindern, dass täuschend echte Inhalte ohne Hinweis verbreitet werden und so zu Desinformation führen. Diese Regelung zielt insbesondere auf sogenannte Deepfakes ab, also mit Hilfe künstlicher Intelligenz erstellte Bilder oder Videos, die authentisch wirken, es aber nicht sind.
  • Vertrauensbildung: Für Konsumenten und Kunden ist es wichtig, zu wissen, ob sie von Menschen erstellte Inhalte vor sich haben oder KI-generierten Content.

Unternehmen, die diesen Anforderungen nicht rechtzeitig Rechnung tragen, riskieren nicht nur rechtliche Konsequenzen, sondern auch Probleme in der Zusammenarbeit mit ihren Partnern sowie massive Vertrauensverluste bei ihrer Zielgruppe. 

Kompetenz als Basis: Schulungspflicht für KI-Nutzer seit 2. Februar

Der EU AI Act schreibt vor, dass ab dem 2. Februar 2025 alle Personen, die im Unternehmen mit KI-Systemen arbeiten, über fundierte Kenntnisse im Umgang mit diesen Technologien verfügen müssen. Es ist daher wichtig, dass ihr eure Teams gezielt weiterbildet, damit sie die Funktionsweise, die Grenzen und die Risiken von KI-Systemen umfassend verstehen. Nur so könnt ihr sicherstellen, dass die neuen Technologien verantwortungsvoll und im Einklang mit den gesetzlichen Vorgaben eingesetzt werden.

Achtet außerdem darauf, dass sich eure Schulungsprogramme nicht bloß um die reine Vermittlung von technischem Know-how drehen. Ebenso wichtig sind ethische Fragestellungen und rechtliche Rahmenbedingungen. Neben dem Wissen zu Hard- und Software solltet ihr auch diverse Risiken thematisieren, beispielsweise die unbeabsichtigte Verbreitung von Deepfakes oder Desinformation. Ziel der Schulung ist es, in eurem Unternehmen ein tiefes Verständnis und eine Kultur der Verantwortung zu schaffen, damit eure Mitarbeiter proaktiv agieren und mögliche Fehlanwendungen frühzeitig erkennen bzw. unterbinden können.

EU AI Act richtig umsetzen: 5 Handlungsempfehlungen für Unternehmen

Mit diesen 5 Handlungsempfehlungen für Unternehmen könnt ihr euch den vielfältigen Herausforderungen des EU AI Acts systematisch und proaktiv stellen:

  1. Macht eine Bestandsaufnahme: Verschafft euch einen klaren Überblick über alle KI-Anwendungen in eurem Unternehmen.

  2. Entwickelt einen Compliance-Plan: Erarbeitet einen detaillierten Maßnahmenplan, der sowohl technische als auch organisatorische Anpassungen berücksichtigt.

  3. Implementiert technische Lösungen: Nutzt IT-Systeme, die KI-generierte Inhalte automatisch kennzeichnen. So erfüllt ihr die Transparenzpflicht mit minimalem Aufwand.

  4. Schult eure Mitarbeiter: Investiert in gezielte Weiterbildungsprogramme und macht euer Team fit für das rechtskonforme Arbeiten mit KI-Systemen.

  5. Holt euch Unterstützung: Lasst euch von Experten beraten, um alle Unsicherheiten im Zusammenhang mit dem EU AI Act zu klären.

Fazit: Vertrauen schaffen, Zukunft gestalten

Der EU AI Act ist mehr als bloß eine gesetzliche Neuerung. Er ist ein wichtiger Impuls, um Künstliche Intelligenz verantwortungsvoll, transparent und zukunftsorientiert zu nutzen. Indem ihr jetzt die Weichen richtig stellt, setzt ihr ein starkes Zeichen für eure Marke, baut Vertrauen bei euren Stakeholdern auf und positioniert euer Unternehmen als Vorreiter in einer Welt, in der Ethik und Innovation Hand in Hand gehen. Denn nur wer den Wandel aktiv gestaltet, wird auch morgen seinem Mitbewerb den entscheidenden Schritt voraus sein.

Seid ihr bereit für mehr Markenpower durch Künstliche Intelligenz? Wir zeigen euch, mit welchen KI-Tools ihr eure Bildsprache authentisch und effizient gestaltet und unterstützen euch bei der rechtskonformen Implementierung in eure Prozesse. Setzt jetzt den ersten Schritt mit unserem kostenlosen Visual Assessment und entdeckt das volle Potenzial eurer visuellen Kommunikation.+