Die Europäische Kommission hat ein Whistleblower-Tool eingeführt, um die Durchsetzung des EU AI Act zu unterstützen. Dieses Instrument ermöglicht es Hinweisgebern, Verstöße gegen die Vorschriften des EU AI Act vertraulich zu melden. Ziel ist es, die Einhaltung der Regeln für den sicheren und verantwortungsvollen Einsatz von Künstlicher Intelligenz in der EU zu gewährleisten, indem Verstöße frühzeitig erkannt werden. Auch die Arbeit des AI Office soll auf diese Weise unterstützt werden.

Was kann gemeldet werden?

Die EU-Kommission benennt explizit Hinweise auf Verstöße gegen die Pflichten von Anbietern von KI-Modelle. Dazu zählen beispielsweise die Pflicht zur Dokumentation von Trainingsdaten, die Vorhaltung einer Copyright-Policy sowie die Durchführung von Risikoeinschätzungen und Mitigationsmaßnahmen bei KI-Modellen mit allgemeinem Verwendungszweck (GPAI-Modellen) und systemischem Risiko. Die EU-Kommission öffnet das Whistleblower-Tool allerdings auch für Meldungen zu jeglichen Verstößen, die Grundrechte, Gesundheit und öffentliches Vertrauen gefährden könnten.

Meldungen können anonym erfolgen. Die Plattform ist so gestaltet, dass die Vertraulichkeit der Hinweisgeber gewährleistet wird.

Bezug zur Hinweisgeber-Richtlinie

Das Tool orientiert sich an der EU-Hinweisgeberrichtlinie (2019/1937), die einen umfassenden rechtlichen Schutz für Hinweisgeber vorsieht.

Wichtig: Dieser Schutz gilt im Kontext des EU AI Act erst ab dem 2. August 2026 in vollem Umfang. Bis dahin ist Vertraulichkeit über das Whistleblower-Tool die primäre Schutzmaßnahme.

Das bedeutet:

• Jetzt: Meldungen sind möglich, aber der volle rechtliche Schutz greift noch nicht.
• Ab August 2026: Hinweisgeber genießen den vollständigen Schutz der Richtlinie.

Warum ist das wichtig für Unternehmen?

Der EU AI Act bringt neue Verpflichtungen für Anbieter und Betreiber von KI-Systemen mit sich. Das Whistleblower-Tool ist ein Signal, dass die EU die Einhaltung aktiv überwacht und dabei nicht nur auf die Kompetenzen des AI Office setzt, sondern auch auf Meldungen von Hinweisgebern setzt.

Unternehmen sollten daher:

• Compliance-Prozesse überprüfen und anpassen
• Interne Meldekanäle etablieren, um Probleme frühzeitig zu erkennen
• Mitarbeitende sensibilisieren, um Risiken zu minimieren

Fazit: Das neue Whistleblower-Tool ist ein wichtiger Baustein für die Umsetzung des EU AI Act. Unternehmen sollten jetzt handeln, um ihre Compliance sicherzustellen und sich auf den Start der Durchsetzung im August 2026 vorzubereiten.

Weiterführende Hinweise auf den Seiten der EU-Kommission:

https://digital-strategy.ec.europa.eu/en/policies/ai-act-whistleblower-tool