KI Kennzeichnung wird zur Pflicht

Seit dem 2. August gelten neue Transparenzpflichten nach dem europäischen AI Act. Auch Ingenieurbüros und Planungsunternehmen sollten prüfen, wann KI Inhalte gekennzeichnet werden müssen und welche organisatorischen Maßnahmen erforderlich sind.

Neue Transparenzpflichten für Unternehmen

Künstliche Intelligenz gehört inzwischen in vielen Ingenieurbüros zum Arbeitsalltag. Sie unterstützt bei der Texterstellung, erstellt Visualisierungen, wertet Daten aus oder hilft bei der Kommunikation mit Auftraggebenden. Mit den seit dem 2. August geltenden Transparenzpflichten des europäischen AI Act kommen nun weitere rechtliche Anforderungen hinzu. Unternehmen müssen in bestimmten Fällen offenlegen, wenn Inhalte durch Künstliche Intelligenz erstellt oder wesentlich verändert wurden.

Die Regelungen betreffen nicht nur Softwareunternehmen oder große Plattformen. Auch Planungsbüros, Ingenieurgesellschaften sowie Unternehmen der Bau und Immobilienbranche sollten ihre Arbeitsabläufe überprüfen und den Einsatz von KI dokumentieren.

Wann eine Kennzeichnung erforderlich ist

Die Transparenzpflichten sind in Artikel 50 des AI Act geregelt. Sie greifen insbesondere dann, wenn Menschen mit einem KI System kommunizieren oder wenn Inhalte den Eindruck vermitteln können, sie seien vollständig echt oder von einer realen Person erstellt worden.

Kennzeichnungspflichtig können unter anderem sein:

• KI gestützte Chatbots oder Sprachassistenten
• KI erzeugte Bilder, Videos und Audioaufnahmen
• Deepfakes
• KI erzeugte Texte zu Themen von öffentlichem Interesse

Der Hinweis muss klar, verständlich und gut wahrnehmbar sein. Bei Chatbots erfolgt die Information zu Beginn der Kommunikation. Bilder, Videos oder Audioinhalte müssen ebenfalls eindeutig als KI erzeugt oder KI bearbeitet erkennbar sein.

Relevanz für die Ingenieurpraxis

Für Ingenieurbüros ergeben sich zahlreiche Anwendungsfälle, bei denen eine Prüfung sinnvoll ist. KI wird zunehmend genutzt, um Entwurfsvarianten zu visualisieren, Wettbewerbsbeiträge grafisch aufzubereiten oder Präsentationen für Bauherrschaft und Öffentlichkeit zu erstellen. Auch bei BIM Projekten, digitalen Zwillingen oder der automatisierten Auswertung großer Datenmengen kommen KI Werkzeuge immer häufiger zum Einsatz.

Werden beispielsweise fotorealistische Darstellungen eines Bauwerks vollständig mit KI erzeugt oder vorhandene Bilder so verändert, dass sie wie reale Aufnahmen wirken, kann eine Kennzeichnung erforderlich sein. Gleiches gilt für KI erzeugte Videos oder Sprachaufnahmen, die im Rahmen der Projektkommunikation veröffentlicht werden.

Anders verhält es sich bei typischen Büroanwendungen. Unterstützt Künstliche Intelligenz lediglich bei der Formulierung eines Projektberichts, einer Ausschreibung oder einer E Mail und wird der Inhalt anschließend fachlich geprüft, überarbeitet und verantwortet, entsteht daraus in der Regel keine Kennzeichnungspflicht.

Verantwortung bleibt beim Unternehmen

Der AI Act macht deutlich, dass die Verantwortung trotz des Einsatzes von KI beim Unternehmen bleibt. Insbesondere bei Veröffentlichungen sollte nachvollziehbar sein, wer Inhalte fachlich geprüft und freigegeben hat. Eine automatische Rechtschreibprüfung oder eine rein formale Freigabe reichen dafür nicht aus.

Ebenso empfiehlt es sich, interne Regeln für den Umgang mit KI festzulegen. Dazu gehören Vorgaben zur Nutzung freigegebener Anwendungen, der Schutz vertraulicher Projektinformationen sowie der Umgang mit personenbezogenen Daten. Auch sogenannte Schatten KI, also nicht genehmigte KI Anwendungen einzelner Beschäftigter, sollte in diesem Zusammenhang berücksichtigt werden.

Organisation gewinnt an Bedeutung

Neben der technischen Einführung von KI Werkzeugen rücken organisatorische Maßnahmen zunehmend in den Vordergrund. Unternehmen sollten alle eingesetzten KI Anwendungen erfassen und bewerten, welche Transparenzpflichten jeweils gelten. Verantwortlichkeiten, Freigabeprozesse und Schulungen helfen dabei, die Anforderungen des AI Act dauerhaft in bestehende Qualitätsmanagementsysteme zu integrieren.

Die Europäische Kommission stellt ergänzend freiwillige Symbole und einen Verhaltenskodex zur Verfügung, mit denen KI erzeugte Inhalte gekennzeichnet werden können. Diese Hilfestellungen erleichtern die praktische Umsetzung, ersetzen jedoch nicht die gesetzlichen Vorgaben.

Verstöße gegen die Transparenzpflichten können mit erheblichen Bußgeldern geahndet werden. Je nach Verstoß sieht der AI Act Sanktionen von bis zu 15 Millionen Euro oder bis zu drei Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres vor. Für Ingenieurbüros bietet sich daher die Gelegenheit, den Einsatz von Künstlicher Intelligenz frühzeitig organisatorisch und rechtlich abzusichern.

>> EU-Gesetz zur Künstlichen Intelligenz 

>> Von der EU-Kommission gebilligter Verhaltenskodex 

>> EU-Icons zur Kennzeichnung von KI-generierten Inhalten 

>> Die wichtigsten Transparenzpflichten nach AI Act, Art. 50 hat die Bundesnetzagentur aufgelistet