Als der Zulieferer so weit war, meldete sich die Geschäftsführung mit der Frage, worauf man rechtlich achten muss, bevor etwas in Betrieb geht. Die teuerste Antwort ist die, die man zu spät sucht. Diese Seite zeigt, welche Fragen früh gehören und in welcher Reihenfolge.
Dieser Beitrag ersetzt keine Rechtsberatung. Er beschreibt, welche Fragen bei einem KI-Vorhaben typischerweise auftauchen und in welcher Reihenfolge sie sinnvollerweise geklärt werden. Ob und wie eine Regelung auf Ihren konkreten Fall zutrifft, lässt sich nur im Einzelfall beurteilen. Ziehen Sie im Zweifel eine Fachperson hinzu, bevor Sie Entscheidungen treffen oder ein System in Betrieb nehmen.
Die hier aufgeführten Fragen sollen Ihnen als Einstieg helfen und erheben keinen Anspruch auf Vollständigkeit. Sie sind aber wichtig, um teure Fehlentscheidungen zu vermeiden.
Für die Geschäftsführung
Die Verantwortung und der Nachweis sind geklärt, bevor Budget gebunden ist, nicht danach.
Für die IT
Klar, welche Pflichten gelten, von der Kennzeichnung über die Protokollierung bis zur Kompetenz der Anwender.
Für den Fachbereich
Sicherheit, was erlaubt ist, ohne die Rechtslage selbst bewerten zu müssen.
Die Reihenfolge ist entscheidend
In der Praxis werden rechtliche Fragen am Ende eines Vorhabens gestellt, wenn Technik und Budget bereits feststehen. Das ist die teuerste Reihenfolge. Ergibt die Prüfung dann, dass eine Anwendung besonderen Anforderungen unterliegt, ist die Nacharbeit regelmäßig aufwendiger als das ursprüngliche Projekt.
Sinnvoll ist die umgekehrte Reihenfolge. Zuerst klären, in welchen Bereich eine geplante Anwendung fällt. Danach entscheiden, ob sie sich wirtschaftlich lohnt. Und erst dann über Technik sprechen.
Wie eingreifend ist die Anwendung?
Das europäische KI-Recht unterscheidet Anwendungen danach, wie stark sie in Rechte von Menschen eingreifen. Je stärker der Eingriff, desto höher die Anforderungen an Dokumentation, Kontrolle und Nachweisführung.
Für die Praxis genügt zunächst eine grobe Selbsteinschätzung entlang von drei Fragen.
Trifft die Anwendung Entscheidungen über Menschen oder bereitet sie solche vor? Dazu zählen etwa die Vorauswahl von Bewerbungen, die Bewertung von Leistung, die Zuteilung von Aufgaben oder die Beurteilung der Zahlungsfähigkeit von Geschäftspartnern. Wenn ja, ist mit deutlich erhöhten Anforderungen zu rechnen. Solche Vorhaben sollten nicht als Erstprojekt begonnen und in jedem Fall vorab geprüft werden.
Kommunizieren Menschen direkt mit dem System, oder erzeugt es Inhalte für die Öffentlichkeit? Dann bestehen in aller Regel Transparenz- und Kennzeichnungsanforderungen. Das betrifft Chatlösungen auf der Website ebenso wie erzeugte Texte, Bilder oder Sprachausgaben in der Außendarstellung. Diese Anforderungen sind mit überschaubarem Aufwand erfüllbar, sie müssen aber bekannt sein.
Wertet die Anwendung ausschließlich eigene Unterlagen für interne Zwecke aus? Dann liegt sie in aller Regel im unkritischen Bereich. Das gilt für die Suche in technischen Unterlagen, die Auswertung von Prüfprotokollen oder das Durchsuchbarmachen einer Wartungshistorie.
Der größte Teil dessen, was Fertigungsbetriebe tatsächlich vorhaben, fällt in die dritte Kategorie.
Offen bleibt die genaue Einordnung Ihrer Anwendung, insbesondere wenn sie sich zwischen zwei Kategorien bewegt oder wenn geplant ist, sie später zu erweitern. Eine Erweiterung kann die Einstufung verändern.
Wer ist von den Daten betroffen?
Unabhängig von der KI-spezifischen Einordnung gelten die allgemeinen Anforderungen des Datenschutzes weiter. Sobald Daten von Beschäftigten, Kunden oder Lieferanten verarbeitet werden, ist zu klären, auf welcher Grundlage das geschieht und wo die Verarbeitung stattfindet.
Der lokale Betrieb auf eigener Hardware vereinfacht diese Frage erheblich, weil kein externer Dienstleister eingeschaltet wird und keine Daten in andere Länder gelangen. Er ersetzt aber nicht die Prüfung, ob die Verarbeitung überhaupt zulässig ist und ob Betroffene zu informieren sind.
Ein Punkt, der in Zulieferbetrieben häufig übersehen wird: Auch Ihre eigenen Kundenverträge können die Verarbeitung durch Dritte einschränken. Viele Rahmenverträge in der Industrie enthalten entsprechende Klauseln. Prüfen Sie diese, bevor Sie Kundenunterlagen in ein extern betriebenes System geben.
Offen bleibt die datenschutzrechtliche Grundlage für Ihre konkrete Verarbeitung, die Informationspflichten gegenüber Betroffenen und die vertraglichen Bindungen aus Ihren Kundenverträgen.
Ist der Betriebsrat einzubinden?
Dieser Punkt stoppt mehr Vorhaben als jede Behörde, und er wird fast immer zu spät bedacht.
Sobald ein System geeignet ist, Verhalten oder Leistung von Beschäftigten erfassbar oder auswertbar zu machen, ist die Mitbestimmung zu berücksichtigen. Entscheidend ist dabei die technische Eignung, nicht die Absicht. Ein Protokoll, das festhält, wer wann welche Anfrage gestellt hat, erfüllt diese Bedingung bereits, auch wenn niemand vorhat, es auszuwerten.
Die praktische Empfehlung ist eindeutig. Beziehen Sie den Betriebsrat ein, bevor das System steht, nicht danach. Ein Vorhaben, das nachträglich verhandelt werden muss, verliert Monate und Vertrauen. Ein Vorhaben, bei dem der Betriebsrat von Anfang an mitgestaltet, insbesondere bei der Frage, welche Protokolldaten überhaupt entstehen, läuft in aller Regel durch.
Offen bleibt, ob und in welcher Form die Mitbestimmung in Ihrem konkreten Fall greift und wie eine tragfähige Regelung aussehen kann. Das ist arbeitsrechtlich zu klären.
Was verlangen Ihre Kunden?
Für viele Betriebe in der Region kommt der eigentliche Druck nicht von einer Behörde, sondern aus der Lieferkette.
Größere Auftraggeber geben ihre eigenen Sicherheitsanforderungen zunehmend an Zulieferer weiter. Das kann bedeuten, dass Sie Nachweise erbringen müssen, obwohl Sie selbst formal nicht unter eine bestimmte Regelung fallen. In einer Region mit dichter Zulieferstruktur ist das der wahrscheinlichere Auslöser.
Sehen Sie deshalb in Ihre laufenden Rahmenverträge und in die Anforderungskataloge Ihrer wichtigsten Kunden, bevor Sie ein System einführen. Die Anforderungen dort sind oft konkreter und kurzfristiger wirksam als gesetzliche Vorgaben.
Offen bleibt, welche Nachweispflichten sich aus Ihren Kundenverträgen ergeben und ob ein geplantes System diese erfüllt.
Unter welchen Bedingungen dürfen Sie das Modell nutzen?
Frei verfügbare Modelle stehen unter unterschiedlichen Lizenzen. Manche erlauben jede rechtmäßige Nutzung ohne weitere Auflagen. Andere enthalten Einschränkungen, etwa zu bestimmten Anwendungsfeldern, zur Weitergabe an Dritte oder zur Namensnennung. Und manche behalten sich vor, die Bedingungen später zu ändern.
Für den rein internen Einsatz ist das meist unproblematisch. Kritisch wird es, sobald Sie ein System an Kunden weitergeben oder in ein eigenes Produkt einbetten wollen.
Zwei Punkte gehören deshalb in jede Beschaffung. Die Lizenz gilt pro Modellvariante, nicht pro Anbieter, also ist der Lizenztext der exakten Version zu prüfen. Und die Lizenz ersetzt keine regulatorische Anforderung, die beiden Ebenen sind unabhängig voneinander.
Offen bleibt der Lizenztext der konkret eingesetzten Modellversion, insbesondere vor einer Weitergabe an Dritte.
Wer muss geschult werden?
Wer KI im Betrieb einsetzt, muss dafür sorgen, dass die damit arbeitenden Personen über ausreichende Kompetenz verfügen. Was ausreichend bedeutet, hängt vom Einsatz ab. Wer Textentwürfe erzeugen lässt, braucht anderes Wissen als wer Prüfprotokolle auswertet oder mit Kundendaten arbeitet.
Für eine spätere Nachweisführung zählt der Bezug auf Ihren Betrieb und Ihre tatsächlichen Anwendungsfälle, nicht ein allgemeiner Teilnahmenachweis.
Offen bleibt, welcher Umfang für Ihre Einsatzformen angemessen ist und wie Sie ihn dokumentieren.
Was Sie unabhängig von jeder Prüfung tun sollten
Diese fünf Punkte sind in keinem Fall falsch und später kaum nachrüstbar.
- Halten Sie schriftlich fest, welche Datenarten in welches Werkzeug dürfen, und benennen Sie eine Person, die im Zweifel entscheidet.
- Protokollieren Sie zu jeder Ausgabe die Eingabe, den Nutzer, den Zeitpunkt, den Modellnamen und die Modellversion.
- Lassen Sie das System ausschließlich aus vorgelegten Unterlagen antworten und die Fundstelle mit ausgeben.
- Bilden Sie Zugriffsrechte in der Datenschicht ab, nicht im Modell. Ein Sprachmodell hat keine eigene Rechteverwaltung.
- Setzen Sie eine Prüfstufe dazwischen, bevor eine erzeugte Antwort automatisch eine Aktion auslöst.
Wie eine schriftliche Datenregel konkret aussieht, steht unter Welche Daten dürfen das Unternehmen verlassen.
Wann Sie mit Experten sprechen sollten
In diesen Fällen sollten Sie nicht selbst entscheiden.
- Wenn die Anwendung Entscheidungen über Menschen vorbereitet, insbesondere im Personalbereich oder bei der Bewertung von Geschäftspartnern.
- Wenn ein Sprachmodell in ein Produkt eingebettet werden soll, das Sie in Verkehr bringen.
- Wenn ein System in eine Maschinen- oder Anlagensteuerung eingreift.
- Wenn Beschäftigtendaten verarbeitet werden und keine Regelung mit dem Betriebsrat besteht.
- Wenn ein Kunde eine Nachweispflicht verlangt und unklar ist, was genau nachzuweisen ist.
- Wenn Sie unsicher sind, in welchen Bereich Ihre Anwendung fällt. Diese Unsicherheit selbst ist bereits ein ausreichender Grund.
Zur Vertiefung, Risikoklassen und Fristen
Die folgenden Punkte brauchen Sie erst, wenn ein konkreter Anwendungsfall feststeht. Klappen Sie auf, was Sie betrifft.
Die vier Stufen
Der EU AI Act folgt einem risikobasierten Ansatz mit vier Stufen. Sie reichen von verbotenen Praktiken über Hochrisiko-Systeme etwa in Personalauswahl, Kreditvergabe oder kritischer Infrastruktur und begrenztes Risiko mit Transparenzpflichten etwa bei Chatbots bis zu minimalem Risiko ohne besondere Anforderungen.
Für Fertigungsbetriebe liegen die meisten typischen Anwendungsfälle im minimalen oder begrenzten Risiko.
Die folgende Übersicht ordnet typische Anwendungsfälle grob ein. Sie dient der Orientierung und ist keine verbindliche Einstufung; die Einordnung Ihres konkreten Falls kann abweichen und sollte im Einzelfall dokumentiert und im Zweifel fachlich geprüft werden.
| Anwendungsfall | Risikoklasse (Orientierung) | Was daraus typischerweise folgt |
|---|---|---|
| Suche in eigenen technischen Unterlagen | Minimal | Keine besonderen Pflichten aus dem AI Act |
| Zusammenfassung von Prüfprotokollen für Mitarbeitende | Minimal | Interne Qualitätssicherung genügt |
| Auswertung von Reklamationstexten | Minimal | Keine Sonderpflichten |
| Wartungshistorie durchsuchbar machen | Minimal | Keine Sonderpflichten |
| Assistent für Mitarbeitende mit Chatoberfläche | Begrenzt | Nutzer müssen erkennen, dass sie mit KI sprechen |
| Kundenchat auf der Website | Begrenzt | Kennzeichnungspflicht nach Artikel 50 |
| KI-generierte Texte, Bilder oder Sprachausgaben im Marketing | Begrenzt | Kennzeichnung der Inhalte |
| Vorauswahl von Bewerbungen | Hoch | Vollständiges Pflichtenprogramm nach Anhang III |
| Leistungsbewertung oder Aufgabenzuteilung von Beschäftigten | Hoch | Personalverwaltung fällt unter Anhang III |
| Bonitätsprüfung von Kunden oder Lieferanten | Hoch | Kreditwürdigkeitsprüfung fällt unter Anhang III |
| Beurteilung von Beschäftigten nach allgemeinem Verhalten | Verboten | Social Scoring ist untersagt |
Zu den Kategorien in Anhang III gehören biometrische Identifizierung, KI in der Verwaltung kritischer Infrastruktur, Bildung und Berufsbildung, Personalverwaltung, Kreditwürdigkeitsprüfung, Sozialleistungen, Strafverfolgung sowie Migration und Grenzkontrolle.
Eine Zahl, die stutzig machen sollte
Nach der Bitkom-Erhebung 2026 geben 37 Prozent der vom AI Act betroffenen Unternehmen an, voraussichtlich ein Hochrisiko-System im Einsatz zu haben, 29 Prozent zwei, und nur 2 Prozent gehen davon aus, gar kein Hochrisiko-System zu betreiben. Der Durchschnitt liegt bei 1,5 Systemen je betroffenem Unternehmen.
Dass praktisch niemand von null ausgeht, obwohl die typischen Anwendungen im Mittelstand Dokumentensuche und Textarbeit sind, könnte auf eine breite Fehleinschätzung hindeuten. Für einen Betrieb bedeutet das entweder unnötigen Aufwand oder eine falsche Sicherheit. Beides ist teuer.
Quelle: Bitkom, Künstliche Intelligenz in Deutschland, Studienbericht 2026, Befragung von 604 Unternehmen ab 20 Beschäftigten, Erhebungszeitraum 2025.
Was gilt für KI, die in eine Maschine eingebaut wird?
Hier gibt es eine Besonderheit, die für Maschinen- und Anlagenbauer unmittelbar relevant ist.
KI, die als Sicherheitsbauteil in Maschinen steckt, bleibt grundsätzlich hochrisiko-relevant. Geändert hat sich das Zusammenspiel mit der Maschinenverordnung: Im Zuge des Digital Omnibus wurde die Maschinenverordnung innerhalb von Anhang I des AI Act verschoben, sodass die Konformität vorrangig über das sektorspezifische Produktrecht läuft und keine doppelte Konformitätsbewertung nach dem AI Act entsteht. Die Hochrisiko-Einstufung als solche entfällt dadurch nicht. Andere Produktgruppen wie Medizinprodukte und Spielzeug bleiben ebenfalls erfasst.
Das vereinfacht die Konformität für Anlagenbauer, entbindet aber nicht von den Anforderungen der Maschinenverordnung selbst. Wer ein Sprachmodell in eine Steuerung oder in eine Bedienoberfläche einbaut, sollte diesen Punkt vor Projektbeginn juristisch klären lassen.
Welche Fristen gelten
Der Zeitplan hat sich 2026 verschoben, die Inhalte nicht. Der sogenannte Digital Omnibus verschiebt Fristen, schafft aber keine Pflichten ab. Die inhaltlichen Anforderungen bleiben in der Substanz unverändert.
| Pflicht | Stand |
|---|---|
| Verbotene KI-Praktiken nach Artikel 5 | Seit August 2025 sanktionsbewehrt |
| KI-Kompetenzpflicht nach Artikel 4 | Seit Februar 2025 anwendbar |
| Transparenzpflichten nach Artikel 50 | Seit 2. August 2026 |
| Kennzeichnung bei Systemen, die im August 2026 bereits im Markt waren | Übergangsfrist bis 2. Dezember 2026 |
| Volle Hochrisiko-Pflichten nach Anhang III | Verschoben auf 2. Dezember 2027 |
| Hochrisiko-KI in regulierten Produkten nach Anhang I | Verschoben auf 2. August 2028 |
Die zusätzliche Zeit reduziert weder Umfang noch Komplexität der Anforderungen. Der Aufbau von Risikomanagement, technischer Dokumentation, Datenqualität und Governance dauert erfahrungsgemäß deutlich länger als zunächst angenommen.
Die geänderten Fristen ergeben sich aus dem Digital Omnibus, der Verordnung (EU) 2026/1744, in Kraft seit dem 27. Juli 2026. Prüfen Sie bei rechtlichen Entscheidungen den aktuellen Stand an der Quelle.
Die Pflicht, die schon gilt und kaum jemand erfüllt
Während über Hochrisiko-Fristen diskutiert wird, gilt eine andere Vorgabe längst. Die KI-Kompetenzpflicht nach Artikel 4 ist seit Februar 2025 anwendbar und verlangt von jedem Betrieb, der KI einsetzt, ein ausreichendes Maß an KI-Kompetenz bei den damit arbeitenden Personen. Das gilt unabhängig von der Risikoklasse und unabhängig davon, wie klein der Einsatz ist.
Die Erfüllungsquote ist niedrig. 43 Prozent der Unternehmen bieten bislang keine Schulungen zu KI an. Nur 8 Prozent schulen alle Beschäftigten, 21 Prozent einen Großteil und 25 Prozent ausgewählte Beschäftigte. Aus Sicht der Belegschaft geben 70 Prozent der Erwerbstätigen an, dass ihr Unternehmen keine Fortbildungen zu KI anbietet.
Was ausreichend bedeutet, hängt am Einsatz. Wer Texte entwerfen lässt, braucht anderes Wissen als wer Prüfprotokolle auswertet oder Kundendaten verarbeitet. Allgemeine Onlinekurse vermitteln Grundverständnis, ersetzen aber nicht die Frage, welche Daten in Ihrem Betrieb in welches Werkzeug dürfen und wie Ihre konkrete Anwendung einzustufen ist. Für die Dokumentation zählt der Bezug auf Ihren Betrieb, nicht ein Teilnahmenachweis.
Quelle: Bitkom, Künstliche Intelligenz in Deutschland, Studienbericht 2026.
NIS2 und warum das auch kleinere Zulieferer trifft
Das NIS2-Umsetzungsgesetz und das novellierte BSI-Gesetz sind am 6. Dezember 2025 ohne Übergangsfrist in Kraft getreten.
Erfasst sind, abhängig von Größe und Sektor, vor allem mittlere und große Unternehmen, in insgesamt 18 Sektoren. Als grobe Orientierung ist erfasst, wer mindestens 50 Beschäftigte hat, oder wessen Jahresumsatz und Bilanzsumme jeweils zehn Millionen Euro übersteigen. Der Maschinenbau zählt dabei zu den sonstigen kritischen Sektoren nach Anhang II der NIS2-Richtlinie, nicht zu den Sektoren mit hoher Kritikalität. Die genaue Betroffenheit prüfen Sie im Einzelfall mit der BSI-Betroffenheitsprüfung.
Der für die Region entscheidende Punkt betrifft aber die Betriebe unterhalb dieser Schwellen. Auch sie werden zunehmend von ihren größeren Auftraggebern verpflichtet, die NIS2-Sicherheitsstandards einzuhalten, wodurch Compliance zur Voraussetzung für die Geschäftsbeziehung wird. In einer Region mit dichter Automotive-Zulieferstruktur ist das der wahrscheinlichere Auslöser als die Behörde.
Für die Geschäftsführung gilt zusätzlich, dass die Risikomanagementmaßnahmen zu billigen und zu überwachen sind und eine Schulungspflicht besteht. Die Verantwortung liegt ausdrücklich bei der Geschäftsleitung, eine reine Delegation genügt nicht.
Stand: 9. August 2026. Zur Registrierungsfrist beim BSI gibt es widersprüchliche Angaben. Prüfen Sie den aktuellen Stand direkt beim BSI.
Was KI-Systeme sicherheitstechnisch hinzufügen
Das BSI formuliert den Grundsatz so, dass KI-Systeme als sicherheitskritische Infrastruktur zu behandeln sind, nicht als isolierte Werkzeuge, und dass das Ziel kontrollierbare Risiken sind, nicht absolute Sicherheit.
Konkret entstehen Angriffswege, die klassische Anwendungen nicht haben. Der BSI-Leitfaden für Penetrationstests nennt Prompt Injections und Membership-Inference-Angriffe und richtet sich ausdrücklich auch an Organisationen, die Sprachmodelle intern bereitstellen. Als Rahmen haben BSI und die französische ANSSI am 11. August 2025 gemeinsame Designprinzipien für Zero Trust bei sprachmodellbasierten Systemen veröffentlicht.
Praktisch übersetzt bedeutet das drei Kontrollpunkte. Sie umfassen geringste Berechtigungen in allen verbundenen Systemen, die Prüfung der Eingaben vor der Verarbeitung und die Prüfung der Ausgaben, bevor sie Nutzer oder Folgesysteme erreichen.
Der letzte Punkt wird regelmäßig übersehen. Solange ein Mensch die Antwort liest, ist der Schaden begrenzt. Sobald eine Antwort automatisch eine Aktion auslöst, etwa einen Eintrag in einem Ticketsystem oder eine Materialanforderung, brauchen Sie eine Prüfstufe dazwischen.
Häufige Fragen
Brauchen wir für eine interne Dokumentensuche eine besondere Genehmigung?
In aller Regel nicht. Eine Anwendung, die ausschließlich eigene Unterlagen für interne Zwecke auswertet, liegt üblicherweise im unkritischen Bereich. Die Einordnung Ihres konkreten Falls sollten Sie dennoch dokumentieren.
Löst ein lokal betriebenes System die Datenschutzfrage?
Es vereinfacht sie erheblich, weil kein externer Dienstleister eingeschaltet wird. Ob die Verarbeitung zulässig ist und welche Informationspflichten bestehen, bleibt gesondert zu klären.
Müssen wir Beschäftigten sagen, dass sie mit einem KI-System sprechen?
Wenn eine Chatoberfläche im Einsatz ist, sollten Nutzer das erkennen können. In der Praxis ist das mit einem Hinweis in der Oberfläche erledigt.
Ab wann ist der Betriebsrat einzubinden?
Sobald ein System technisch geeignet ist, Verhalten oder Leistung erfassbar zu machen. Auf die Absicht kommt es dabei nicht an. Beziehen Sie ihn früh ein.
Dürfen wir ein frei verfügbares Modell kommerziell nutzen?
Das hängt von der Lizenz der konkreten Modellversion ab. Für den internen Einsatz ist es meist unproblematisch, für die Weitergabe an Dritte nicht immer.
Was passiert, wenn wir bisher unkontrolliert KI genutzt haben?
Der praktikable Weg ist nicht ein Verbot, sondern ein zulässiger Zugang, eine schriftliche Regel und die ausdrückliche Aussage, dass die bisherige Nutzung keine Konsequenzen hat. Ohne den dritten Punkt bekommen Sie keine belastbare Bestandsaufnahme.
Fällt unser Maschinenbaubetrieb unter NIS2?
Wenn Sie mindestens 50 Beschäftigte haben, sehr wahrscheinlich ja, da Maschinenbau zu den erfassten Sektoren zählt. Auch darunter kann es zutreffen, wenn Jahresumsatz und Bilanzsumme jeweils zehn Millionen Euro übersteigen. Das BSI stellt eine Betroffenheitsprüfung bereit, deren Ergebnis allerdings nicht rechtsverbindlich ist.
Was hat sich am 2. August 2026 geändert?
Die Transparenzpflichten sind wirksam geworden. Wer einen Chatbot, einen Sprachassistenten oder KI-generierte Inhalte einsetzt, muss das kenntlich machen. Die vollen Hochrisiko-Pflichten wurden dagegen verschoben.
Ist ein lokal betriebenes chinesisches Modell datenschutzkonform?
Aus reiner Datenschutzsicht ja, weil keine Daten den Betrieb verlassen. Die Herkunft der Trainingsdaten, mögliche Verzerrungen und die geopolitische Abhängigkeit gehören trotzdem in die Risikobewertung. Bei Nutzung der Anbieter-Cloud sieht die Bewertung anders aus.
Was ist eine Prompt Injection?
Eine versteckte Anweisung in einem Dokument, die das Modell übernimmt. Relevant wird das, sobald Sie fremde Unterlagen automatisch auswerten, etwa Lieferantenmails oder Kundenspezifikationen.
Brauchen wir einen Penetrationstest für das KI-System?
Ab dem Punkt, an dem das System an produktive Datenquellen angebunden ist oder Aktionen auslöst, ist das sinnvoll. Das BSI hat dafür einen eigenen Leitfaden veröffentlicht.
Wer im Betrieb ist verantwortlich?
Die Geschäftsführung, und zwar nach dem novellierten BSI-Gesetz ausdrücklich nicht vollständig delegierbar. Die operative Umsetzung liegt bei der IT, die fachliche Verantwortung im jeweiligen Bereich.
Dieser Beitrag dient der Orientierung und ersetzt keine Rechtsberatung. Fristen, Paragraphen und Einordnungen geben den Stand zum Redaktionszeitpunkt wieder und können sich ändern; die Anwendung auf den Einzelfall erfordert eine fachliche Prüfung. Lassen Sie jeden der oben markierten Punkte im Zweifel juristisch prüfen, bevor Sie ein System in Betrieb nehmen oder Kunden gegenüber Zusagen machen.
Wenn Sie unsicher sind, welche der Fragen für Sie überhaupt relevant sind, klären wir das in einem Gespräch vor. Termin vereinbaren.