- Für Finanzunternehmen ist die KI-Plattform ein IKT-Drittanbieter im Sinne von DORA, für Gesundheitsdaten gelten Art. 9 DSGVO und das Berufsgeheimnis.
- Ein ISO-27001-Zertifikat ist nur so viel wert wie sein Geltungsbereich, ein BSI-C5-Testat nur so viel wie Typ, Prüfzeitraum und Ausnahmen im Bericht.
- Eine EU-Region sagt, wo Daten liegen, nicht wer zugreifen kann: Unterauftragnehmer und Drittlandzugriff gehören in die Prüfung.
- Mit derselben Checkliste für jeden Kandidaten wird die Anbieterauswahl vergleichbar und gegenüber Aufsicht und Prüfern belegbar.
Ein Finanzdienstleister mit mehreren tausend Mitarbeitenden, ein Medizintechnikhersteller, eine Filialapotheke: Alle drei wollen KI im Alltag nutzen, und alle drei dürfen vertrauliche Daten nicht einfach in ein Chatfenster kopieren. Die Frage lautet dann nicht mehr, welches Modell das beste ist. Sie lautet, welche Plattform Sie gegenüber Aufsicht, Prüfern und Kunden verantworten können.
Dieser Artikel ordnet ein, was „reguliert“ für KI konkret bedeutet, welche Nachweise Sie von einem Anbieter verlangen können und wie Sie die Antworten vergleichbar machen. Am Ende steht eine Checkliste, die Sie direkt auf zwei oder drei Kandidaten anwenden können. Das ersetzt keine Rechtsberatung, spart aber die erste Runde Rückfragen.
1. Was „reguliert“ für KI bedeutet
„Reguliert“ ist kein einheitlicher Zustand. Je Branche greifen andere Gesetze, und sie wirken auf unterschiedliche Weise auf die KI-Plattform. Drei Gruppen kommen in der Praxis am häufigsten vor.
Finanzsektor: DORA
Für Banken, Versicherungen, Zahlungsinstitute, Wertpapierfirmen und weitere Finanzunternehmen gilt die Verordnung (EU) 2022/2554 (DORA) seit dem 17. Januar 2025. Für KI relevant ist vor allem das Management des Risikos durch IKT-Drittanbieter: Eine KI-Plattform ist ein solcher Drittanbieter. Die Verordnung verlangt unter anderem eine Risikobewertung vor Vertragsschluss, Mindestinhalte im Vertrag, ein Register der Drittanbieter-Verträge und eine Ausstiegsstrategie. In Deutschland ist die BaFin zuständig, in Österreich die FMA. Beide erwarten, dass Sie nachweisen können, warum Sie einen Anbieter gewählt haben.
Gesundheit: besondere Kategorien und Berufsgeheimnis
Gesundheitsdaten gehören nach Art. 9 der DSGVO zu den besonderen Kategorien personenbezogener Daten. Ihre Verarbeitung ist grundsätzlich untersagt und nur bei einer passenden Ausnahme zulässig, etwa für Versorgung und Behandlung im Gesundheitsbereich. Hinzu kommt das Berufsgeheimnis, in Deutschland etwa nach § 203 StGB. Wer als Apotheke, Praxis oder Hersteller mit Patientendaten arbeitet, muss deshalb nicht nur den Auftragsverarbeiter vertraglich binden, sondern auch klären, wer innerhalb des Anbieters überhaupt Zugriff auf Inhalte haben kann.
Ein eigener Punkt ist die Medizinprodukte-Regulierung. Software kann nach der Verordnung (EU) 2017/745 (MDR) selbst ein Medizinprodukt sein, wenn der Hersteller ihr eine medizinische Zweckbestimmung gibt. Ein interner Assistent, der Dokumente zusammenfasst, ist etwas anderes als eine KI, die Diagnosen vorschlägt. Diese Grenze sollten Sie vor der Plattformwahl ziehen, nicht danach.
Kritische Infrastruktur und NIS2
Betreiber wesentlicher und wichtiger Einrichtungen unterliegen der NIS-2-Richtlinie (EU) 2022/2555. Sie verlangt Risikomanagement auch für die Lieferkette. Ein KI-Anbieter ist Teil dieser Lieferkette. Wie die Umsetzung in Österreich aussieht, beschreibt unser Beitrag zu NIS2 und NISG 2026.
2. Welche Nachweise ein Anbieter liefern sollte
Anbieter werben gern mit Siegeln. Entscheidend ist, was hinter dem Siegel geprüft wurde. Drei Nachweise begegnen Ihnen fast immer.
ISO/IEC 27001
Die Norm ISO/IEC 27001 beschreibt ein Managementsystem für Informationssicherheit. Ein Zertifikat sagt zunächst nur, dass ein Managementsystem existiert und von einer Zertifizierungsstelle geprüft wurde. Fragen Sie deshalb nach dem Geltungsbereich. Deckt er die konkrete KI-Plattform, das Rechenzentrum und den Support ab, oder nur das Büro und die Verwaltung des Anbieters? Verlangen Sie das Zertifikat mit Geltungsbereich und, wenn möglich, die Erklärung zur Anwendbarkeit.
BSI C5
Der Kriterienkatalog C5 des BSI ist ein Anforderungskatalog für Cloud-Dienste. Ein C5-Testat ist kein Zertifikat des BSI: Der Anbieter beauftragt einen Wirtschaftsprüfer, der die Kriterien prüft. Das BSI selbst bewertet die Berichte nicht, sie müssen Sie also selbst lesen. Der Katalog wurde 2025/26 überarbeitet, auf der BSI-Seite stehen C5:2026 und C5:2020 nebeneinander. Fragen Sie deshalb, nach welcher Fassung geprüft wurde.
Wichtig ist der Unterschied zwischen Typ 1 und Typ 2. Ein Typ-1-Bericht bestätigt, dass die Maßnahmen zu einem Stichtag angemessen gestaltet sind. Ein Typ-2-Bericht prüft zusätzlich, ob sie über einen Zeitraum tatsächlich wirksam waren. Für regulierte Branchen ist Typ 2 die belastbarere Aussage. Prüfen Sie außerdem im Bericht, welche Dienste in der Systembeschreibung genannt sind und welche Ausnahmen der Prüfer vermerkt hat.
SOC 2
SOC 2 ist ein Prüfstandard aus den USA, herausgegeben vom Berufsverband AICPA. Er kennt ebenfalls Typ-1- und Typ-2-Berichte. Er ersetzt weder C5 noch eine DSGVO-Prüfung, ist aber ein gutes Zeichen, wenn der Anbieter international arbeitet. Lesen Sie auch hier den Bericht und nicht nur die Pressemitteilung.
- Zertifikat oder Testat ist gültig und nicht abgelaufen.
- Geltungsbereich nennt genau die Plattform, die Sie einsetzen wollen.
- Prüfzeitraum und Prüfer sind angegeben.
- Offene Abweichungen sind im Bericht dokumentiert und erklärt.
3. Vertrag und Datenfluss: AVV, Residenz, Löschung
Zertifikate beantworten die Frage nach dem Sicherheitsniveau. Die Frage nach dem Datenfluss beantworten sie nicht. Dafür brauchen Sie konkrete Zusagen im Vertrag und in der technischen Dokumentation.
Auftragsverarbeitung und Unterauftragnehmer
Verarbeitet der Anbieter personenbezogene Daten in Ihrem Auftrag, ist ein Vertrag nach Art. 28 der DSGVO nötig. Verlangen Sie die vollständige Liste der Unterauftragnehmer, also etwa des Modellanbieters und des Rechenzentrumsbetreibers, und eine Regelung, wie Sie über Änderungen informiert werden. Gerade bei KI-Plattformen steckt oft ein zweiter Anbieter dahinter, dessen Bedingungen ebenfalls gelten.
Datenresidenz und Drittlandzugriff
Eine „EU-Region“ beschreibt, wo Daten liegen, nicht unbedingt, wer darauf zugreifen kann. Klären Sie, wo das Modell die Anfragen rechnet, wo Protokolle und Backups liegen, und ob der Anbieter oder ein Unterauftragnehmer einem Drittstaat unterliegt. Übermittlungen in Drittländer folgen Art. 44 ff. DSGVO. Mehr zur Einordnung finden Sie in unserem Beitrag zu DSGVO-konformen KI-Tools.
Training, Löschung und Protokollierung
- Werden Ihre Eingaben zum Training von Modellen genutzt? Die Antwort muss im Vertrag stehen, nicht nur in den Nutzungsbedingungen.
- Wie lange werden Eingaben, Ausgaben und Dateien gespeichert, und wie läuft die Löschung bei Vertragsende ab?
- Wer protokolliert was? Für Aufsicht und interne Revision brauchen Sie nachvollziehbare Nutzungsprotokolle, ohne dass dadurch Inhalte unnötig lange gespeichert werden.
- Gibt es Rollen und Rechte, mit denen Sie festlegen, welche Abteilung welche Daten und Modelle nutzen darf?
4. Hochrisiko nach KI-Verordnung: wann es relevant wird
Die KI-Verordnung (EU) 2024/1689 ordnet KI-Systeme nach Risiko. Für die Plattformwahl zählt, wofür Sie die KI einsetzen, nicht welches Produkt Sie kaufen. Ein Assistent für Texte und Recherche ist in der Regel kein Hochrisiko-System. Anders sieht es aus, wenn die KI über Menschen mitentscheidet. Anhang III nennt unter anderem die Bewertung der Kreditwürdigkeit natürlicher Personen, die Risikobewertung und Preisgestaltung bei Lebens- und Krankenversicherungen sowie den Einsatz in Personalauswahl und Bewerbermanagement.
Bei den Fristen hat sich zuletzt etwas verschoben: Die Pflichten für Hochrisiko-Systeme nach Anhang III gelten laut Digital Omnibus erst ab dem 2. Dezember 2027. Die Hintergründe stehen im Beitrag zur Verschiebung der Hochrisiko-Pflichten, einen Überblick über die Risikoklassen bietet unser Artikel zum EU AI Act. Für die Anbieterauswahl heißt das: Fragen Sie schon jetzt, ob der Anbieter Protokollierung, Dokumentation und menschliche Aufsicht technisch unterstützt. Diese Eigenschaften lassen sich später nur mühsam nachrüsten.
5. SaaS, Private Cloud oder On-Prem
Dieselbe Plattformfrage lässt sich auf drei Arten beantworten. Keine ist grundsätzlich richtig, sie unterscheiden sich in Kontrolle, Aufwand und Nachweisbarkeit.
| Variante | Stärken | Worauf achten |
|---|---|---|
| SaaS mit EU-Region | Schneller Start, Betrieb und Updates beim Anbieter, oft fertige Nachweise wie ISO 27001 oder C5 | Unterauftragnehmer, Zugriff aus Drittstaaten, Geltungsbereich der Zertifikate, Exit-Möglichkeit |
| Private Cloud | Eigener Mandant oder eigenes Konto bei einem Cloud-Anbieter, mehr Kontrolle über Netz, Schlüssel und Standort | Sie tragen mehr Betriebsverantwortung. Prüfen Sie, wer das Modell bereitstellt und wie es abgesichert ist |
| On-Prem-Modell | Daten verlassen das eigene Netz nicht, volle Kontrolle über Protokolle und Löschung | Eigene Hardware, Betrieb und Sicherheit. Offene Modelle sind oft kleiner, das muss zur Aufgabe passen |
In Projekten zeigt sich oft: Nicht jede Abteilung braucht dieselbe Variante. Ein allgemeiner Assistent für Büroarbeit kann als SaaS laufen, während ein Fachverfahren mit Patienten- oder Kundendaten in einer abgeschotteten Umgebung läuft. Wie sich so eine Aufteilung technisch umsetzen lässt, besprechen wir bei der KI-Integration.
6. Checkliste für die Anbieterauswahl
Die folgende Tabelle ist als Prüfliste gedacht. Fordern Sie jeden Nachweis schriftlich an und legen Sie die Antworten nebeneinander. So wird aus einem Gefühl ein Vergleich.
| Nachweis | Worauf achten |
|---|---|
| ISO/IEC 27001-Zertifikat | Geltungsbereich umfasst die Plattform, Gültigkeit, Zertifizierungsstelle |
| BSI-C5-Testat | Typ 1 oder Typ 2, Prüfzeitraum, geprüfte Fassung, Ausnahmen im Bericht |
| SOC-2-Bericht | Typ 2 bevorzugt, Prüfzeitraum, genannte Dienste |
| Auftragsverarbeitungsvertrag | Art. 28 DSGVO vollständig, Weisungsbindung, Prüfrechte, Unterstützung bei Betroffenenanfragen |
| Unterauftragnehmer | Vollständige Liste mit Standorten, Informationspflicht bei Änderungen |
| Datenresidenz | Standort von Rechnen, Speicherung, Protokollen und Backups, Zugriff aus Drittstaaten |
| Training mit Kundendaten | Vertraglicher Ausschluss, nicht nur Hinweis in den Nutzungsbedingungen |
| Löschung und Aufbewahrung | Fristen für Eingaben und Dateien, Löschnachweis bei Vertragsende |
| Protokollierung und Rollen | Nachvollziehbare Nutzungsprotokolle, Rechtekonzept, Export für Revision |
| Vertrag für Finanzunternehmen | Mindestinhalte nach DORA, Prüf- und Auskunftsrechte, Ausstiegsregelung |
| Hochrisiko-Einsatz | Unterstützung für Dokumentation, Aufsicht und Protokollierung nach KI-Verordnung |
Das gilt auch, wenn Sie Alternativen zu einer bestimmten Plattform suchen, etwa zu Langdock: Vergleichen Sie nicht Funktionslisten, sondern legen Sie dieselbe Tabelle an jeden Kandidaten. Wo ein Nachweis fehlt, ist das keine Absage, aber eine Frage an den Anbieter, die schriftlich beantwortet werden muss.
Hinweis: Lassen Sie Ergebnis und Vertrag von Ihrer Rechtsberatung oder Ihrem Datenschutzbeauftragten gegenlesen. Die Tabelle ordnet die Fragen, sie ersetzt keine rechtliche Bewertung im Einzelfall.
Fazit
KI in regulierten Branchen scheitert selten an der Technik, sondern an fehlenden Nachweisen. Wer vorab klärt, welche Vorschriften für den eigenen Einsatz gelten, und von jedem Anbieter dieselben Belege verlangt, kommt zu einer Entscheidung, die sich vor Aufsicht und Prüfern erklären lässt.
Wenn Sie diese Auswahl strukturiert vorbereiten wollen, helfen wir mit der KI-Beratung, von der Einordnung Ihres Einsatzfalls bis zum Vergleich der Anbieter. Und für den Weg danach, also Anbindung und Betrieb, mit der KI-Integration.