KI, Identität und Datenschutz: Wo sollten wir die Grenze ziehen?

Für die meisten Nutzer war für den Zugang zu einer KI-Anwendung bisher kaum mehr als eine E-Mail-Adresse und ein Passwort erforderlich. Nun beginnt auch die staatlich ausgestellte Identität Teil dieses Prozesses zu werden.

Warum Anthropic eine Identitätsprüfung einführt

Anthropic führt für eine begrenzte Anzahl von Anwendungsfällen eine Identitätsprüfung ein. Nach Angaben des Unternehmens können Nutzer aufgefordert werden, ihre Identität zu bestätigen, wenn sie auf bestimmte Funktionen zugreifen, während routinemäßiger Überprüfungen der Plattformintegrität oder im Rahmen weiterer Sicherheits- und Compliance-Maßnahmen. Die Verifizierung kann einen amtlichen Lichtbildausweis sowie ein Live-Selfie erfordern. Die Durchführung übernimmt dabei Persona im Auftrag von Anthropic.

Anthropic verlangt nicht von allen Claude-Nutzern einen Identitätsnachweis. Das Unternehmen beschreibt zwar die allgemeinen Situationen, in denen eine Verifizierung erforderlich sein kann, veröffentlicht jedoch nicht die genauen Kriterien, nach denen einzelne Konten ausgewählt werden. Dadurch entsteht eine wichtige Transparenzfrage: Sollten Nutzer erfahren, warum sie ausgewählt wurden und welche Möglichkeiten zur Überprüfung oder Anfechtung einer Entscheidung bestehen?

Für legitime Nutzer kann eine fehlgeschlagene oder irrtümlich ausgelöste Verifizierung zudem den Zugriff auf ein Konto verzögern, das wichtige Arbeitsunterlagen oder gespeicherte Gespräche enthält.

Die Beweggründe sind nachvollziehbar. Je leistungsfähiger KI-Systeme werden, desto wichtiger wird es, Betrug, Missbrauch und Fehlverhalten zu verhindern. Modelle, die Software entwickeln, Schwachstellen analysieren oder komplexe Forschungsarbeiten unterstützen können, benötigen möglicherweise strengere Schutzmaßnahmen als herkömmliche Webanwendungen.

Dennoch wirft diese Entwicklung eine grundlegendere Frage auf: Was verändert sich, wenn der Zugang zu KI davon abhängt, dass Nutzer ihre Identität nachweisen?

Identitätsprüfungen sind im Bankwesen und bei öffentlichen Dienstleistungen längst üblich. Dass sie nun auch bei KI-Anwendungen für Verbraucher Einzug halten, zeigt, dass leistungsfähige KI-Modelle zunehmend als Technologien betrachtet werden, deren Nutzung stärkere Kontrollen erfordert. Mit der Ausbreitung von KI in Bereichen wie Softwareentwicklung, Gesundheitswesen, Rechtsberatung, wissenschaftlicher Forschung, Cybersicherheit und staatlichen Einrichtungen wird die Frage, wer diese Systeme nutzt, immer wichtiger. Gleichzeitig wachsen mit strengeren Identitätsanforderungen auch die damit verbundenen Verantwortlichkeiten.

Wie eine verifizierte Identität das Bedrohungsmodell verändert

Eine Identitätsprüfung kann bestätigen, wer eine Person ist. Sie kann jedoch nicht vorhersagen, wie diese Person ein KI-System verwenden wird. Ein verifizierter Nutzer kann weiterhin böswillig handeln, während ein pseudonymer Nutzer verantwortungsvoll agieren kann. Identitätsprüfungen können die Rechenschaftspflicht unterstützen, ersetzen jedoch keine Nutzungsbeschränkungen, Zugriffskontrollen, Überwachungsmechanismen oder Prozesse zur Reaktion auf Sicherheitsvorfälle.

Darüber hinaus schafft die Identitätsprüfung selbst eine sensible Datenlieferkette. Im Fall von Anthropic erhebt und speichert Persona Ausweisbilder und Selfies. Anthropic bleibt dabei der Verantwortliche für die Datenverarbeitung und kann bei Bedarf über Persona auf die Verifizierungsdaten zugreifen, erklärt jedoch, diese Bilder nicht in den eigenen Systemen zu speichern. Ebenso gibt Anthropic an, dass diese Daten nicht zum Training seiner Modelle verwendet werden. Das Risiko beschränkt sich daher nicht auf eine einzelne Datenbank, sondern erstreckt sich über den KI-Anbieter, den Identitätsdienstleister, deren technische Schnittstellen, Aufbewahrungsrichtlinien und autorisierte Mitarbeitende.

Ein KI-Konto kann bereits heute Unterhaltungen, Eingaben und hochgeladene Dateien enthalten. In Zukunft könnte es zusätzlich mit einer verifizierten Identität, Unternehmensberechtigungen, jahrelanger beruflicher Tätigkeit, persönlichen Präferenzen und einem langfristigen KI-Gedächtnis verknüpft sein.

Der Wert eines KI-Kontos wird daher nicht mehr ausschließlich durch seine Fähigkeiten bestimmt. Zunehmend wird er auch durch das Wissen, das es enthält, und die Identität, die es repräsentiert, definiert.

Sollten KI-Anbieter die Identitätsprüfung mit amtlichen Ausweisen kontrollieren?

Sollte jede KI-Plattform selbst entscheiden, wie amtliche Identitätsnachweise überprüft und gespeichert werden?

Sollten Nutzer sensible Dokumente immer wieder bei verschiedenen Diensten einreichen müssen?

Oder sollte die Branche datenschutzfreundliche Verfahren entwickeln, mit denen Menschen bestimmte Eigenschaften wie Alter, Berechtigung, Staatsangehörigkeit oder Rechtsraum nachweisen können, ohne ein vollständiges Identitätsdokument offenlegen zu müssen?

Diese Unterscheidung gewann insbesondere im Juni 2026 an Bedeutung, als die US-Regierung Anthropic anwies, den Zugang zu Claude Fable 5 und Claude Mythos 5 für ausländische Staatsangehörige innerhalb und außerhalb der Vereinigten Staaten auszusetzen. Da Anthropic nach eigenen Angaben die Staatsangehörigkeit der Nutzer nicht kurzfristig zuverlässig überprüfen konnte, sperrte das Unternehmen zunächst beide Modelle für alle Nutzer. Die Einschränkungen wurden am 30. Juni aufgehoben. Claude Fable 5 war ab dem 1. Juli wieder weltweit verfügbar, während der Zugang zu Claude Mythos 5 schrittweise und selektiver wiederhergestellt wurde.

Anthropic stellt in seinen öffentlichen Erklärungen jedoch keinen direkten Zusammenhang zwischen der Anordnung der US-Regierung und der allgemeinen Einführung der Identitätsprüfung her. Der Vorfall verdeutlicht dennoch, dass der Zugang zu fortschrittlicher KI künftig zunehmend von Faktoren wie Staatsangehörigkeit, Rechtsraum oder rechtlicher Berechtigung abhängen könnte.

Ob dies nun Ausdruck proaktiver Sicherheitsmaßnahmen, regulatorischer Vorbereitung oder einer Kombination aus beidem ist, eines wird zunehmend deutlich: Der Zugang zu leistungsfähiger KI entwickelt sich schrittweise von einem nahezu reibungslosen Zugang hin zu einem verifizierten oder berechtigungsbasierten Zugangsmodell.

Können Rechenschaftspflicht und Datenschutz nebeneinander bestehen?

Obwohl Identitätsprüfungen Betrug reduzieren, Missbrauch erschweren und gesetzliche Anforderungen unterstützen können, machen sie gleichzeitig Ausweisdokumente, biometrische Daten, Verifizierungsergebnisse, Kontohistorien und berufliche Informationen zu noch attraktiveren Angriffszielen.

Die Diskussion sollte sich daher nicht allein darauf konzentrieren, ob Identitätsprüfungen gut oder schlecht sind. Entscheidend ist vielmehr, ob das KI-Ökosystem einen Ausgleich zwischen Rechenschaftspflicht und Datenschutz sowie zwischen höherer Sicherheit und möglichst geringer Datenerhebung schaffen kann.

Vielleicht wird die Zukunft der künstlichen Intelligenz nicht nur davon bestimmt, wie intelligent ihre Modelle werden.

Vielleicht wird sie ebenso davon abhängen, wie wir Vertrauen schaffen und den Zugang zu diesen Systemen regeln.

Muss Rechenschaftspflicht zwangsläufig bedeuten, dass Menschen mehr persönliche Informationen preisgeben?

Oder können KI-Anbieter lediglich die minimal erforderlichen Informationen verifizieren und gleichzeitig alles andere schützen?

Genau diese Frage könnte sich als eine der prägenden Herausforderungen der Cybersicherheit im Zeitalter der künstlichen Intelligenz erweisen.