Blog

Ratgeber12 Min. Lesezeit

ChatGPT und Datenschutz in der Arztpraxis: was erlaubt ist und wie Patientendaten geschützt bleiben

Patientendaten gehören nicht in ein privates ChatGPT-Konto. Was Praxen mit ChatGPT dürfen, was Datenschutz und Schweigepflicht verlangen und wie Confidential Computing Daten bei der KI schützt.

Von Nik Steinbrügge

Titelgrafik mit dem Titel „ChatGPT und Datenschutz in der Arztpraxis“ und der Unterzeile „Was erlaubt ist und wie Patientendaten geschützt bleiben“. Darunter drei Karten: Vertrag: AVV und Schweigepflicht. Ort: Verarbeitung in der EU. Technik: Der Anbieter kann nicht mitlesen.

ChatGPT ist ein gutes Werkzeug für Texte ohne Patientenbezug. Patientendaten gehören aber nicht in ein privates ChatGPT-Konto. Die Bundesärztekammer hält Systeme wie ChatGPT für ungeeignet, um Patientendaten zu verarbeiten. Wer KI in der Arztpraxis mit Patientendaten nutzen will, braucht nach DSGVO und Schweigepflicht mindestens einen Vertrag zur Auftragsverarbeitung und einen Anbieter, der zur Verschwiegenheit verpflichtet ist. Am besten geschützt sind die Daten in einer Umgebung, in die der Anbieter technisch nicht hineinsehen kann.

Der Beitrag fasst zusammen, was Gesetze, Behörden, Bundesärztekammer und KBV bis zum 10. November 2026 zu Datenschutz und ChatGPT in der Arztpraxis veröffentlicht haben. Er ersetzt keine Rechtsberatung.

Wie viele Ärzt:innen nutzen ChatGPT?

ChatGPT ist das KI-Werkzeug, das Ärzt:innen im deutschsprachigen Raum am häufigsten nennen. In einer Online-Umfrage des Forums für medizinische Fortbildung (FOMF) unter 462 Ärzt:innen aus Deutschland, Österreich und der Schweiz von Juni bis August 2026 entfielen 36 von 76 freien Nennungen auf ChatGPT. Die Zahlen sind klein und zeigen eine Richtung, keine genaue Verbreitung. Das FOMF spricht von „Schatten-KI“, weil allgemeine Werkzeuge wie ChatGPT nicht für den medizinischen Einsatz gebaut sind.

Im Digital Health Report 2026 von Doctolib (YouGov, Sommer 2025, 204 Ärzt:innen und 210 MFA in Deutschland) gaben 50 % der Ärzt:innen und 30 % der MFA an, private KI-Werkzeuge wie ChatGPT für berufliche Recherchen zu nutzen. Gibt es im Team keine Regel, entscheidet also jede und jeder selbst, was in ein KI-Werkzeug geht. Die Datenschutzkonferenz geht davon aus, dass diese unkontrollierte Nutzung „derzeit Realität in vielen Unternehmen und Behörden ist“.

Darf ich Patientendaten in ChatGPT eingeben? Was DSGVO und § 203 StGB sagen

Nein, nicht in ein privates Konto und nicht in ein Konto ohne Vertrag zur Auftragsverarbeitung. Die Bundesärztekammer schreibt in ihrer Stellungnahme zu KI in der Medizin vom 14. Januar 2025: „Da Systeme wie ChatGPT keine datenschutzkonforme Umgebung bieten, sind sie nicht für die Verarbeitung von Patientendaten oder zur Dokumentation geeignet.“ Drei Regeln stehen dahinter:

  • Gesundheitsdaten sind besonders geschützt (Art. 9 DSGVO). Ihre Verarbeitung ist verboten, außer eine Ausnahme greift, etwa für die Behandlung unter der Verantwortung von Personen mit Schweigepflicht. Ein privates Konto bei einem Chatdienst deckt das nicht ab.
  • Die Schweigepflicht gilt auch gegenüber Dienstleistern (§ 203 StGB). Ärzt:innen dürfen einem Dienstleister Patientengeheimnisse nur offenbaren, soweit das für seine Mitarbeit erforderlich ist, und müssen dafür sorgen, dass er zur Geheimhaltung verpflichtet ist (Abs. 3 und 4). Die Bundesärztekammer stellt klar, dass das auch für „externe Betreiber von KI-Systemen“ gilt.
  • Ein Vertrag zur Auftragsverarbeitung ist Pflicht (Art. 28 DSGVO). Ein privates Konto hat keinen. Dort gelten die Nutzungsbedingungen des Anbieters.

Die Datenschutzkonferenz unterscheidet zwischen offenen und geschlossenen Systemen. In offenen Systemen verlassen die Eingaben „den geschützten Bereich“ der Nutzer:innen und können je nach Anwendung für andere Zwecke weiterverarbeitet werden. Ihr Fazit: „Technisch geschlossene Systeme sind daher aus datenschutzrechtlicher Sicht vorzugswürdig.“

Was in ein allgemeines KI-Werkzeug ohne Vertrag gehen kann und was nicht:

Darf hineinGehört nicht hinein
Aushang zu Urlaubszeiten oder ImpfaktionenNamen, Geburtsdatum, Versichertennummer
Stellenanzeige für eine MFADiagnosen, Befunde, Laborwerte, Medikation
Text für das QualitätsmanagementArztbriefe, Überweisungen, E-Mails von Patient:innen
Fachfrage ohne Bezug zu einer PersonScreenshots aus der Praxissoftware, Beschreibungen, die eine Person erkennbar machen

Den Namen wegzulassen reicht nicht. Die Hamburger Datenschutzaufsicht schreibt in ihrer Checkliste für KI-Chatbots: „Es reicht nicht, Namen und Anschriften aus der Eingabe zu entfernen.“ Wohnort, Alter, ein seltener Befund oder der Absender einer E-Mail können genügen, um die Person zu erkennen. Für die Antwort auf eine Patienten-E-Mail braucht es deshalb ein Werkzeug, das die Praxis mit Vertrag und Verpflichtung zur Verschwiegenheit eingeführt hat. Wie Praxen E-Mail, Chat und Formulare neben dem Telefon anbieten, steht im Ratgeber Digitale Patientenkommunikation.

Wofür ist ChatGPT in der Praxis gut?

Für alles ohne Patientenbezug: Aushänge, Stellenanzeigen, Texte für Website und Qualitätsmanagement, Recherchefragen ohne konkrete Person. Zwei Regeln gelten auch dann:

  • Ergebnisse prüfen. Sprachmodelle erfinden manchmal Fakten. Für die Bundesärztekammer sind sie deshalb Assistenz- und Vorschlagssysteme, deren Ausgaben „kritisch hinterfragt werden müssen“.
  • Praxis-Konten statt privater Konten. Die Datenschutzkonferenz empfiehlt, Beschäftigten für die berufliche Nutzung Geräte und Konten zu stellen. Die Hamburger Aufsicht rät davon ab, die private Nutzung dieser dienstlichen Konten zu erlauben.

ChatGPT-Datenschutzeinstellungen: Training, temporärer Chat, Löschen

Die Hamburger Aufsicht empfiehlt, Training und Verlauf auszuschalten. Bei ChatGPT stehen die Einstellungen unter „Data controls“, beschrieben in der englischsprachigen Hilfe von OpenAI.

  • Training ausschalten. Ist „Improve the model for everyone“ ausgeschaltet, nutzt OpenAI neue Unterhaltungen nicht mehr zum Training seiner Modelle. Sie bleiben aber im Verlauf gespeichert. Geben Sie zu einer Antwort Feedback, etwa mit Daumen hoch oder runter, kann OpenAI laut seiner Hilfe die ganze Unterhaltung trotzdem zum Training nutzen.
  • Temporärer Chat. Er erscheint nicht im Verlauf, legt keine Erinnerungen an und wird nicht zum Training genutzt. Aus Sicherheitsgründen kann OpenAI eine Kopie bis zu 30 Tage aufbewahren.
  • Chats löschen. Ein gelöschter Chat verschwindet sofort aus dem Verlauf und wird innerhalb von 30 Tagen endgültig aus den Systemen von OpenAI gelöscht, außer er wurde bereits von Ihrem Konto getrennt und anonymisiert, oder OpenAI muss ihn aus Sicherheits- oder rechtlichen Gründen aufbewahren.

In Arbeitsbereichen der Tarife Business, Enterprise und Edu nutzt OpenAI die Inhalte nach eigenen Angaben standardmäßig nicht zum Training.

Wichtig: Keine dieser Einstellungen macht es zulässig, Patientendaten in ChatGPT einzugeben. Sie ändern, was OpenAI mit den Daten tut, nicht, dass sie bei OpenAI landen. Vertrag zur Auftragsverarbeitung und Verpflichtung zur Verschwiegenheit nach § 203 StGB fehlen im privaten Konto weiterhin.

Welche Wege gibt es, KI in der Arztpraxis mit Patientendaten zu nutzen?

Vier Wege kommen vor. Der erste scheidet für Patientendaten aus, die anderen schützen die Daten per Vertrag, per Ort oder per Technik. Die Tabelle bewertet Arten von Angeboten, keine einzelnen Anbieter.

WegWer könnte während der Verarbeitung mitlesen?Was schützt die Daten?Was die Praxis prüft
Privates Konto, kostenlos oder bezahltder Anbieter, je nach Bedingungen auch für Trainingdie Nutzungsbedingungenfür Patientendaten nicht geeignet
Business-Tarif mit AVVtechnisch der Anbieter und sein Cloud-Dienstleister, vertraglich begrenztder VertragAVV, Verpflichtung nach § 203 StGB, Ort der Verarbeitung, C5-Testat
Lokale KI auf eigenem Serverwer Zugang zum Server hat, etwa der IT-Dienstleisterder OrtHardware, Updates, Sicherung, AVV mit dem IT-Dienstleister
Confidential Computing in der Cloudweder Betreiber noch Cloud-Dienstleister, wenn es richtig umgesetzt istdie Technik, dazu der Vertragwie Business-Tarif, dazu der Nachweis per Attestierung

Für Cloud-Lösungen sollten Sie sich laut KBV zwei Punkte bestätigen lassen: ein gültiges C5-Testat des Bundesamts für Sicherheit in der Informationstechnik (BSI), seit dem 1. Juli 2025 grundsätzlich vom Typ 2, und einen Ort der Datenverarbeitung in der EU, im EWR oder in einem Drittstaat mit Angemessenheitsbeschluss. Grundlage ist § 393 SGB V. Die Bundesärztekammer nennt „sichere Cloud-Umgebungen“ als datenschutzkonforme Alternative zu Systemen wie ChatGPT.

Unsere Sicht: Ein Vertrag verspricht, dass niemand hineinsieht. Technik sorgt dafür, dass niemand hineinsehen kann. Für Daten unter Schweigepflicht ziehen wir Technik vor, weil sie nicht davon abhängt, dass jemand ein Versprechen hält.

Confidential Computing: der Überblick für Praxen

Gespeicherte und übertragene Daten sind heute meist verschlüsselt. Zum Rechnen muss ein Computer sie entschlüsseln, und dann kann mitlesen, wer den Server betreibt. Bei Confidential Computing läuft die Verarbeitung deshalb in einem abgeschotteten Bereich, den die Hardware selbst abschirmt, einer Trusted Execution Environment (TEE). Das Confidential Computing Consortium, ein Zusammenschluss von Hardware- und Cloud-Firmen, definiert Confidential Computing als Schutz von Daten in Verarbeitung durch Berechnung in einer hardwarebasierten, attestierten TEE.

Die Technik ersetzt weder den AVV noch die Verpflichtung zur Verschwiegenheit noch Ihre eigene Prüfung, etwa ob eine Datenschutz-Folgenabschätzung nötig ist. Und sie verbirgt nur den Inhalt: Wann und wie viel verarbeitet wird, bleibt für den Betreiber sichtbar.

Woran erkennen Sie, dass ein Anbieter nicht mitlesen kann?

An einer Attestierung. Bevor Daten gesendet werden, erstellt die Hardware einen signierten Bericht darüber, welche Software im abgeschotteten Bereich läuft. Eine Software auf Ihrer Seite prüft diesen Bericht. Stimmt er nicht, gehen keine Daten raus. Ein Anbieter sollte erklären können, wer die Attestierung prüft und wann, am besten auf der Seite des Kunden und bei jeder Verbindung. Die Attestierung belegt, welche Software läuft, nicht, was diese Software tut. Fragen Sie deshalb auch, wer sie geprüft hat.

Der Kriterienkatalog C5:2026 des BSI, seit Ende März 2026 final, nennt Confidential Computing unter seinen neuen Schwerpunkten. Für Testate gilt die neue Fassung ab dem 1. Juni 2027.

KI-Schulung Pflicht? Was Art. 4 KI-Verordnung für Praxen heißt

Art. 4 schreibt keine Schulung mit Zertifikat vor. Pflicht sind Maßnahmen, die die KI-Kompetenz des Teams unterstützen, sobald die Praxis KI beruflich einsetzt.

Art. 4 gilt seit dem 2. Februar 2025 für Anbieter und Betreiber von KI-Systemen. Betreiber ist, wer ein KI-System in eigener Verantwortung verwendet, außer für eine persönliche, nicht berufliche Tätigkeit (Art. 3 Nr. 4). Eine Praxis, deren Team KI für die Arbeit nutzt, ist also Betreiber. Mit dem Digital Omnibus, in Kraft seit dem 27. Juli 2026, hat die EU die Pflicht entschärft: Betreiber müssen Maßnahmen ergreifen, die die Entwicklung der KI-Kompetenz ihres Personals unterstützen, ein bestimmtes Niveau aber nicht garantieren. Die KBV schreibt: „Alle Mitarbeitenden sollten die Betriebsanleitung kennen und die notwendige KI-Kompetenz zur Nutzung erworben haben.“ Eine kurze Einweisung mit Unterschrift auf der Teamregel ist ein einfacher Nachweis.

Was muss die Praxis sonst regeln?

  • Schriftliche Regeln. Die Datenschutzkonferenz empfiehlt, „klare interne Weisungen“ zu erteilen und zu dokumentieren, welche KI-Anwendungen zu welchen Zwecken eingesetzt werden dürfen, am besten mit Beispielen für erlaubte und verbotene Einsätze.
  • Datenschutz-Folgenabschätzung. Beim Einsatz von KI wird sie laut Datenschutzkonferenz „vielfach“ nötig sein.
  • Patient:innen informieren. Laut KBV reicht in der Regel eine Information, dass die Praxis KI-Systeme im Rahmen der Behandlung einsetzt, zum Beispiel über einen Aushang. Eine Einwilligung brauchen Sie, wenn die Daten auch dem Training des KI-Systems oder der Forschung dienen.

Vorlage: KI-Regel für Ihr Praxisteam

Die Vorlage folgt den Empfehlungen der Datenschutzkonferenz und der Checkliste der Hamburger Datenschutzaufsicht. Lassen Sie die Regel von Ihrer Datenschutzbeauftragten gegenlesen.

KI-Regel der Praxis [Name], Stand [Datum]

  1. Erlaubte Werkzeuge. Für Texte ohne Patientenbezug: [Werkzeug] mit Praxis-Konto. Für Aufgaben mit Patientendaten nur: [Werkzeug mit AVV und Verpflichtung zur Verschwiegenheit]. Andere KI-Werkzeuge nutzen wir für die Praxis nicht.
  2. Nie in ein allgemeines KI-Werkzeug. Namen, Geburtsdaten, Diagnosen, Befunde, Medikation, Arztbriefe, Patienten-E-Mails, Screenshots aus der Praxissoftware. Auch nicht ohne Namen, wenn der Zusammenhang die Person erkennbar macht.
  3. Konten. Nur Praxis-Konten mit der Funktionsadresse [E-Mail]. Keine privaten Konten für Praxisarbeit, keine private Nutzung der Praxis-Konten.
  4. Einstellungen. Das Training mit unseren Eingaben ist ausgeschaltet. Für einmalige Aufgaben nutzen wir den temporären Chat. Geprüft von [Name] am [Datum].
  5. Ergebnisse prüfen. Jede KI-Antwort ist ein Entwurf. Medizinische Aussagen prüft eine Ärztin oder ein Arzt.
  6. Pannen. Wer versehentlich Patientendaten eingegeben hat, meldet das sofort bei [Name], ohne Folgen für sich. Datenschutzbeauftragte: [Name].
  7. Einweisung. Alle lesen diese Regel und die Anleitung der eingesetzten Werkzeuge und bestätigen das mit Unterschrift. Wir besprechen die Regel einmal im Jahr und bei jedem neuen Werkzeug.

8 Fragen an jeden KI-Anbieter

Bevor Patientendaten in ein KI-Werkzeug gehen, sollte der Anbieter diese Fragen schriftlich beantworten:

  1. Schließen Sie mit uns einen Vertrag zur Auftragsverarbeitung nach Art. 28 DSGVO, und welche Unterauftragnehmer setzen Sie ein?
  2. Verpflichten Sie sich und Ihre Unterauftragnehmer zur Verschwiegenheit nach § 203 StGB?
  3. Wo werden die Daten gespeichert und wo verarbeitet die KI sie? Erwartet wird die EU, der EWR oder ein Land mit Angemessenheitsbeschluss.
  4. Welches C5-Testat liegt für den Cloud-Dienst vor? Seit dem 1. Juli 2025 Typ 2, ab dem 1. Juni 2027 nach C5:2026.
  5. Werden unsere Eingaben zum Training genutzt? Die Antwort sollte „nein“ lauten und im Vertrag stehen.
  6. Können Sie oder Ihr Cloud-Dienstleister unsere Eingaben während der Verarbeitung sehen?
  7. Wie weisen Sie das nach? Etwa mit einer Attestierung, die auf unserer Seite geprüft wird, bevor Daten gesendet werden.
  8. Was wird gespeichert, wie lange, und können wir es löschen?

Zu KI am Telefon: KI am Praxistelefon: was rechtlich gilt und KI-Telefonassistent in der Arztpraxis. Zu Rezeptbestellungen per E-Mail und Formular: Rezeptbestellung in der Arztpraxis.

Wo atmOS Health hilft

atmOS Health ist ein Posteingang für die ganze Praxis. Anrufe, E-Mails, Faxe, Scans, Chat und Formulare landen als Vorgänge an einem Ort. Die KI-Assistentin Ilka bereitet vor, Ihr Team entscheidet. Mehr dazu im Ratgeber Online-Rezeption für die Arztpraxis.

Zu den 8 Fragen: Hosting in Deutschland. Die KI läuft in Deutschland. Kein Training mit Kundendaten. Zugangsdaten zur Praxissoftware und Anrufaufnahmen werden zusätzlich mit einem eigenen Schlüssel je Praxis gespeichert. Jeder Schritt wird protokolliert. Die AVV schicken wir Ihnen auf Anfrage. Mehr unter Datenschutz und Sicherheit bei atmOS Health.

atmOS Health kostet ab 199 € im Monat je Arzt-Vollzeitstelle, zzgl. USt. (Preise). Gern zeigen wir es Ihnen in einer Demo.

Häufige Fragen

Sind die Daten bei ChatGPT sicher?

Auch gut geschützte Daten liegen beim Anbieter, und im privaten Konto fehlen AVV und Verpflichtung zur Verschwiegenheit. Damit ist die Eingabe von Patientendaten unzulässig, egal wie sicher die Server sind.

Welche Dinge sollte man nicht mit ChatGPT teilen?

Alles, was eine Patientin oder einen Patienten erkennbar macht, auch ohne Namen. Die Tabelle oben zeigt die typischen Fälle. Die Verbraucherzentralen raten grundsätzlich davon ab, vertrauliche oder besonders sensible Informationen in einen KI-Chatbot einzugeben, zum Beispiel Angaben zu Krankheiten, Diagnosen oder Medikamenten.

Was darf man ChatGPT nicht fragen?

Nichts, was eine Person erkennbar macht. Eine Fachfrage wie „Welche Wechselwirkungen hat Wirkstoff X?“ geht. „Was bedeutet der Befund von Frau M., 54, aus unserer Praxis?“ geht nicht.

Kann man ChatGPT ohne Bedenken nutzen?

Für Texte ohne Patientenbezug weitgehend ja, mit Praxis-Konto, ausgeschaltetem Training und geprüften Ergebnissen. Für Patientendaten nicht, auch nicht im Business-Tarif mit AVV allein: Dazu gehören die Verpflichtung nach § 203 StGB, der Ort der Verarbeitung und das C5-Testat.

Was droht bei einem Verstoß?

Wer Patientengeheimnisse unbefugt offenbart, riskiert nach § 203 StGB Freiheitsstrafe bis zu einem Jahr oder Geldstrafe. Dazu kommen Bußgelder und Schadenersatz nach der DSGVO (Art. 82 und 83) und berufsrechtliche Folgen. Datenschutzrechtlich verantwortlich bleibt die Praxis, auch wenn eine Mitarbeiterin den Fehler gemacht hat.

Quellen

Gelesen am 10. November 2026. Fragen Sie im Einzelfall Ihre Datenschutzbeauftragte, Ihre Ärztekammer oder Ihre Kassenärztliche Vereinigung.

Studien

Gesetze

Behörden und Ärzteschaft

OpenAI

Confidential Computing

Wie fanden Sie diesen Artikel?

Dieser Beitrag ist eine allgemeine Information und keine Rechtsberatung; er gibt den Stand vom 12. November 2026 wieder. Für Ihre Praxis verbindlich sind die Vorgaben Ihrer KV und Ihrer Ärztekammer; im Einzelfall hilft eine Rechtsanwältin oder ein Rechtsanwalt. Fehler gefunden? Schreiben Sie uns an support@atmos.build.

Weiterlesen