Für KI in der Arzneimittelherstellung zeichnet Annex 22 den Prüfweg vor
Mit Annex 22 bekommt der EU-GMP-Leitfaden erstmals eigene Regeln für künstliche Intelligenz. Der Entwurf von 2025 ist noch nicht verabschiedet, die Arbeit daran läuft. Seine Grundzüge stehen aber fest genug, um sie heute einzuplanen: eine genau beschriebene Zweckbestimmung, unabhängige Testdaten, vorab festgelegte Akzeptanzkriterien und eine Überwachung im Betrieb. Dieser Beitrag zeigt, was der Entwurf verlangt, wo er noch offen ist und was Sie schon jetzt vorbereiten können.
Viele Hersteller erproben künstliche Intelligenz dort, wo Menschen heute prüfen, sortieren oder einschätzen: bei der optischen Kontrolle von Behältnissen, bei der Vorhersage von Prozesswerten oder beim Einordnen von Abweichungen. Sobald eine solche Anwendung über Produktqualität oder Freigabe mitentscheidet, stellt sich die Frage, wie man sie GMP-gerecht nachweist. Der EU-GMP-Leitfaden beantwortet sie künftig in einem eigenen Anhang, dem Annex 22.
Grundlage: ein neuer Anhang, noch im Entwurf
Die Europäische Kommission hat den Entwurf von Annex 22 „Artificial Intelligence“ am 7. Juli 2025 zusammen mit Überarbeitungen von Kapitel 4 (Dokumentation) und Annex 11 (computergestützte Systeme) zur Konsultation gestellt, Stellungnahmen waren bis zum 7. Oktober 2025 möglich. Annex 22 ergänzt Annex 11 für Systeme, in die KI-Modelle eingebettet sind. Er ersetzt ihn nicht.
Verabschiedet ist der Anhang noch nicht. Im Leitfaden der Kommission (EudraLex Band 4) steht Annex 11 weiterhin in der Fassung von 2011, ein Annex 22 ist dort nicht aufgeführt. Die Arbeitsgruppe der GMP-Inspektoren bei der Europäischen Arzneimittel-Agentur (EMA) nennt in ihrem Arbeitsplan das vierte Quartal 2026 als Ziel, um der Kommission einen Endtext vorzulegen. Im Protokoll einer EMA-Arbeitsgruppe vom Juni 2026 ist von einer Veröffentlichung Anfang 2027 die Rede. Ein Datum für das Inkrafttreten und eine Übergangsfrist sind bislang nicht bekannt.
Was der Entwurf erfasst
Der Entwurf gilt für KI-Modelle in kritischen Anwendungen, also dort, wo sie sich unmittelbar auf Patientensicherheit, Produktqualität oder Datenintegrität auswirken. Gemeint sind Modelle des maschinellen Lernens, die ihre Funktion durch Training mit Daten erhalten haben, nicht durch ausdrückliche Programmierung. Klassische regelbasierte Software bleibt Sache von Annex 11.
Zwei Einschränkungen prägen den Entwurf. Erfasst sind nur statische Modelle, die sich im Betrieb nicht selbst weiterentwickeln, und nur Modelle mit deterministischer Ausgabe, die auf dieselbe Eingabe immer dieselbe Antwort geben. Selbstlernende Modelle, Modelle mit wahrscheinlichkeitsbasierter Ausgabe sowie generative KI und große Sprachmodelle sollen nach dem Entwurf in kritischen GMP-Anwendungen nicht eingesetzt werden. In nicht kritischen Anwendungen bleiben sie möglich, wenn qualifiziertes Personal jede Ausgabe verantwortet, also ein Mensch in der Entscheidungsschleife steht (human-in-the-loop).
Was der Entwurf verlangt
Der Kern des Entwurfs ist ein Testverfahren, das an eine gute klinische Studie erinnert: erst die Regeln festlegen, dann mit unberührten Daten prüfen.
- Zweckbestimmung: Die Aufgabe des Modells wird genau beschrieben, einschließlich aller häufigen und seltenen Varianten der Eingabedaten. Ein Prozessexperte verantwortet diese Beschreibung, und sie ist vor dem Abnahmetest freigegeben.
- Akzeptanzkriterien: Messgrößen wie Sensitivität, Spezifität oder F1-Wert werden vorab festgelegt, gegebenenfalls getrennt nach Untergruppen. Das Modell muss mindestens so gut sein wie der Prozess, den es ersetzt. Dessen Leistung muss also bekannt sein.
- Testdaten: Sie bilden die gesamte Bandbreite der Zweckbestimmung ab, sind groß genug für eine statistisch belastbare Aussage und sorgfältig gekennzeichnet. Mit generativer KI erzeugte Testdaten empfiehlt der Entwurf nicht.
- Unabhängigkeit: Testdaten dürfen weder in Entwicklung noch Training verwendet worden sein. Sie liegen zugriffsgeschützt mit Audit-Trail, und wer sie gesehen hat, trainiert dasselbe Modell nur im Vier-Augen-Prinzip mit.
- Erklärbarkeit und Konfidenz: Beim Test wird festgehalten, welche Merkmale zu einer Entscheidung beigetragen haben, und die Konfidenz jeder Ausgabe wird protokolliert. Bei zu geringer Konfidenz soll das Modell „unentschieden“ melden können, statt zu raten.
- Betrieb: Modell, System und Prozess stehen unter Änderungs- und Konfigurationskontrolle. Leistung und Eingabedaten werden laufend überwacht, um Verschiebungen früh zu erkennen, etwa eine veränderte Beleuchtung an einer Kamerastation.
Gleich ob das Modell selbst entwickelt oder zugekauft ist: Die Dokumentation muss dem Arzneimittelhersteller vorliegen und von ihm geprüft sein.
Was sich noch bewegt
Die Abgrenzung nach Technik ist der umstrittenste Teil des Entwurfs. Laut dem Bericht der EMA zu einem Expertenworkshop am 30. Juni 2026 sprachen sich Stellungnahmen aus der Konsultation dafür aus, auch Sprachmodelle und generative KI in GMP-Anwendungen zuzulassen. Die Arbeitsgruppe diskutiert deshalb, den Anwendungsbereich auf lernende, wahrscheinlichkeitsbasierte und generative Modelle zu erweitern, sofern eine dokumentierte, risikobasierte Kontrollstrategie sie trägt. Entschieden ist das nicht. Die Behörden fragten im Workshop ausdrücklich nach, ob Phänomene wie erfundene Antworten von Sprachmodellen eine eigene Art von Fehler sind, die besondere Maßnahmen braucht.
Für die Planung heißt das: Die Anforderungen an Zweckbestimmung, Testdaten und Überwachung werden nach unserer Einschätzung bleiben. Offen ist vor allem, welche Modelltypen in kritischen Anwendungen erlaubt sein werden.
Vorgehen: heute schon vorbereiten
- Bestand aufnehmen: Welche KI-Anwendungen sind in Herstellung und Qualitätskontrolle im Einsatz oder geplant, und welche berühren Produktqualität, Patientensicherheit oder Datenintegrität?
- Ausgangsleistung messen: Wie gut arbeitet der heutige, meist manuelle Prozess? Ohne diese Zahl lässt sich das Kriterium „mindestens so gut“ nicht belegen.
- Testdaten früh trennen: Ein unabhängiger, zugriffsgeschützter Testdatensatz lässt sich später kaum nachträglich herstellen. Er gehört an den Anfang des Projekts.
- Lieferanten einbinden: Bei zugekauften Modellen vertraglich sichern, dass Trainings- und Testdokumentation zugänglich ist.
- Betrieb mitplanen: Messgrößen für Leistung und Datendrift festlegen und in die bestehende Änderungssteuerung einbinden, wie es das Qualitäts-Risikomanagement nach ICH Q9 ohnehin vorsieht.
Einordnung
Annex 22 betrifft die Herstellung von Arzneimitteln und Wirkstoffen. Für KI in Medizinprodukten gelten andere Regeln, für KI in klinischen Prüfungen ebenfalls. Auch innerhalb der Herstellung greift der Entwurf nur bei kritischen Anwendungen: Ein Sprachmodell, das Schulungsunterlagen entwirft, die ein Mensch prüft, fällt nach unserer Einschätzung nicht unter die strengen Testanforderungen. Und ein Entwurf ist kein geltendes Recht. Bis zur Endfassung ist Annex 11 in der Fassung von 2011 der verbindliche Maßstab, zusammen mit dem Risikomanagement, das Annex 11 schon heute über den gesamten Lebenszyklus verlangt. Wer einzelne Anforderungen des Entwurfs jetzt umsetzt, tut das freiwillig und sollte damit rechnen, dass sich Einzelheiten noch ändern.
Fazit
Annex 22 übersetzt bekannte GMP-Grundsätze in die Sprache des maschinellen Lernens: festgelegter Zweck, unabhängiger Nachweis, kontrollierter Betrieb. Welche Modelltypen am Ende erlaubt sind, ist offen. Die Testdisziplin, die der Entwurf verlangt, lohnt sich aber schon heute, denn sie lässt sich nachträglich kaum herstellen.
Quellen: Europäische Kommission: Stakeholders’ Consultation on EudraLex Volume 4 – Good Manufacturing Practice Guidelines: Chapter 4, Annex 11 and New Annex 22, Konsultation vom 7. Juli bis 7. Oktober 2025. Europäische Kommission: EudraLex Volume 4, Annex 22 „Artificial Intelligence“, Entwurf zur Konsultation, 2025 — Abschnitte 1, 2.2, 3.1 bis 3.3, 4.1 bis 4.3, 5.1 bis 5.6, 6.1 bis 6.5, 7.2, 8, 9 und 10.1 bis 10.5. Europäische Kommission: EudraLex Volume 4, Annex 11 „Computerised Systems“, 2011 (geltende Fassung). Europäische Arzneimittel-Agentur: The 3-year work plan for the Inspectors Working Group, GMDP Inspectors Working Group, Januar 2026 bis Dezember 2028, 2026. Europäische Arzneimittel-Agentur: Report, GMP Multistakeholder workshop on expert contributions to artificial intelligence guidance development (Annex 22), 30. Juni 2026, EMA/156789/2026. HMA/EMA Joint Network Data Steering Group: Minutes of the meeting on 16 June 2026, EMA/143308/2026. ICH: Q9(R1) Quality Risk Management, 2023.
Wir beginnen mit einer Prozessanalyse und zeigen belegbar, was möglich ist.
Gespräch vereinbaren