Die kurze Antwort
Die drei führenden KI-Labore erwägen, sich selbst zu kontrollieren — bevor Regulierer oder Kunden die Frage erzwingen. Am 15. September 2026 bestätigte OpenAI, dass es zusammen mit Anthropic und Google DeepMind seit mehreren Wochen über KI-Sicherheit spricht — darunter der Vorschlag einer gemeinsamen Branchen-Prüfstelle, die Frontier-Modelle vor dem Release evaluieren und bei Überschreiten einer gefährlichen Fähigkeitsschwelle eine branchenweite Verlangsamung fordern könnte. Die im Juli von Google DeepMinds Demis Hassabis ins Spiel gebrachte Idee ist lose an die FINRA im Finanzsektor angelehnt. Gegründet ist noch nichts, und das Vorhaben wirft offene Fragen zum Kartellrecht auf sowie dazu, wie es neben verbindlichem Recht bestehen würde.
Für Teams, die auf diesen Modellen aufbauen, ist das keine Zuschauergeschichte. Eine freiwillige Stelle nimmt Ihnen keine einzige Pflicht ab: In der EU unterliegen Sie weiterhin der KI-Verordnung, und überall tragen Sie das Risiko dessen, was Ihr Produkt tut. Wenn Governance zum Gate für Modell-Releases wird, gehört sie schon heute in Ihre Architektur und in Ihre Planung zur EU-KI-Verordnung-Compliance — nicht erst, wenn eine noch nicht existierende Stelle Urteile fällt.
Was die Labore bestätigt haben
Aus Gerücht wurde Gewissheit am Dienstag, dem 15. September 2026, als Chris Lehane, OpenAIs Chief Global Affairs Officer, einräumte, dass OpenAI, Anthropic und Google DeepMind „seit mehreren Wochen über KI-Sicherheit im Gespräch“ seien. Die Bestätigung folgte auf Berichte, wonach die drei Unternehmen an einer Prüfstelle für die Branche arbeiten, sowie auf einen wenige Tage zuvor veröffentlichten Essay von Anthropic-CEO Dario Amodei, der argumentierte, die Labore sollten sich abstimmen, um das Tempo der Frontier-KI zu drosseln und katastrophale Risiken zu vermeiden.
Der konkrete Vorschlag stammt aus dem Juli von Demis Hassabis, der Google DeepMind leitet. Seine Idee: eine US-geführte Aufsichtsorganisation — lose verglichen mit der Financial Industry Regulatory Authority (FINRA), die Broker unter staatlicher Rückendeckung überwacht —, die die leistungsfähigsten Modelle vor der Veröffentlichung prüfen und bei Auftreten einer wirklich gefährlichen Fähigkeit eine branchenweite Verlangsamung auslösen könnte. Hassabis sagte offen, dass das nicht billig würde: Die Finanzierung „müsste erheblich sein und wohl überwiegend aus der Industrie kommen, um technische Spitzenkräfte zu gewinnen und die nötige Rechenleistung für groß angelegte Tests bereitzustellen.“
Die Führungskräfte sind sich nicht einig, wie weit man gehen sollte. Sam Altman stellte die Abstimmung als gesund dar — „es ist großartig für unsere Branche zu sagen, dass wir zusammenkommen wollen … und sicherstellen, dass wir genug Zeit haben, das sicher zu tun“ — und deutete an, OpenAI werde externe Prüfer einbinden, um die Sicherheit zu überwachen. Amodei ging weiter und schlug eine staatliche Ausnahmeregelung vor, um die Abstimmung vor kartellrechtlicher Haftung zu schützen — eine Idee, die Lehane öffentlich relativierte, indem er argumentierte, für die Zusammenarbeit bei der Sicherheit brauche es keine Ausnahme. Diese Lücke — Selbstkontrolle der Branche versus staatlich verankerte Aufsicht — ist der ungelöste Kern des gesamten Vorhabens.
Selbstregulierung, kein Gesetz — warum der Unterschied zählt
Man liest „Prüfstelle“ und stellt sich einen Regulierer vor. Das ist sie nicht. Was die Labore besprechen, ist eine private, freiwillige Absprache unter Wettbewerbern — näher an einem Branchenkonsortium als an einer Behörde. Genau dieser Unterschied entscheidet alles. Eine freiwillige Stelle kann Evaluierungen veröffentlichen, Testnormen setzen und Gruppendruck erzeugen, aber niemanden zwingen; ein Unternehmen, dem ein Urteil nicht passt, kann im Prinzip aussteigen. Die Erfahrung mit Selbstregulierung in der Tech-Branche ist genau deshalb gemischt: Sie kommt schnell voran, wenn die Interessen übereinstimmen, und stockt, sobald sie auseinandergehen.
Hinzu kommt eine strukturelle Spannung, die die Labore bewältigen müssen: Sich abzustimmen, wann und ob Produkte veröffentlicht werden, ist genau das Verhalten, das das Kartellrecht kritisch prüft. Deshalb kam überhaupt eine staatliche Ausnahmeregelung auf, und deshalb zählt Lehanes Beharren, dass keine nötig sei — die rechtliche Grundlage ist tatsächlich ungeklärt. Und deshalb könnte sich das Vorhaben am Ende eher auf Gesetze als auf ein Handschlagversprechen stützen: OpenAI hat den vorgeschlagenen FRONTIER Act unterstützt, der unabhängige Verifizierungsorganisationen zur Überwachung der Sicherheit bei den größten Laboren vorschreiben würde. Ein Gesetz zu befürworten ist das stille Eingeständnis, dass ein rein freiwilliger Club womöglich nicht hält.
Für alle, die auf diesen Modellen aufbauen, lautet die praktische Erkenntnis: Nichts davon ist Compliance, auf die Sie sich verlassen können. Verbindliche Pflichten kommen weiterhin aus geltendem Recht — der EU-KI-Verordnung mit ihrem GPAI-Verhaltenskodex, dazu die DSGVO und Branchenregime wie DORA im Finanzwesen oder das BDSG bei der Datenverarbeitung. Eine private Prüfstelle könnte eines Tages Evaluierungen liefern, die Sie in Ihrer eigenen Dokumentation zitieren — das wäre nützlich. Aber sie steht nicht zwischen Ihrem Produkt und einem Regulierer, und sie haftet nicht dafür, wie Ihre Anwendung ein Modell nutzt. Diese Verantwortung bleibt bei Ihnen.
Was das für Softwareteams im DACH-Raum bedeutet
Die erste Konsequenz: Modell-Releases könnten weniger vorhersehbar werden. Wenn Sicherheitsprüfungen vor dem Release und freiwillige Verlangsamungen zur Norm werden, kann der Takt, an den sich Teams gewöhnt haben — ein stetiger Strom leistungsfähigerer Modelle und günstigerer Tokens —, ungleichmäßiger werden: Fähigkeiten werden gedeckelt, verzögert oder Region für Region ausgerollt. Wenn Ihre Roadmap stillschweigend annimmt, dass das nächste Frontier-Modell pünktlich kommt, trägt diese Annahme nun mehr Risiko. Bauen Sie darauf: Halten Sie Ihre Modellebene abstrahiert, verdrahten Sie nicht den neuesten Endpunkt eines Anbieters fest in die Kernlogik und machen Sie Anbieter- oder Versionswechsel zu einer Konfigurationsänderung statt zu einem Umbau. Diese Portabilität ist das Herz einer robusten GenAI-Integration.
Die zweite: „Der Anbieter hat es getestet“ ist keine Governance-Strategie. Selbst eine gut finanzierte Prüfstelle würde Basismodelle bewerten, nicht Ihre Anwendung — nicht Ihre Prompts, Ihre Retrieval-Daten, Ihre Tool-Berechtigungen oder die Entscheidungen, die Ihre Nutzer auf Basis der Ausgabe treffen. Ihre Pflichten aus der EU-KI-Verordnung und Ihren Branchenregeln knüpfen an das System an, das Sie ausliefern. Sie brauchen also eigene Evaluierungen, Schutzmaßnahmen und einen Prüfpfad — unabhängig davon, worauf sich die Labore einigen. Behandeln Sie die Sicherheitstests des Anbieters als einen Input, niemals als Ihren Compliance-Nachweis.
Drittens ist dies ein Beschaffungs- und Lieferantenrisiko-Signal, das man festhalten sollte. Die Labore sagen Ihnen öffentlich, dass Governance zu einer erstrangigen Randbedingung ihrer Produkte wird. Das gehört in Ihre Bewertung von KI-Anbietern: Fragen Sie, welchen Pre-Release-Tests und welcher unabhängigen Verifizierung sich ein Anbieter tatsächlich unterzieht, wie er mit Modell-Abkündigung und Versions-Pinning umgeht und was er zur Verfügbarkeit zusagt, wenn ein Release pausiert wird. Diese Fragen in Verträge und Architektur einzuspeisen — die Sorgfalt, die eine ausgereifte KI-, ML- und Datenpraxis mitbringt —, sichert Ihnen Handlungsspielraum, statt zu übernehmen, was die Frontier entscheidet.
Was jetzt zu tun ist
- Inventarisieren Sie Ihre Modellabhängigkeiten. Listen Sie jedes Frontier-Modell und jede Version auf, auf die Ihr Produkt setzt, und wo ein Wechsel wehtun würde. Release-Risiken, die Sie nicht kartiert haben, können Sie nicht steuern.
- Halten Sie die Integration portabel. Abstrahieren Sie das Modell hinter Ihrer eigenen Schnittstelle, damit ein verzögertes, gedeckeltes oder abgekündigtes Release zur Konfigurationsänderung wird, nicht zum Ausfall. Testen Sie mindestens einen Fallback-Anbieter in einem echten Pfad, nicht nur auf dem Papier.
- Verantworten Sie Ihre Evaluierungen selbst. Bauen und versionieren Sie eigene Sicherheits- und Qualitätstests für Ihren Anwendungsfall — Prompts, Daten, Tools, Grenzfälle —, statt sich auf die Tests des Anbieters auf Modellebene als Nachweis zu stützen.
- Verankern Sie Governance in geltendem Recht. Ordnen Sie Ihr KI-System der EU-KI-Verordnung (und ihrem GPAI-Verhaltenskodex), der DSGVO und jedem für Sie geltenden Branchenregime zu. Danach — nicht nach einem Branchenversprechen — fragt ein Prüfer oder Regulierer.
- Aktualisieren Sie Ihre Lieferantenprüfung. Nehmen Sie Fragen zu Pre-Release-Tests, unabhängiger Verifizierung, Versions-Pinning, Abkündigungsfristen und Verfügbarkeitszusagen in Ihre KI-Beschaffung und -Verträge auf.
Häufige Fragen
Was haben OpenAI, Anthropic und Google bestätigt?
Am 15. September 2026 bestätigte OpenAIs globaler Policy-Chef Chris Lehane, dass die drei Labore seit mehreren Wochen über KI-Sicherheit sprechen. Berichten zufolge umfassen die Gespräche den Vorschlag einer gemeinsamen Branchen-Prüfstelle, die Frontier-Modelle vor dem Release testen würde. Die Gespräche sind in einem frühen Stadium; es wurde keine Stelle gegründet und es gibt keine verbindlichen Regeln.
Was würde eine KI-Prüfstelle konkret tun?
Das im Juli 2026 von Google DeepMinds Demis Hassabis ins Spiel gebrachte Konzept ist eine US-geführte Organisation — lose an die FINRA der Finanzbranche angelehnt —, die standardisierte Pre-Release-Evaluierungen von Frontier-Modellen durchführen und bei Überschreiten einer gefährlichen Fähigkeitsschwelle eine branchenweite Verlangsamung fordern könnte. Hassabis sagte, die Finanzierung müsse erheblich sein und überwiegend aus der Industrie kommen.
Ist das dasselbe wie die EU-KI-Verordnung?
Nein. Die vorgeschlagene Stelle ist freiwillige Selbstregulierung privater Unternehmen, kein Gesetz. Die EU-KI-Verordnung ist verbindliches Recht mit einem GPAI-Verhaltenskodex und durchsetzbaren Pflichten. Eine private Stelle könnte die KI-Verordnung ergänzen, ersetzt aber die rechtliche Compliance nicht. In der EU unterliegen Sie weiterhin der KI-Verordnung, unabhängig davon, worauf sich die Labore einigen.
Wirft eine solche Abstimmung kartellrechtliche Bedenken auf?
Ja, das kann sein. Wenn Wettbewerber abstimmen, wann und ob sie Produkte veröffentlichen, lädt das zu kartellrechtlicher Prüfung ein, sofern es den Wettbewerb beschränkt. Anthropics Dario Amodei brachte dafür eine staatliche Ausnahmeregelung ins Spiel; OpenAIs Chris Lehane hielt für die Zusammenarbeit bei der Sicherheit keine für nötig. Die Frage ist ungeklärt und ein Grund, weshalb sich das Vorhaben auf Gesetze wie den vorgeschlagenen FRONTIER Act stützen könnte.
Was sollten Teams tun, die auf Frontier-Modellen aufbauen?
Verfolgen Sie, von welchen Modellversionen Sie abhängen, und halten Sie Ihre Integration so abstrahiert, dass Sie den Anbieter wechseln können, falls ein Release verzögert oder gedeckelt wird. Dokumentieren Sie eigene Evaluierungen und Schutzmaßnahmen, statt sich auf die Tests eines Anbieters zu verlassen, und bringen Sie das dort, wo Sie in der EU tätig sind, mit der EU-KI-Verordnung in Einklang. Lagern Sie Ihr Risikomanagement nicht an eine Stelle aus, die es noch nicht gibt.
Quellen
TechCrunch — OpenAI, Anthropic, Google have been in talks on AI safety for weeks
CNBC — OpenAI, Google, Anthropic discuss collaboration on AI safety issues
Tech Xplore / AFP — OpenAI, Anthropic and Google are working to create an AI standards body