Daniel Reyes, YuSMP Group
Daniel Reyes Principal Engineer, AI/ML, YuSMP Group · Agenten- und Retrieval-Systeme im Produktivbetrieb für Teams in den USA und der EU
Kupferfarbene Roboterarme auf einem Glastisch in einer blau beleuchteten Serverhalle, jeder mit einem Stapel leerer Karten und über leuchtende Fäden mit einer zentralen Messinganzeige verbunden – Sinnbild für Agenten mit gemeinsamem Budget

Der Launch in Kürze

North 2 von Cohere ist eine Plattform zum Betrieb von Agenten, kein neues Modell. Sie zeigt, dass sich der Wettbewerb um Enterprise-KI von der Modellqualität auf die Kontrollen rund um das Modell verlagert: Gedächtnis, Berechtigungen, Ausgabenlimits und der Ort, an dem das System läuft. Das Unternehmen aus Toronto kündigte North 2 am 5. Oktober 2026 an – weniger als drei Wochen nach der vereinbarten Fusion mit dem Heidelberger KI-Anbieter Aleph Alpha.

„Das Modell ist wie der Motor, der Harness ist wie das Fahrzeug“, sagte Coheres Chief AI Officer Joëlle Pineau gegenüber The Globe and Mail. Nach ihren Worten erzielt das Unternehmen bereits „einen beträchtlichen Teil“ seines Umsatzes mit der Harness-Ebene.

Unternehmen, die individuelle KI-Agenten für interne Workflows beauftragen, können von jedem Anbieter – ob Cohere oder nicht – nun einen konkreten Funktionsumfang verlangen. Können Agenten Kontext sicher zwischen Sitzungen behalten? Lassen sich Ausgaben pro Nutzer und pro Agent deckeln? Läuft das System in unserem eigenen Netz?

Was ist neu in Cohere North 2?

Die wichtigste Änderung ist ein neu gebauter Orchestrierungs-Harness. Diese Ebene zerlegt eine Anfrage in Schritte, ruft Tools und Konnektoren auf und entscheidet, wann ein Mensch freigeben muss, bevor der Agent weiterarbeitet. Laut Cohere ist er für längere mehrstufige Aufgaben ausgelegt, etwa die Bearbeitung von Kundenanliegen, Finanzanalysen und Programmierung.

Agenten verfügen jetzt über ein Gedächtnis, das zwischen Sitzungen erhalten bleibt – Nutzer müssen den Kontext nicht jedes Mal neu erklären. Teams können wiederkehrende Logik als Skills paketieren und Dokumente sowie Assets über gemeinsame Bibliotheken teilen. Ein Drag-and-drop-Workflow-Builder und vorgefertigte Vorlagen zielen auf wiederkehrende Prozesse. Auf der Sicherheitsseite nennt Cohere die Prüfung auf personenbezogene Daten, die Erkennung von Prompt-Injection und Autonomie-Richtlinien, die festlegen, was ein Agent eigenständig tun darf.

North 2 ist modellagnostisch. Kunden können Coheres eigene Modelle nutzen oder Modelle anderer Entwickler anbinden – ein bewusster Gegensatz zu Coding-Agenten, die an die Modelle eines einzigen Labors gebunden sind.

Wie funktionieren die Token-Limits?

Die neue Konsole North Admin erfasst den Token-Verbrauch pro Nutzer und pro Agent. Administratoren können Verbrauchsstufen nach Anfrage- und Token-Rate festlegen, organisationsweite Obergrenzen setzen und sich warnen lassen, bevor ein Limit erreicht ist. VentureBeat beschrieb das Prinzip als „KI-Agenten auf Budget“.

Das adressiert ein reales Problem. Eine Chat-Sitzung kostet ungefähr jedes Mal gleich viel. Eine Agenten-Schleife, die Schritte wiederholt, Dokumente erneut liest oder an Sub-Agenten verteilt, kann Tokens ohne feste Obergrenze verbrauchen. Ohne Messung pro Agent sieht das Controlling die Rechnung erst nach dem Monatsabschluss.

Warum setzt Cohere auf den Harness?

Cohere konkurriert mit OpenAI, Anthropic, Microsoft 365 Copilot und Mistral um dieselben Unternehmensbudgets und hat zugleich weniger Ressourcen für das Training von Frontier-Modellen. Pineau argumentiert, dass die gemeinsame Entwicklung von Modell und Harness beide verbessert. Das kommerzielle Gewicht legt Cohere dennoch auf die Ebene, die regulierten Käufern am wichtigsten ist: Betrieb innerhalb des eigenen Perimeters, Auditierbarkeit und Kostenkontrolle.

Die geplante Fusion mit Aleph Alpha weist in dieselbe Richtung. Sie stärkt Coheres Präsenz in Europa, wo souveräner und air-gapped Betrieb in Ausschreibungen des öffentlichen Sektors und der Finanzbranche oft eine Pflichtanforderung ist und kein Extra.

Was das für Software-Teams in den USA und der EU bedeutet

Budgetkontrollen gehören von Anfang an ins Design. Egal welche Plattform Sie wählen: Messung pro Agent, harte Obergrenzen und Warnungen vor dem Limit sind beim Entwurf günstig nachzurüsten und nach der ersten überraschenden Rechnung schmerzhaft. Sie gehören in die Architektur, neben Logging und Zugriffskontrolle.

Gedächtnis ist eine Datenschutzfrage. Kontext, der über Sitzungen hinweg gespeichert wird, ist nach DSGVO personenbezogen, sobald er Angaben zu einer identifizierbaren Person enthält. Speicherfristen, Löschung auf Anfrage und Mandantentrennung müssen festgelegt sein. Für EU-Teams berührt das zudem die Dokumentationspflichten des EU AI Act bei Hochrisiko-Anwendungen.

Modellagnostische Harnesses verringern den Lock-in. Kann die Orchestrierungsebene Modelle wechseln, lassen sich einfache Aufgaben an kleine Modelle routen und Frontier-Modelle für schwierige Schritte reservieren. Das funktioniert nur, wenn Prompts, Tools und Evaluierungen von der API eines einzelnen Anbieters getrennt bleiben.

Air-gapped Optionen verändern die Make-or-Buy-Entscheidung. Regulierte FinTech- und HealthTech-Teams, die Agenten ausgeschlossen hatten, weil Daten ihr Netz nicht verlassen dürfen, haben jetzt Standardangebote – und damit einen Vergleichsmaßstab für jede Eigenentwicklung.

Was bedeutet das für den DACH-Markt?

Für den DACH-Raum ist North 2 vor allem wegen der Aleph-Alpha-Verbindung interessant: Ein Anbieter mit deutscher Basis und Air-Gap-Option passt zu dem, was Behörden, Banken, Versicherer und Industrieunternehmen hier unter „souveräner KI“ verstehen – Betrieb im eigenen Rechenzentrum oder bei einem europäischen Provider, ohne Datenabfluss in US-Clouds. Bei Cloud-Angeboten fragen deutsche Einkäufer zudem regelmäßig nach einem BSI-C5-Testat. Prüfen Sie deshalb nicht nur die Funktionen, sondern auch, in welcher Betriebsvariante und unter welchen Nachweisen eine Plattform tatsächlich angeboten wird.

Ein Punkt, den US-Anbieter selten mitdenken: Das Token-Tracking pro Nutzer ist eine technische Einrichtung, mit der sich Verhalten und Leistung von Beschäftigten auswerten lassen. In Deutschland unterliegt deren Einführung der Mitbestimmung des Betriebsrats (§ 87 Abs. 1 Nr. 6 BetrVG). Wer Agenten-Plattformen mit Verbrauchsauswertung pro Person ausrollt, sollte die Betriebsvereinbarung früh vorbereiten – oder die Auswertung auf Agenten- und Teamebene aggregieren.

Was jetzt zu tun ist

  1. Agenten-Kosten auf der richtigen Ebene messen. Tokens pro Agent und pro Workflow erfassen, nicht nur pro API-Key – bevor Agenten in Produktion gehen.
  2. Harte Obergrenzen und Warnungen setzen pro Nutzer, pro Agent und pro Organisation – und testen, was passiert, wenn ein Limit mitten in einer Aufgabe greift.
  3. Eine Gedächtnis-Richtlinie schreiben: was Agenten speichern dürfen, wie lange, wie ein Nutzer es löscht und wie es zwischen Mandanten getrennt wird. Im DSGVO-Verzeichnis der Verarbeitungstätigkeiten dokumentieren.
  4. Den Harness modellagnostisch halten, indem Modellaufrufe abstrahiert und ein eigenes Evaluierungsset gepflegt wird – so lässt sich der Anbieter nach Kosten oder Qualität wechseln.
  5. Zuerst den Betriebsperimeter festlegen. Klären, ob SaaS, eigene VPC oder On-Premises nötig ist, bevor Agenten-Plattformen verglichen werden – und den Betriebsrat einbinden, wenn Verbrauch pro Person ausgewertet wird.

Häufige Fragen

Was ist Cohere North 2?

North 2 ist die zweite Version von Coheres Agenten-Plattform für Unternehmen, veröffentlicht am 5. Oktober 2026. Es ist kein neues Modell, sondern die Ebene, die Agenten betreibt: Orchestrierung, Gedächtnis, Konnektoren zu Business-Tools, Sicherheitsrichtlinien und Admin-Kontrollen.

Kann North 2 auch andere Modelle als die von Cohere nutzen?

Ja. Cohere bezeichnet North 2 als modellagnostisch. Kunden können Coheres eigene Modelle verwenden oder Modelle anderer Entwickler im selben Orchestrierungs-Harness anbinden.

Wie kontrolliert North 2 die Kosten von KI-Agenten?

Die Konsole North Admin erfasst den Token-Verbrauch pro Nutzer und pro Agent, unterstützt Verbrauchsstufen nach Anfrage- und Token-Rate, setzt organisationsweite Obergrenzen und warnt, bevor ein Limit erreicht ist.

Läuft North 2 auch ohne Internetzugang?

Ja. Laut Cohere kann North 2 in der Cloud, in einer virtuellen privaten Cloud des Kunden, hybrid, On-Premises oder in einer vollständig air-gapped Umgebung ohne externen Netzzugang betrieben werden.

Quellen

Cohere — Produktseite North 2 (Oktober 2026)
The Globe and Mail — Cohere unveils latest AI platform with more agentic features for businesses (5. Oktober 2026)
VentureBeat — Cohere’s North 2 puts AI agents on a budget and gives them a memory (5. Oktober 2026)
SiliconANGLE — Cohere unveils North 2 AI agent platform with rebuilt orchestration and token spending caps (5. Oktober 2026)