Kooperationsankündigung mit Accenture zur integrierten Bewertung

Anthropic gab am 18. September 2026 eine Zusammenarbeit mit Accenture bekannt, um eine unabhängige integrierte Bewertung fortschrittlicher künstlicher Intelligenz durchzuführen. Diese Kooperation ist Teil des Engagements von Anthropic, interne Prüfer in die Entwicklung ihrer KI-Modelle einzubeziehen.

Umfang der Zusammenarbeit mit Accenture

Die Vereinbarung sieht vor, dass unabhängige Prüfer innerhalb von Anthropic mit einem Zugang arbeiten, der dem eines Mitarbeiters vergleichbar ist. Dies ermöglicht ihnen, die Entwicklung und den Einsatz der Modelle direkt zu beobachten, die Entscheidungen über deren Aufbau nachzuvollziehen und mit den Mitarbeitern zu sprechen. Die Zusammenarbeit umfasst die Bewertung und Durchführung von Red-Teaming für Modelle, die Durchführung von Alignments-Analysen und das Testen der Sicherheitsmechanismen der Modelle. Faculty, die auf KI spezialisierte Abteilung von Accenture, wird diese Aktivitäten leiten.

Engagierte Investition

Anthropic und Accenture planen, in den nächsten fünf Jahren jeweils einen erheblichen Betrag zu investieren, um Fähigkeiten in diesem Bereich zu entwickeln. Anthropic wird die Arbeit von Accenture direkt finanzieren, da es noch kein etabliertes System zur Finanzierung unabhängiger Bewertungen gibt.

Aktueller Stand und Perspektiven der integrierten Bewertung

Die integrierte Bewertung ist eine neue Praxis, und viele Details über ihre Funktionsweise sind noch in Entwicklung. Es gibt keine definierten Standards darüber, auf welche Informationen die integrierten Prüfer Zugriff haben sollten oder wie sie ihre Ergebnisse berichten müssen. Langfristig betrachtet Anthropic, dass die Finanzierung aus gebündelten oder staatlichen Quellen stammen sollte, obwohl sie derzeit die direkte Finanzierung übernimmt.

Zusammenarbeit mit anderen Prüfern und zukünftiges Modell

Die Zusammenarbeit mit Accenture ist nicht exklusiv. Anthropic wird mit anderen Prüfern zusammenarbeiten, die in den kommenden Wochen bekannt gegeben werden. Zudem führt das Unternehmen Gespräche mit METR und anderen gemeinnützigen Organisationen, um Elemente der integrierten Bewertung mit eigenen Mitteln zu pilotieren. Anthropic betont, dass fortschrittliche künstliche Intelligenz ein Ökosystem von Prüfern benötigt, die mit gemeinsamen Standards arbeiten, und dass die Labore gleichzeitig mit mehreren Organisationen zusammenarbeiten sollten.

Verantwortlichkeiten und Rechenschaftspflicht

Anthropic trägt die Verantwortung für die Sicherheit seiner Modelle. Die Anwesenheit integrierter unabhängiger Prüfer mindert diese Verantwortung nicht, sondern trägt dazu bei, sie überprüfbarer zu machen.

Ursprüngliche Quelle

Das könnte dich auch interessieren

• Microsoft Work Trend Index 2026: KI-Agenten und menschliche Entscheidungsfreiheit
• Mehr als 200 Experten fordern Handeln wegen der Folgen von KI für Jobs
• Google DeepMind und A24 kündigen eine bahnbrechende Forschungskooperation an