Die Vereinbarung verteilt Verantwortung auf mehrere Ebenen innerhalb jedes Unternehmens. Ein externer Prüfer soll zusätzlich feststellen, ob die Kontrollen funktionieren.
Vier Prüfungen bis zum Verwaltungsrat
Nach dem vom Washington Examiner veröffentlichten Wortlaut sollen Entwickler von Frontier-Modellen, also besonders fortgeschrittenen KI-Systemen, diese während des Trainings und im Einsatz überwachen. Genannt werden Cyberrisiken, biologische und chemische Gefahren sowie unerlaubte Zugriffe auf technische Systeme.
Ein gesondertes internes Team soll kontrollieren, ob die Schutzmechanismen funktionieren und Probleme behoben werden. Anschließend soll ein unabhängiger externer Prüfer oder Gutachter diese Kontrollen bewerten. Ein unabhängiger Ausschuss des Verwaltungsrats soll schließlich die Berichte erhalten und die Behebung festgestellter Mängel überwachen.
Damit sollen erkannte Probleme über die Entwicklungsteams hinaus bis zu den Mitgliedern des Verwaltungsrats gelangen.
Sechs Führungskräfte unterschrieben neben Trump
Zu den Unterzeichnern gehören Elon Musk, Sundar Pichai von Google, Dario Amodei von Anthropic, Mark Zuckerberg von Meta, OpenAI-Präsident Greg Brockman und Jensen Huang von Nvidia.
Der Vorsitzende des Repräsentantenhauses, Mike Johnson, beschrieb das Modell als freiwillige Verpflichtungen der Branche, berichtete ABC News. Die Unternehmen versprachen außerdem regelmäßige Treffen, um Sicherheitsstandards und Verfahren weiterzuentwickeln.
Ob die Zusagen wirken, muss sich erst zeigen
Die Vereinbarung enthält weder Sanktionen noch eine neue Regulierungsbehörde oder einen Zeitplan für die Veröffentlichung von Prüfergebnissen. Sie lässt offen, ob die Maßnahmen später in Gesetze oder Vorschriften aufgenommen werden.
Für Kunden hält das Dokument fest, was die Unternehmen zugesagt haben. Welche Veränderungen daraus folgen, lässt sich erst anhand der Umsetzung beurteilen: funktionierende Kontrollen, unabhängige Bewertungen und Korrekturen, wenn Probleme den Verwaltungsrat erreichen.
