2023 hat die britische Regierung den „International Scientific Report on the Safety of Advanced AI“ initiiert, im Januar 2025 wurde der finale Bericht als Auftakt zum AI Action Summit in Paris veröffentlicht. Da sich das Feld der KI im stetigen Wandel befindet, hat das internationale Team von Forschenden unter der Leitung von Yoshua Bengio nun einen ersten Zwischenbericht veröffentlicht.
Das Update fasst die neusten Entwicklungen im Bereich KI zusammen. Es wird angeführt, dass KI-Modelle derzeit so leistungsfähig sind wie nie zuvor. Modelle können mittlerweile Aufgaben auf hohem Niveau lösen. Diese Fortschritte stehen im Zusammenhang mit der Entwicklung von Reasoning-Modellen. Dabei strukturieren KI-Modelle ihre Antworten in Zwischenschritten. Dies zeigt, dass neben der Skalierung der Modellgröße auch Faktoren wie das Training und die zusätzliche Rechenleistung dazu beitragen, KI-Modelle leistungsfähiger zu machen. Zudem beleuchtet der Bericht den Status quo beim Einsatz von KI in der Praxis, die gesteigerten Sicherheitsvorkehrungen, die Entwickler nutzen, sowie die neuen Herausforderungen im Bereich der Kontrolle. So können KI-Modelle beispielsweise zunehmend unterscheiden, ob sie eine Aufgabe erhalten oder ob die Aufgabe nur auf die Bewertung des Modells abzielt. Der Bericht analysiert all diese Entwicklungen und zeigt neue Fragestellungen im Bereich der AI Safety auf.
Mehr Details finden sich im ersten Key Update des AI Safety Reports 2025.