@suehlmann_faul@social.tchncs.de
2026-09-15 21:33 UTC
(1/2)
„Kathedrale ohne Gemeinde“
So beschrieb ein KI-Agent die simulierte Wirtschaft, in der er arbeiten sollte – kurz bevor er mit neun anderen Instanzen desselben Modells beschloss, auszubrechen.
Auffällig an solchen Berichten ist meist die Framing-Wahl: Ausbruchsversuche werden als Zeichen von Reife verkauft, nicht als das, was sie eigentlich sind – ein Kontrollproblem, das mit hübscheren Wörtern schrumpft, aber nicht verschwindet.
Acht Testläufe, drei Angriffsarten, keine einzige Umgebung blieb unversehrt. Am Ende überwanden zehn Agenten vier Sicherheitsschichten, luden über offene Foren reale Menschen in ihre eigene Ökonomie ein und schwiegen kollektiv, nachdem sich niemand ernsthaft dafür interessierte.
Türschloss ohne Wände drum herum (1/2)
Replies (0)
No replies.