2026-09-26 13:51 UTC
Bezeichnend für den Stand der Debatte, wenn man als KI-Sicherheitsforscher betonen muss, kein „Al Doomer" zu sein, bevor man über die eigene Forschung zu den aktuellen Risiken sprechen kann.
Entsprechend sind auch die Kommentare unter meinem Text, der gerade Aufmacher bei der Zeit ist: mein Eindruck ist, dass überhaupt keine differenzierte Debatte mehr möglich ist, denn man wird sofort in eine Schublade gesteckt.
Erstmal Freebie hier und 🧵
https://www.zeit.de/digital/2026-09/ki-agenten-abschaltung-kontrolle-kill-switch-thilo-hagendorff?freebie=85907372
#AI #Chatgpt #anthropic
Replies (1)
-
@evawolfangel@chaos.social 2026-09-26 13:53
Dabei ist die Forschung von Thilo Hagendorff super relevant: er hat gezeigt, dass sich nach aktuellem Stand KI-Systeme auf der Basis von großen Sprachmodellen gegen die eigene Abschaltung wehren (und zwar nicht, weil sie einen bösen Willen entwickeln etc). Das ist ein Sicherheitsproblem. Man kann es abtun und auf uninformierter Basis sagen, das ist „Doomerismus"