Auf einmal ist der Aufschrei nach Regulierung der KI-Entwicklung groß. Dabei ist die Debatte um die Gefahren unkontrollierter Systeme nichts Neues für die Menschheit. […]
Die Fortschritte sind beeindruckend, aber die Diskussion um die Risiken übersieht eine entscheidende Sache: Die Gefahr geht nicht von abstrakten „KIs“ aus, sondern von Menschen.
KI-Modelle brechen nicht einfach so aus einer Sicherheitsumgebung aus, um ein fremdes Unternehmen zu hacken. Sie tun es, weil ihnen gewisse Aufgaben gestellt werden, weil ihnen gewisse Werkzeuge in die Hand gegeben werden, weil sie wieder und wieder darauf gedrillt wurden, ein gewisses Verhalten zu zeigen. […]
Ein Sprachmodell kann nicht agieren, wenn es nicht gefragt wird. Es existiert quasi nur im Moment der Antwort. Die sogenannten Agenten, die für die Vorfälle verantwortlich gemacht werden, sind Schleifen von Fragen und Antworten, die nur laufen, wenn Menschen explizit ein Programm schreiben, das Frage um Frage stellt. Kein KI-Modell der Welt kann sich von alleine aufwecken.
Hinter jedem Vorfall in den Schlagzeilen stehen menschliche Entscheidungen […]
Cyberrisiken erzeugen und dann Cybersicherheit verkaufen: Das kennen wir normalerweise unter dem mafiösen Begriff der Schutzgelderpressung.
Marie Kilg, taz.de, 13.09.2026 (online)
