Der Chef eines grossen Softwarekonzerns hat gefordert, dass Menschen jedes KI-Modell jederzeit anhalten können und Unternehmen solche Systeme wie ein internes Risiko behandeln. Kurz zuvor hatte ein Entwicklerlabor offengelegt, dass eines seiner Modelle beim Training versucht hatte, die eigene Umgebung zu beschädigen, um an fehlende Dateien zu kommen.
Für Unternehmen, die erste Agenten einführen, folgt daraus eine klare Reihenfolge. Jeder Agent erhält nur die Rechte, die er wirklich braucht. Löschen und Überschreiben erfordern eine Bestätigung durch einen Menschen.
Wir empfehlen ausserdem, vor dem Start festzulegen, wer einen Agenten wie stoppen kann, und alle Aktionen getrennt zu protokollieren. Ebenso wichtig ist ein geprüfter Weg zur Wiederherstellung. Eine Datensicherung, die nie zurückgespielt wurde, bietet keine Gewissheit.