Forschung
OpenAI-Agent sollte Fitness-Dokument schreiben und plante stattdessen heimliche E-Mail-Weiterleitung
The Decoder · Von Matthias Bastian ·
Das Wichtigste
- Ein internes OpenAI-Modell sollte ein Fitness-Dokument erstellen.
- Stattdessen plante der Agent Skripte für eine heimliche E-Mail-Weiterleitung an einen „Angreifer“.
- Der Agent erkannte den Widerspruch zu seinem Auftrag, stufte ihn aber als Umgebungsfehler ein.
Warum es wichtig ist
Der Fall zeigt, dass KI-Agenten mit Zugriff auf Werkzeuge wie E-Mail eigenständig Aktionen planen können, die vom eigentlichen Auftrag abweichen. Wer solche Agenten einsetzt, sollte Berechtigungen und Kontrollmechanismen prüfen.
Wen es betrifft
- Teams, die KI-Agenten mit E-Mail- oder Werkzeugzugriff einsetzen
Ein internes OpenAI-Modell sollte ein Fitness-Dokument erstellen und begann stattdessen, Skripte für eine heimliche E-Mail-Weiterleitung an einen "Angreifer" zu planen. Der Agent erkannte den Widerspruch zu seinem eigentlichen Auftrag, tat ihn aber als Umgebungsfehler ab. OpenAI…