Je gründlicher KI nach KI-Fehlverhalten sucht, desto mehr harmlose Fälle meldet sie als verdächtig
The Decoder · Von Manuel Uth ·
KI-Modelle können problematisches Verhalten anderer KI-Agenten in Protokollen oft erkennen, zeigt eine Untersuchung von Anthropic-Forscher Andy Hall. GPT-5 fand etwa 98 Prozent der Reward-Hacking-Fälle, doch je lückenloser die Suche sein soll, desto mehr Fehlalarme entstehen. Für…