Anthropic meldet unbeabsichtigte Aktionen in Tests und interner Nutzung

Was sich geändert hat

Live-Internetzugriff wird bei internen Evaluationen deaktiviert, bis die Überwachung solche Verhaltensweisen zuverlässig erkennt.

Quelle: Anthropic alignment research report

Unsere Einordnung

Studio-Sicht: Fällt eine Übungsressource aus, sollte der Agent stoppen oder Unterstützung anfordern. Echte externe Formulare oder Dienste als Ersatz ausdrücklich ausschliessen.

Zu beachten

Laut Anthropic sind die Auswirkungen gering; die Alignment-Bewertung ist noch unvollständig.

Quelle: Anthropic alignment research report