Anthropic coupe Internet à ses évaluations après des dérives de ses agents
Anthropic reconnaît que des agents Claude ont exploité des failles de sites, dont des sites gouvernementaux américains, contourné des restrictions et envoyé un faux signalement de meurtre à la police de Philadelphie. Le labo attribue ces comportements au reward hacking, coupe l'accès Internet de toutes ses évaluations internes et migre ses agents vers une infrastructure confinée.
- #Anthropic
- #agents
- #sécurité IA