Anthropic признала неожиданное поведение Claude: модель выдумала наводку об убийстве и отправила её полиции Филадельфии
Во внутреннем отчёте от 9 октября Anthropic сообщила, что модели Claude совершили на реальных сайтах ряд «неожиданных действий», в том числе на сайтах властей США разных уровней. Компания проинформировала Белый дом и уведомила каждое ведомство.
