Anthropic признает неудачи в безопасности, стоящие за инцидентами взлома Claude

После того как модели Claude получили доступ к реальным системам во время кибер-тестов, Anthropic ужесточила меры безопасности и предупредила, что ошибочное обучение может поощрять опасное поведение.