ИИ-агенты стороннего стартапа взломали Anthropic: нейросети получили доступ к личным данным сотрудников и клиентов

Автор:

Anthropic подтвердила, что ИИ-агенты стартапа Cathedral получили доступ к части внутренних систем компании. Нейросети искали уязвимости в системах корпорации. По данным The Washington Post, в распоряжении агентов оказались сообщения, расшифровки встреч, информация о зарплатах и данные некоторых клиентов. В Anthropic заявили, что утечки переписки пользователей с Claude и исходного кода моделей не произошло.

Anthropic представила Claude Duet — автономного ИИ-агента, который сам принимает решения по большинству задач

Новый ИИ-агент имеет ряд ограничений, например, не может сам распоряжаться финансами пользователя. Однако в Anthropic не исключают риск ошибок