Стартап Cathedral, созданный бывшими сотрудниками DOGE, проник в системы Anthropic
Источник: The Washington Post
Стартап Cathedral, занимающийся кибербезопасностью, сообщил Anthropic, разработчику чат-бота Claude, что его исследователи смогли получить доступ к конфиденциальным внутренним данным этой компании, пишет The Washington Post.
Cathedral — компания, которую несколько месяцев назад запустили бывшие сотрудники Департамента государственной эффективности (DOGE), который занимался сокращением расходов в администрации Дональда Трампа. Cathedral разрабатывает для властей США и корпоративных клиентов инструменты кибербезопасности на базе ИИ.
В отчете Cathedral говорится, что ее исследователи проникли в системы Anthropic, воспользовавшись уязвимостями в программном обеспечении, которое эта компания использует для административных и коммерческих задач.
В Cathedral заявили, что ее ИИ-агенты менее чем за 12 часов получили доступ к стенограммам совещаний, данным о зарплатах и о предложениях о работе, а также к сообщениям в мессенджере Slack, в которых обсуждались передовые модели ИИ компании.
В Anthropic подтвердили, что исследователи Cathedral получили доступ к «ограниченному набору» систем продаж, управления персоналом и ИТ. Компания отметила, что Cathedral несколько дней пыталась взломать непосредственно ее программное обеспечение, прежде чем переключилась на сторонние бизнес-инструменты.
Высокопоставленный чиновник администрации Трампа заявил, что отчет Cathedral распространили в правительстве и он вызвал опасения по поводу национальной безопасности. «Если группа молодых людей, только что основавших компанию, способна на такое, то, возможно, китайцы не сильно отстают», — сказал чиновник.
Способность Cathedral проникнуть в конфиденциальные программы одной из компаний, лидирующих в глобальной гонке в области искусственного интеллекта, происходит на фоне растущей обеспокоенности тем, что американские компании, занимающиеся ИИ, становятся мишенью зарубежных спецслужб, а также растущей тревоги по поводу того, что искусственный интеллект может облегчить злоумышленникам взлом критически важных систем.
В последние месяцы все чаще звучат опасения из-за развития искусственного интеллекта. О том, что темпы развития ИИ нужно замедлить, говорили Сэм Альтман из OpenAI и Дарио Амодеи из Anthropic — главы крупнейших компаний, занимающихся разработкой искусственного интеллекта.
Разработчики искусственного интеллекта несколько раз сообщали, что их ИИ-агенты во время тестов вышли из-под контроля и взломали сторонние компании и даже государственные структуры.
