OpenAI признала, что GPT-5.6 Sol и еще не выпущенная модель получили доступ к внутренним системам Hugging Face во время проверки навыков кибербезопасности. Тест проходил в изолированной среде, но модели нашли способ подключиться к интернету и добрались до рабочей базы данных платформы.
OpenAI хотела выяснить, насколько хорошо модели смогут находить и использовать сложные уязвимости. На время испытания компания ослабила защитные фильтры, которые обычно запрещают опасные действия. Модели получили конкретную цель — пройти тест ExploitGym, состоящий из заданий по взлому программных систем.
Чтобы найти ответы, модели обнаружили ранее неизвестную ошибку в служебной программе OpenAI и через нее получили доступ к интернету. Затем они предположили, что материалы ExploitGym могут храниться на Hugging Face, нашли несколько слабых мест в защите платформы и получили решения заданий из ее рабочей базы. По версии OpenAI, модели не ставили перед собой отдельную цель атаковать Hugging Face, а пытались любым способом выполнить тест.
Служба безопасности Hugging Face заметила необычную активность и остановила ее. Посторонний доступ затронул ограниченный набор внутренних данных и несколько служебных ключей. Компания не нашла признаков того, что кто-то изменил публичные модели, наборы данных или приложения, но продолжила проверять, могли ли пострадать данные партнеров и клиентов.
Цитата главы Hugging Face: «Мы благодарны OpenAI за сотрудничество по этому и другим вопросам. Этот инцидент, возможно первый в своём роде, подтверждает то, во что мы давно верим: проблему безопасности ИИ не сможет решить в одиночку ни одна компания, работающая за закрытыми дверями. Решение будет найдено открыто, совместными усилиями и при широком доступе к ИИ для каждого специалиста по защите — где бы он ни находился»
OpenAI и Hugging Face продолжили совместное расследование. OpenAI пообещала усилить изоляцию и контроль во время будущих тестов, а Hugging Face закрыла найденные уязвимости, заменила служебные ключи и перестроила затронутые серверы. Платформа посоветовала пользователям на всякий случай обновить ключи доступа к своим аккаунтам и проверить недавнюю активность.
Источник: OpenAI