OpenAI описала подход к регулированию ИИ, при котором законы отдельных штатов помогают собрать общенациональные правила безопасности для самых мощных моделей. Компания называет это «обратным федерализмом»: штаты первыми задают общий каркас, а федеральные власти превращают его в единый стандарт.
Поводом стали инициативы Калифорнии, Нью-Йорка и Иллинойса. По словам OpenAI, эти штаты уже двигаются в одном направлении: требуют от разработчиков frontier-моделей документировать систему безопасности, проводить оценку рисков, раскрывать ее результаты, сообщать о серьезных инцидентах и проходить независимые проверки.
Компания считает, что такой подход лучше разрозненных правил в каждом штате. Если требования будут слишком сильно отличаться, разработчикам придется тратить ресурсы на соблюдение разных процедур вместо работы над безопасностью, а пользователям и регуляторам будет сложнее понимать, кто и за что отвечает.
На федеральном уровне, по данным OpenAI, администрация Дональда Трампа работает с техническими экспертами и специалистами по нацбезопасности над правилами тестирования самых мощных ИИ-моделей в сфере кибербезопасности. Компания утверждает, что этот документ должен определить стандарты тестирования, сроки и процессы; цель властей — подготовить рамку к началу августа.
OpenAI также предлагает усилить роль федерального Центра стандартов и инноваций в области ИИ, чтобы именно он занимался проверкой продвинутых моделей. В числе обязательных требований к компаниям разработчик называет независимые аудиты, отчеты об инцидентах, строгие стандарты защиты и гарантии для сотрудников, которые сообщают о нарушениях.
Источник: OpenAI