Anthropic предложила закон, по которому выпуск опасной ИИ-модели можно остановить через суд
Черновик описывает риск гибели более 50 человек или ущерба свыше $1 млрд. Решение о запрете будет принимать судья в Вашингтоне.
Anthropic распространяет среди американских законодателей черновик федерального закона о безопасности ИИ. О документе 16 октября первым написал Politico, 20 октября его подробно разобрал TechCrunch. В Конгресс законопроект пока не внесён.
Черновик вводит понятие «предвидимого неминуемого риска». Это угроза гибели более 50 человек или ущерба имуществу больше чем на $1 млрд из-за биологического оружия, кибератаки или выхода модели из-под контроля разработчика. Пороги похожи на те, что прописаны в калифорнийском законе SB 53.
Модели должны проверять независимые оценщики, зарегистрированные в Министерстве торговли США. Лаборатории могут им платить, если оплата не зависит от результата проверки. Найдя катастрофический риск, оценщик за 72 часа сообщает о нём в Минторг, а министерство просит судью в Вашингтоне остановить выпуск модели. Самостоятельно запрещать распространение моделей федеральным ведомствам закон не разрешает.
«Этот законопроект отражает предложения из Advanced AI Framework, которые мы с июня продвигаем среди федеральных законодателей и законодателей штатов», — сказал Politico представитель Anthropic.
Единого подхода к регулированию среди лидеров индустрии нет. Глава Google DeepMind Демис Хассабис летом предлагал создать саморегулируемый орган по образцу финансового FINRA, а гендиректор Nvidia Дженсен Хуанг в сентябре заявил, что новые законы отрасли не нужны.