В США одобрили законопроект о предотвращении катастроф, вызванных ИИ

Законодатели штата Нью-Йорк одобрили законопроект, который должен

предотвратить использование передовых моделей искусственного интеллекта от

OpenAI, Google и Anthropic в ситуациях, угрожающих жизни и здоровью людей,

пишет

TechCrunch.

Документ направлен на то, чтобы не допустить происшествий, в которых могут

пострадать более 100 человек. Также уточняется, что нужно препятствовать

нанесению ущерба в размере свыше $1 млрд.

Ограничения могут коснуться OpenAI, Google и Anthropic.

Законопроект получил

название RAISE. Это старт движения за безопасность ИИ, пишет издание. Тенденция

к быстрому развитию ИИ возникла в стране на фоне инноваций от Кремниевой долины

и работы администрации Трампа. Теперь сторонники безопасности применения

искусственного интеллекта считают, что это первый шаг к тому, чтобы принять в

Америке набор обязательных стандартов прозрачности для передовых лабораторий

ИИ.

Документ теперь рассмотрит губернатор Нью-Йорка Кэти Хокул, которая может

подписать его, отправить на доработку или наложить вето. Если документ все же

примут, то компании по разработке ИИ должны будут публиковать подробные отчёты

о безопасности своих передовых моделей. Кроме того, нужно будет информировать о

кражах данных.