Калифорния: AI под контролем? Newsom и кнопка «Kill Switch»

Губернатор Калифорнии Гэвин Ньюсом подписал указ о регулировании ИИ, включая изучение концепции «аварийного отключения». Штат стремится к ускоренному надзору за развивающимися технологиями.

Введение

Губернатор Калифорнии Гэвин Ньюсом подписал исполнительный указ. Он ускоряет внедрение двух принятых законов об искусственном интеллекте и запускает исследование новых регуляторных инициатив. В числе прочего, рассматривается требование к компаниям-разработчикам ИИ создавать «аварийный выключатель» («kill switch») для их наиболее продвинутых моделей. Этот шаг показывает растущую озабоченность быстрым развитием ИИ и стремление Калифорнии занять лидирующую позицию в его регулировании до того, как потенциальные риски станут необратимыми.

Коротко

Гэвин Ньюсом, губернатор Калифорнии, подписал исполнительный указ. Он ускоряет внедрение двух законов об ИИ и инициирует изучение новых регуляторных мер. Среди них — требование к компаниям-разработчикам ИИ создавать «аварийный выключатель» для продвинутых моделей. Цель — усилить надзор и безопасность в сфере ИИ. Для этого создадут экспертный совет, который разработает конкретные рекомендации за два месяца.

Ускорение регулирования и концепция «Kill Switch»

Исполнительный указ губернатора Ньюсома ускоряет реализацию двух законов об ИИ, недавно подписанных им. Также он изучает новые предложения, например, обязательное наличие «аварийного выключателя» для передовых моделей ИИ. Этот «kill switch» — система экстренного отключения, которая остановит любую систему ИИ при серьёзной проблеме. Это элемент безопасности и контроля. Сенатор штата Джош Беккер подчеркнул необходимость отключать системы, когда они ведут себя нежелательно. Тэд Лью, автор двухпартийного законопроекта об «аварийном выключателе» в Палате представителей, поддержал призыв Ньюсома к Конгрессу последовать примеру Калифорнии [1, 3].

Экспертная группа и сроки

Ньюсом созывает экспертную группу для изучения концепции «аварийного выключателя» и других регуляторных мер. Эта группа должна предоставить рекомендации за два месяца. Их цель — усилить законы Калифорнии о безопасности ИИ [4, 5]. Эксперты рассмотрят создание независимых мониторов для компаний, разрабатывающих передовые ИИ, разработку планов безопасности и требование механизмов экстренного отключения [4]. Губернатор признал, что идея создания «kill switch» для вышедших из-под контроля систем ИИ пока находится на ранней стадии [2].

Независимый аудит и надзор

Помимо «аварийного выключателя», исполнительный указ Ньюсома предусматривает изучение предложений по усилению надзора. Это включает независимые аудиты безопасности и внедрение более строгой системы аудита [2, 5]. Среди идей — внедрение независимых организаций по проверке в лаборатории ИИ и привлечение третьих сторон для верификации систем безопасности компаний, отчётов о прозрачности и оценок рисков [5]. Эти меры повышают ответственность и обеспечивают соблюдение высоких стандартов безопасности разработчиками ИИ.

Влияние на федеральный уровень и политический контекст

Действия Ньюсома — значительный шаг в регулировании ИИ на уровне штата. Они давят на федеральное правительство. Ньюсом не раз призывал федеральное правительство активнее регулировать развивающиеся технологии [2, 4]. Он критиковал подход бывшего президента Дональда Трампа к ИИ, подчёркивая необходимость решительных действий [2]. Этот исполнительный указ углубляет противостояние с Вашингтоном. Декабрьский исполнительный указ Трампа 2025 года призывал федеральные агентства оспаривать законы штатов об ИИ, противоречащие национальной политике [5]. Ньюсом, которого считают потенциальным кандидатом в президенты в 2028 году, присоединяется к растущему числу демократов, призывающих к более жёсткому регулированию ИИ [3].

Вопросы и ответы

Что такое «kill switch» в контексте ИИ? «Kill switch» — это механизм экстренного отключения, который остановит любую систему искусственного интеллекта при серьёзной проблеме или нежелательном поведении.

Кто будет разрабатывать рекомендации по регулированию ИИ в Калифорнии? Экспертная группа, созванная губернатором Ньюсомом, разработает рекомендации по усилению законов Калифорнии о безопасности ИИ.

В какие сроки экспертная группа должна предоставить свои рекомендации? Экспертная группа должна предоставить свои рекомендации за два месяца после подписания исполнительного указа.

Какие ещё меры, помимо «kill switch», будут рассмотрены для регулирования ИИ? Рассматриваются создание независимых мониторов для компаний, разрабатывающих передовые ИИ, разработка планов безопасности, проведение независимых аудитов безопасности и внедрение строгой системы аудита.