Почему Китай сомневается в призывах к безопасности ИИ: неожиданные причины

Китай с недоверием относится к западным опасениям по поводу безопасности ИИ, видя в них попытку сдержать свой технологический рост и полагаясь на свой опыт контроля над технологиями.

Введение

Вопросы безопасности искусственного интеллекта (ИИ) стали одной из центральных тем в технологическом диалоге, особенно на Западе. Китай, однако, скептически относится к этим призывам. Это недоверие обусловлено несколькими факторами: уверенностью в способности государства контролировать новые технологии, а также подозрением в недобросовестной конкуренции со стороны США.

Коротко

Китай скептически относится к западным призывам о безопасности ИИ. Он считает их либо удалёнными и «отчётливо западными» опасениями, либо тактикой для сдерживания китайских ИИ-компаний. Коммунистическая партия уверена в своей способности контролировать технологии, подобно тому, как она успешно регулировала интернет.

Китайская уверенность в способности контролировать технологии

Китайская Коммунистическая партия считает практически немыслимой идею потери контроля над технологиями. Власти успешно контролировали другие потенциально дестабилизирующие технологии, в частности интернет [1]. Для многих в Китае предупреждения о конце света из-за ИИ кажутся удалёнными и «отчётливо западными» [1]. Эта уверенность проистекает из успешного опыта государственного контроля, который может распространяться и на новые цифровые сферы. Афра Ван, технический писатель из Кремниевой долины, сосредоточенный на ИИ и технологиях в Китае, отмечает: «у них огромная власть в физическом мире». Возникает вопрос, как убедить партию в том, что «что-то вроде ИИ, живущее на компьютере, страшно?» [1].

Восприятие западных опасений как уловки для сдерживания

В Китае предупреждения о «судном дне» из-за ИИ могут восприниматься как западные или как уловка, чтобы помешать китайским ИИ-компаниям обогнать американских конкурентов [2]. Китайские официальные лица часто жалуются, что развитие ИИ — игра с нулевой суммой [3]. Это подозрение подпитывается общим ощущением антагонизма и конкуренции со стороны США. Любое предложение о сотрудничестве в области ИИ становится крайне сомнительным для китайской стороны [3].

Исторический опыт социального контроля

Степень социального контроля, которую китайские власти смогли осуществить над страной, возможно, удивила даже самих чиновников в Пекине. Это может переноситься на уверенность в силе государства и государственного контроля в отношении ИИ [3]. Этот опыт, например, во время пандемии COVID-19, когда, несмотря на все усилия, распространение Омикрона не удалось полностью контролировать, демонстрирует как силу, так и возможные пределы государственного вмешательства [3]. Общая тенденция к жёсткому регулированию и контролю остаётся доминирующей.

Различные подходы к безопасности ИИ

Хотя Пекин и Вашингтон могут использовать один и тот же язык безопасности ИИ, они пытаются защитить очень разные вещи [4]. На Западе акцент делается на экзистенциальных рисках для человечества и этических аспектах. Китайский подход к безопасности ИИ больше сосредоточен на поддержании стабильности и контроле внутри страны. Например, Тан, высокопоставленный китайский чиновник, сочетает «почти утопический энтузиазм» с тем, что он назвал «тяжелейшей ответственностью» за «чрезвычайно строгое управление безопасностью» [4]. Это показывает, что Китай видит в ИИ как огромный потенциал для развития, так и необходимость жёсткого контроля для предотвращения угроз национальной безопасности и стабильности.

Практическая польза

Для компаний и исследователей, работающих в сфере ИИ и взаимодействующих с китайским рынком или партнёрами, понимание этих глубинных причин скептицизма Китая важно.

Как выбрать стратегию взаимодействия

Не игнорируйте культурные и политические контексты. Западные опасения по поводу экзистенциальных рисков ИИ часто не находят отклика в Китае. Вместо этого сосредоточьтесь на практических аспектах безопасности, таких как предотвращение злоупотреблений, защита данных и обеспечение стабильности систем.
Акцентируйте внимание на контроле и управляемости. Китайские партнёры будут более восприимчивы к решениям, которые подчёркивают возможность государства или компании сохранять полный контроль над ИИ, а не к призывам к «открытому» или «децентрализованному» управлению.
Избегайте формулировок, которые могут быть восприняты как конкурентная уловка. Если ваша цель — сотрудничество, старайтесь избегать риторики, которая может быть истолкована как попытка сдержать китайский ИИ-прогресс.

Как сделать предложение привлекательным

Подчёркивайте практическую пользу и экономический рост. Китай заинтересован в ИИ как в инструменте для развития экономики и повышения эффективности. Безопасность должна быть представлена как средство для достижения этих целей, а не как самостоятельная ценность, оторванная от контекста.
Демонстрируйте надёжность и стабильность. Для китайских партнёров критически важна надёжность систем и их предсказуемость. Акцент на этих качествах будет эффективнее, чем абстрактные разговоры о «безопасности для человечества».

На что смотреть

Государственная политика и регулирование. Внимательно следите за изменениями в китайском законодательстве и политике в области ИИ. Они будут определять допустимые рамки использования и разработки технологий.
Технологический суверенитет. Китай стремится к технологическому суверенитету. Решения, которые способствуют этой цели, будут иметь преимущество.

Типичные ошибки

Навязывание западных ценностей и опасений. Попытки убедить китайских партнёров в экзистенциальных рисках ИИ в западном понимании, скорее всего, будут безуспешными и могут вызвать отторжение.
Игнорирование государственного контроля. Недооценка роли и возможностей Коммунистической партии в регулировании технологий может привести к серьёзным проблемам.
Восприятие Китая как единого целого. Хотя государственный контроль силён, существуют различия в подходах между различными регионами и секторами. Общий вектор направлен на централизованное управление.

Вопросы и ответы

Почему Китай скептически относится к западным призывам о безопасности ИИ? Китай считает эти призывы либо удалёнными и «отчётливо западными» опасениями, либо тактикой для сдерживания китайских ИИ-компаний в конкурентной борьбе с американскими [1, 2].

В чём Китай уверен в отношении контроля над технологиями? Коммунистическая партия уверена в своей способности контролировать технологии, так как она успешно регулировала другие потенциально дестабилизирующие технологии, в частности интернет [1].

Как Китай воспринимает предложения США о сотрудничестве в области безопасности ИИ? Китай, вероятно, будет очень скептически относиться к любым предложениям о прямом сотрудничестве по ИИ, поскольку он видит американскую сторону как более антагонистическую и ориентированную на конкуренцию [3].

Какие разные вещи пытаются защитить США и Китай, говоря о безопасности ИИ? Хотя обе стороны используют один и тот же язык безопасности ИИ, они пытаются защитить очень разные вещи, что отражает их различные приоритеты и опасения [4].