Китайский ИИ-разгон: почему после этого саммита правила игры поменялись

Через три дня после того, как администрация Трампа опубликовала свой долгожданный план действий в области искусственного интеллекта, правительство Китая представило свой собственный план политики в области искусственного интеллекта. Было ли это совпадением по времени? Я сомневаюсь в этом.

Китайский “Глобальный план действий по управлению искусственным интеллектом” был опубликован 26 июля, в первый день Всемирной конференции по искусственному интеллекту (WAIC), крупнейшего ежегодного мероприятия в области искусственного интеллекта в Китае. Джеффри Хинтон и Эрик Шмидт были среди многих представителей западной технологической индустрии, посетивших торжества в Шанхае. Наш коллега из WIRED Уилл Найт также был на месте происшествия.

Видео от DGL.RU

Уилл рассказал мне, что атмосфера в WAIC была полной противоположностью концепции Трампа «Америка прежде всего», основанной на легком регулировании искусственного интеллекта. В своей вступительной речи премьер-министр Китая Ли Цян убедительно обосновал важность глобального сотрудничества в области искусственного интеллекта. За ним последовал ряд выдающихся китайских исследователей искусственного интеллекта, которые выступили с техническими докладами, освещающими насущные вопросы, от которых администрация Трампа, похоже, в основном отмахивается.

Чжоу Боуэн, руководитель Шанхайской лаборатории искусственного интеллекта, одного из ведущих исследовательских институтов Китая в области искусственного интеллекта, рассказал о работе своей команды по обеспечению безопасности искусственного интеллекта в WAIC. Он также предположил, что правительство могло бы сыграть определенную роль в мониторинге коммерческих моделей искусственного интеллекта на предмет уязвимостей.

В интервью WIRED И Цзэн, профессор Китайской академии наук и один из ведущих специалистов страны по искусственного интеллекта, сказал, что он надеется, что организации по безопасности искусственного интеллекта со всего мира найдут способы сотрудничества. “Было бы лучше, если бы Великобритания, США, Китай, Сингапур и другие институты объединились”, — сказал он.

Конференция также включала в себя закрытые совещания по вопросам политики безопасности ИИ. Выступая после участия в одном из таких совещаний, Пол Триоло, партнер консалтинговой фирмы DGA-Albright Stonebridge Group, сказал WIRED, что обсуждения были продуктивными, несмотря на заметное отсутствие американского руководства. Теперь, когда США вышли из игры, “коалиция крупных игроков в области безопасности искусственного интеллекта, возглавляемая Китаем, Сингапуром, Великобританией и ЕС, теперь будет прилагать усилия для создания барьеров вокруг разработки передовых моделей искусственного интеллекта”, — сказал Триоло в интервью WIRED. Он добавил, что не хватало не только правительства США: из всех крупных американских лабораторий искусственного интеллекта только xAI Илона Маска прислала сотрудников для участия в форуме WAIC.

Многие западные посетители были удивлены, узнав, как много разговоров об искусственном интеллекте в Китае вращается вокруг правил техники безопасности. “За последние семь дней вы могли буквально без перерыва посещать мероприятия по безопасности искусственного интеллекта. И это было не так с некоторыми другими глобальными саммитами по ИИ”, — сказал мне Брайан Цзе, основатель базирующегося в Пекине исследовательского института безопасности ИИ Concordia AI. Ранее на этой неделе Concordia AI провела в Шанхае однодневный форум по безопасности с участием таких известных исследователей искусственного интеллекта, как Стюарт Рассел и Йошуа Бенгио.

Меняем должности

Сравнивая китайскую программу искусственного интеллекта с планом действий Трампа, кажется, что две страны поменялись позициями. Когда китайские компании впервые начали разрабатывать передовые модели искусственного интеллекта, многие наблюдатели думали, что их будут сдерживать требования цензуры, введенные правительством. Теперь американские лидеры заявляют, что хотят обеспечить, чтобы доморощенные модели искусственного интеллекта “соответствовали объективной истине”, и это стремление, как написал мой коллега Стивен Леви в информационном бюллетене Backchannel на прошлой неделе, является “вопиющим проявлением идеологической предвзятости сверху вниз”. Между тем китайский план действий в области искусственного интеллекта звучит как глобалистский манифест: в нем рекомендуется, чтобы Организация Объединенных Наций возглавила международные усилия в области искусственного интеллекта, и предлагается, чтобы правительства играли важную роль в регулировании этой технологии.

Хотя правительства этих стран очень разные, когда речь заходит о безопасности искусственного интеллекта, люди в Китае и США беспокоятся во многом об одном и том же: модельных галлюцинациях, дискриминации, экзистенциальных рисках, уязвимостях кибербезопасности и т.д. Поскольку США и Китай разрабатывают передовые модели искусственного интеллекта, “основанные на одной и той же архитектуре и использующие одни и те же методы масштабирования, типы воздействия на общество и риски, которые они представляют, очень и очень похожи”, — говорит Цзе. Это также означает, что академические исследования в области безопасности искусственного интеллекта в двух странах сближаются, в том числе в таких областях, как масштабируемый надзор (как люди могут контролировать модели искусственного интеллекта с помощью других моделей искусственного интеллекта) и разработка совместимых стандартов тестирования безопасности.

Но китайские и американские лидеры продемонстрировали, что у них совершенно разное отношение к этим вопросам. С одной стороны, администрация Трампа недавно безуспешно пыталась ввести 10-летний мораторий на принятие новых государственных правил в области искусственного интеллекта. С другой стороны, китайские официальные лица, включая даже самого Си Цзиньпина, все чаще заявляют о важности создания барьеров для искусственного интеллекта. Пекин также занимается разработкой национальных стандартов и правил для этой технологии, некоторые из которых уже вступили в силу.

По мере того, как Трамп проводит неортодоксальную и непоследовательную политику, китайское правительство все больше становится похожим на взрослого человека. Своим новым планом действий в области искусственного интеллекта Пекин пытается воспользоваться моментом и послать миру сигнал: если вы хотите стать лидером в этой изменяющей мир инновации, смотрите здесь.

Оскорбительное обаяние

Я не знаю, насколько эффективным в конечном итоге окажется китайское наступление на обаяние, но глобальное отступление США представляется Пекину возможностью распространить свое влияние, которая выпадает раз в столетие, особенно в тот момент, когда каждая страна ищет образцы для подражания, которые помогли бы им разобраться в себе. Риски, связанные с искусственным интеллектом, и наилучшие способы управления ими.

Но есть одна вещь, в которой я не уверен: насколько охотно китайская индустрия искусственного интеллекта примет это повышенное внимание к безопасности? В то время как китайское правительство и академические круги значительно активизировали свои усилия по обеспечению безопасности искусственного интеллекта, промышленность пока проявляет меньше энтузиазма — как и на Западе.

Согласно недавнему отчету, опубликованному Concordia AI, китайские лаборатории искусственного интеллекта раскрывают меньше информации о своих усилиях по обеспечению безопасности искусственного интеллекта, чем их западные коллеги. Из 13 передовых разработчиков искусственного интеллекта в Китае, которые были проанализированы в отчете, только три представили подробную информацию об оценках безопасности в своих научных публикациях.

Уилл рассказал мне, что несколько технологических предпринимателей, с которыми он беседовал в WAIC, заявили, что их беспокоят риски, связанные с искусственным интеллектом, такие как галлюцинации, предвзятость моделей и преступное использование. Но когда дело дошло до AGI, многие были настроены оптимистично, полагая, что технология окажет положительное влияние на их жизнь, и их меньше беспокоили такие вещи, как потеря работы или экзистенциальные риски. По словам Уилла, в частном порядке некоторые предприниматели признавали, что устранение экзистенциальных рисков для них не так важно, как понимание того, как масштабироваться, зарабатывать деньги и побеждать конкурентов.

Но правительство Китая подает четкий сигнал о том, что компании следует поощрять к устранению рисков, связанных с безопасностью искусственного интеллекта, и я не удивлюсь, если многие стартапы в стране изменят свое мнение. Триоло из DGA-Albright Stonebridge Group сказал, что он ожидает, что китайские исследовательские лаборатории frontier research начнут публиковать более передовые работы по безопасности.

Некоторые участники WAIC рассматривают акцент Китая на искусственном интеллекте с открытым исходным кодом как ключевую часть общей картины. “Поскольку китайские ИИ-компании все чаще используют мощные ИИ с открытым исходным кодом, их американские коллеги вынуждены делать то же самое”, — сказал WIRED Бо Пэн, исследователь, создавший модель большого языка с открытым исходным кодом RWKV.

Пэн видит будущее, в котором разные страны, в том числе и те, которые не всегда согласны друг с другом, будут совместно работать над искусственном интеллекте. “Конкурентная среда, состоящая из множества мощных ИИ с открытым исходным кодом, наилучшим образом отвечает интересам безопасности искусственного интеллекта и будущего человечества”, — пояснил он. “Потому что разные ИИ, естественно, воплощают разные ценности и будут держать друг друга в узде”.

Я тестирую ИИ на работе — вот мои секретные приёмы!