США предложили Китаю создать специальный механизм уведомления о серьезных инцидентах в сфере искусственного интеллекта, которые могут представлять угрозу национальной безопасности. Инициатива предполагает создание канала экстренной связи между двумя странами.
Предложение обсуждалось 20 сентября в Нью-Йорке на переговорах министра финансов США Скотта Бессента и вице-премьера Госсовета КНР Хэ Лифэна. Вопрос об организации более широкого американо-китайского диалога по вопросам ИИ может быть вынесен на предстоящую встречу Дональда Трампа и Си Цзиньпина.
По словам Бессента, Вашингтон предлагает сосредоточить такой диалог на национальной безопасности, общих целях и общих угрозах. При этом конкретные критерии, при которых должен срабатывать механизм уведомления, пока не сообщаются.
Одним из возможных сценариев эксперты называют ситуацию, когда автономная ИИ-система инициирует масштабную кибератаку или другая модель начинает действовать непредсказуемым образом за пределами страны, где она была разработана. В таких случаях дополнительную опасность может создавать неопределенность с источником инцидента: ведь неясно, было ли действие санкционировано государством, совершено негосударственным субъектом или стало результатом поведения самой системы.
Китай пока публично не подтвердил согласие с американским предложением. Агентство Синьхуа сообщило, что Хэ Лифэн и Скотт Бессент обсуждали вопросы, связанные с искусственным интеллектом, однако подробностей относительно механизма уведомлений не привело.
Предлагаемый канал может стать продолжением существующих механизмов экстренной коммуникации между Пекином и Вашингтоном. В 1997 году страны договорились о создании защищенной прямой телефонной линии между руководителями двух государств, а с 2008 года действует военная линия связи для предотвращения эскалации в случае опасных инцидентов.