«Вопрос не в том, повлияет ли ИИ на международный мир и безопасность, а в том, как мы будем формировать это влияние», — сказал Антониу Гутерриш.
Инструмент защиты или оружие?
При ответственном использовании, отметил Гутерриш, ИИ поможет предотвращать конфликты и защищать население, в том числе за счёт выявления потенциальных вспышек насилия. ИИ также используется в разминировании и других областях.
При этом он также может превратиться в оружие. Искусственный интеллект уже активно используется в конфликтах.
«Кибератаки с использованием ИИ могут уничтожить критически важную инфраструктуру или нарушить её работу в считанные минуты. Возможность фальсифицировать и манипулировать аудио- и видеоматериалами угрожает целостности информации, усиливает поляризацию и может спровоцировать дипломатические кризисы», — сказал генсек.
ИИ, международная безопасность и роль Совбеза
Одна из основных целей открытых дебатов в Совете — стимулировать обсуждение вопросов снижения рисков, связанных с использованием ИИ, и максимизации его преимуществ в контексте международного мира и безопасности с учётом потенциальной роли Совбеза в этом процессе.
«Совет [Безопасности] и государства-члены ООН должны обеспечить, чтобы военное использование ИИ находилось в полном соответствии с международным правом и Уставом ООН», — сказал Гутерриш.
Человеческий контроль
Он подчеркнул, что человек должен контролировать любое решение о применении силы.
«Судьба человечества не может быть оставлена на усмотрение алгоритма. Люди всегда должны сохранять контроль над решениями, касающимися жизни и смерти», — заявил он.
Гутерриш также призвал создать глобальную нормативную базу для использования ИИ.
ИИ может подвергнуть риску всё человечество
Учитывая значительный прогресс в разработке технологий искусственного интеллекта, которые могут как способствовать укреплению, так и подрывать международную безопасность, члены Совета Безопасности в последнее время стали уделять больше внимания этому вопросу. Отчётная встреча — третье официальное заседание Совета, посвящённое ИИ. Великобритания провела первое заседание по этой теме в июле 2023 года, а США — второе в декабре 2024 года.
Дебаты на полях Недели высокого уровня Генассамблеи ООН проходят под председательством Южной Кореи. В них приняли участие приглашенные докладчики: Еджин Чой, старший научный сотрудник Института ИИ, ориентированного на человека, при Стэнфордском университете и Йошуа Бенжио, профессор Монреальского университета, сопрезидент некоммерческой организации LawZero.
Бенжио предупредил, что человечество в настоящее время не знает, как контролировать самые передовые системы искусственного интеллекта. Это уже создает серьёзные проблемы, отметил он, напомнив о недавних инцидентах с участием чат-ботов, которые могли поставить под угрозу жизнь людей с психическими расстройствами.
Профессор добавил, что ИИ может превзойти людей в выполнении большинства когнитивных задач в течение ближайших пяти лет.
«Если возможности моделей искусственного интеллекта продолжат превосходить человеческие возможности без научных гарантий их безопасности…, мы достигнем точки, когда ИИ сможет действовать необратимо, выйдя из-под чьего-либо контроля и подвергая риску всё человечество», — сказал Бенжио.
«Мы должны быть осторожны и не уступить наш коллективный человеческий и национальный суверенитет компаниям или используемым ими моделям ИИ. Мы должны действовать немедленно, чтобы сообща снизить все эти риски. Эта проблема не ограничивается пределами одной страны, а угрожает всем нам», — добавил он, обращаясь к членам Совбеза.
Демократизация ИИ
Еджин Чой заявила о необходимости обеспечить, чтобы системы ИИ представляли все сообщества, а также были доступны всему населению планеты. Для этого ещё очень многое предстоит сделать, отметила она.
«Мы должны сместить акцент на то, что действительно важно для человечества: языковое и культурное разнообразие и плюралистические ценности. Современные ведущие модели ИИ неэффективны для многих языков, кроме английского, и отражают ограниченные культурные установки», — сказала профессор.
Это приводит к систематическому исключению целых сообществ из процессов развития ИИ и максимизации преимуществ его использования. Чой подчеркнула, что системы изначально должны создаваться восприимчивыми к различным языкам, контекстам и перспективам.
Она призвала к созданию общественной инфраструктуры ИИ, которая будет доступна каждому.
Позиции стран
В своём выступлении постоянный представитель России при ООН Василий Небензя заявил, что тема искусственного интеллекта не связана с «чётко прописанным в Уставе ООН мандатом СБ по поддержанию международного мира и безопасности».
По его словам, в Совбезе есть «неестественный перекос в сторону представительства стран Запада».
«Соответственно, высок риск того, что эта группа государств, заинтересованная в сохранении и упрочении своего технологического лидерства в этой области, попытается навязать всему международному сообществу свой узкокорыстный подход», — сказал Небензя.
Он добавил, что для обсуждения ИИ существуют профильные площадки, включая Группу правительственных экспертов по смертоносным автономным системам вооружений и Комиссию ООН по разоружению. ООН в целом «может и должна сыграть координирующую роль в вопросах развития ИИ», считает постпред РФ.
Заместитель постоянного представителя Франции при ООН Джей Дхармадхикари заявил, что новые возможности, предоставляемые искусственным интеллектом, должны усиливать эффективность деятельности Организации Объединённых Наций.
«При ответственном использовании возможности ИИ в области сбора и анализа данных могут улучшить защиту гражданского населения и облегчить работу миротворческих операций», — сказал он.
Дипломат призвал создать общую архитектуру управления ИИ, основанную на международном праве. Совет Безопасности, по его мнению, призван сыграть в этом особую роль.
Читайте по теме:
Канцлер права: Зависимость от технологий просто опасна
Кая Каллас: Искусственный интеллект пришёл, чтобы остаться
ЕС хочет стать мировым лидером в области искусственного интеллекта