Автор: ПОДАРОК ХЕРАМБУ ДЕВИПРАСАД | PODAR HERAMB DEVIPRASAD
Краткий обзор
С приходом таких систем искусственного интеллекта как GPT-4 в последние несколько месяцев, появилась актуальность разработки общих применимых стандартов, которые способствуют безопасности ИИ, а также использования таких инструментов для экономического роста. Учитывая беспрецедентные темпы развития способностей ИИ, для стран БРИКС появилась уникальная возможность задействовать эти технологии для решения конкретных проблем, присущих тому или иному региону, и встроить решения ИИ в экосистему правительственных стартапов. Этот подход может внести значительный вклад в решение насущных социально-экономических проблем, уникальных для этих стран. Однако, потенциальные риски, ассоциируемые с ИИ, в особенности относительно конфиденциальности данных и возможного злоупотребления, обусловливают необходимость всестороннего и совместного подхода к формулированию политики.
Эта работа очерчивает ряд рекомендаций в области политики и применимых стандартов, нацеленных на безопасное, этичное и инклюзивное развитие и развертывание технологий ИИ в странах БРИКС. Эти рекомендации охватывают ряд критичных областей, включая защиту данных, прозрачность алгоритмов, ИИ в образовании и установление совместной регуляторной системы. Приняв эти стандарты, страны БРИКС позиционировать себя во главе инноваций ИИ, гарантируя, что развитие ИИ согласуется с коллективными интересами и ценностями их обществ.
Введение:
Зачем фокусироваться на БРИКС?
Брикс – это ассоциация пяти крупных стран, включающая Бразилию, Россию, Индию, Китай и Южную Африку. Развивающиеся экономики этих стран охватывают 30% мирового ВВП, по данным МВФ, и почти 46% мирового населения, по данным Соединенных Штатов.
Изображение с Visualcapitalist.com
Изображение с Visualcapitalist.com
Более того, в странах БРИКС молодое население, они раскинулись по всему миру и скоро к ним присоединятся новые члены.
Несомненно, эти страны являются крупными игроками на геополитическом ландшафте на региональном и международном уровне и обладают большим количеством потенциала. В этом свете другим странам приходится уделять внимание тому, что делает эта группа стран, так как это имеет далеко идущие последствия.
Предлагаемая в рекомендациях структура БРИКС
Зачем фокусироваться на Искусственном Интеллекте?
На недавнем саммите БРИКС премьер-министр Китая Си Дзиньпин сказал: “Нам нужно совместно отражать риски и развивать системы управления и стандарты ИИ с достижением широкого консенсуса, чтобы сделать технологии ИИ более безопасными, надежными, подконтрольными и справедливыми.” Китай “поставил государственную цель инвестировать 150 миллиардов долларов США в ИИ и стать мировым лидером в этой области к 2030 году. Такие страны, как Соединенные Штаты, Соединенное Королевство и Евросоюз также двигаются в сторону регулирования и фокусировки на использовании ИИ для своей экономики. Недавно мы видели, как президент Соединенных Штатов подписывает исполнительный приказ об ИИ как вопросе государственной важности, и как Евросоюз обсуждает свой знаковый Акт об ИИ.
ИИ прогрессирует с головокружительной скоростью и многие прогнозируют, что он вскоре достигнет уровня разумности человека.
По мере проникновения в предприятия и в общество инструментов, использующих достижения в обработке естественных языков, они могли бы вызвать увеличение мирового ВВП в 7% (или почти в $7 триллионов) и поднять рост производительности на 1,5 процентных пунктов за 10-летний период, согласно данным Голдман Сакс.
Анализ индексного отчета по ИИ по законодательным протоколам 127 стран показывает, что количество документов, содержащих “искусственный интеллект”, которые были приняты на законодательном уровне, выросло с всего 1 в 2016 году до 37 в 2022. Анализ парламентских протоколов по ИИ в 81 стране подобным образом показывает, что упоминания ИИ в мировых законодательных разбирательствах повысилось примерно в 6,5 раз с 2016 года. (отчет Стэндфордского института искусственного интеллекта, ориентированного на человека, 2023)
2023 Индексный отчет по ИИ Стэндфордского института искусственного интеллекта, ориентированного на человека – Количество публикаций по ИИ
Также примечательно, что инвестиции в ИИ сейчас в 18 раз выше, чем в 2013 году, что, похоже, предполагает, что ожидаемая экономическая отдача очень высокая.
2023 Индексный отчет по ИИ Стэндфордского института искусственного интеллекта, ориентированного на человека
Прогноз
“ЭйАй Импактс” (AI Impacts) был проведен опрос, сосредоточенный на тенденциях в развитии ИИ, нацеленный на исследователей, чьи работы были опубликованы в материалах конференции по нейронным системам обработки информации (NeurIPS) или международной конференции по машинному обучению (ICML), двух ведущих конференций по ИИ, в 2021 году. Из 4271 исследователей, с которыми был установлен первоначальный контакт, ответили 738 человека, что означает, что доля ответивших составила 17%. Эти исследователи предоставили свои прогнозы по ряду связанных с ИИ тем, включая предполагаемые даты появления и ожидаемое влияние ИИ на различные профессии (Epoch AI, 2021). Важно отметить, что результаты данного опроса могут демонстрировать некоторую степень смещения выборки. Например, возможно, что исследователи, у которых более агрессивные взгляды на временную шкалу и влияние ИИ, могли бы с большей долей вероятности принимать участие в таких опросах.
В еще одном опросе ведущих исследователей, проведенных Grace et al. в 2018 году, исследователи предполагают, что ИИ превзойдет человеческие возможности в нескольких задачах. Они прогнозируют, что ИИ преуспеет в языковом переводе к 2024 году, создании сочинений на уровне высших учебных заведений к 2026 году, вождении грузовиков к 2027 году, и управлении розничными рисками к 2031 году. Заглядывая дальше в будущее, они прогнозируют, что ИИ напишет бестселлер к 2049 году и будет проводить хирургические операции к 2053 году. В дополнение, эти исследователи оценивают в 50% вероятность того, что ИИ превзойдет человека во всех задачах в ближайшие 45 лет и автоматизирует все человеческие профессии в ближайшие 120 лет.
Прогноз ведущих исследователей, Grace et al.,2018
Популярный вебсайт коллективного прогнозирования Метакулус (Metaculus) содержит прогноз о том, что система слабого общего разумного ИИ появится в феврале 2026 года.
Прогноз на вебсайте Метакулус (Metaculus)
Текущая работа над ИИ в странах БРИКС
Страны БРИКС согласились запустить в ближайшем будущем Группу по изучению ИИ от Института БРИКС по изучению сетей будущего. У стран БРИКС есть свои Национальные ИИ стратегии и агентства по защите данных, которые имеют жизненно важное значение для защиты прав человека и безопасного развития ИИ. В странах БРИКС есть некоторые из самых молодых людей в мире, которые искусны в ИТ и способны сделать вклад в экономику посредством ИИ.
Более того, такие системы как Цели устойчивого развития ООН, Декларация стран “большой двадцатки” по ИИ и принципы ОЭСР в области ИИ направляют страны БРИКС, разрабатывая свою собственную национальную политику.
“ЭйАй Джорнал Пабликейшнз” (AI Journal Publications), 2023 Индексный отчет по ИИ Стэндфордского института искусственного интеллекта, ориентированного на человека
Особенно заметно, что страны БРИКС Индия и Китай являются основными лидерами в “ЭйАй Джорнал Пабликейшнз” (AI Journal publications), при этом на долю Китая приходится почти 40% всех публикаций между 2010 и 2021 годами.
Изображение сгенерировано с помощью DALL E-3
Предлагаемые стандарты:
Ниже представлены стандарты и рекомендации в области политики, которые Группа по изучению ИИ от Института БРИКС может применить на практике.
1. Принцип ИИ для общественного блага
Стороны соглашаются, что технологии ИИ будут создаваться, развиваться и разворачиваться для улучшения общественного благополучия в соответствии с глобальными целями устойчивого развития.
Источник: United Nations Sustainable Development Goals, ISO/IEC 38507:2017 - Governance of information technology for the organization.
2. Наставление через ИИ
Каждая сторона обязуется использовать ИИ для улучшения образовательных систем, гарантируя доступность и культурную адаптируемость.
Источник: UNESCO's Beijing Consensus on Artificial Intelligence and Education, ISO/IEC 23894:2020 - Information technology — Risk management for AI systems.
3. Автономные системы регуляции ИИ
Стороны должны гарантировать, что автономные системы ИИ функционируют в условиях подотчетности и прозрачности.
Источник: European Commission’s Ethics Guidelines for Trustworthy AI, ISO/IEC 42010:2011 - Systems and software engineering — Architecture description.
4. Принятие универсальных ориентиров ИИ
Стороны должны принять общий набор ориентиров для ИИ, гарантируя соблюдение принципов человеческих прав, разнообразия и отсутствия дискриминации.
Источник: OECD Principles on Artificial Intelligence, ISO/IEC 42001 - Information technology — Management system standards guidance.
5. Ориентированный на человека процесс принятия решений ИИ
Процессы принятия решений ИИ будут подлежать контролю со стороны человека, особенно в критических областях, влияющих на права человека.
Источник: EU’s White Paper on Artificial Intelligence, ISO/IEC 27001:2013 - Information technology — Security techniques — Information security management systems — Requirements.
6. Допустимые риски в ИИ
Каждая Сторона должна определить стандарты для оценки и управления рисков, связанных с ИИ
Источник: IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems, ISO/IEC TR 24028:2020 - Information technology — Artificial intelligence — Overview of trustworthiness in artificial intelligence.
7. Защита данных и конфиденциальность
Стороны принимают на себя обязательства по строгим стандартам защите данных.
Источник: General Data Protection Regulation (GDPR), ISO/IEC 29100:2011 - Information technology — Security techniques — Privacy framework.
8. Запрет на ИИ в смертоносном автономном оружии
Настоящим запрещается развитие и применение ИИ в смертельном автономном оружии.
Источник: International Committee of the Red Cross’s position on autonomous weapons, IEEE P7000 - Model Process for Addressing Ethical Concerns During System Design.
9. Снижение предвзятости к ИИ
Будут созданы методы определения и снижения предвзятости в системах ИИ, гарантирующие согласованность с человеческим достоинством.
Источник: UNESCO's Recommendation on the Ethics of Artificial Intelligence, ISO/IEC TR 24029-1:2021 - Information technology — Artificial intelligence — Assessment of the robustness of neural networks.
10. Гармонизация стандартов ИИ
Стороны будут сотрудничать для гармонизации стандартов ИИ, облегчающих функциональную совместимость и обмен передовым опытом.
Источник: IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems, ISO/IEC 30141:2018 - Internet of Things (IoT) — Reference architecture.
11. Обмен знаниями в ИИ
Будет создана платформа обмена знаниями между Сторонами чтобы делиться достижениями и решениями с сфере ИИ.
Источник: World Economic Forum’s Centre for the Fourth Industrial Revolution, ISO/IEC TR 24368:2020 - Information technology — Artificial intelligence — Use cases.
12. Объяснимость и прозрачность алгоритмов
Будут применяться стандарты, гарантирующие объяснимость и прозрачность алгоритмов ИИ.
Источник: AI Now Institute’s Report on Algorithmic Accountability, ISO/IEC TR 24027:2020 - Information technology — Artificial intelligence — Bias in AI systems and AI-aided decision making.
Рекомендации в области политики:
Рекомендации в области политики ИИ среди стран БРИКС
Принимая во внимание и признавая необходимость подхода сотрудничества в развитии и управлении технологиями Искусственного Интеллекта (ИИ) в странах БРИКС и стремясь создать систему кооперации, этических стандартов и взаимного развития в сфере ИИ, предлагаются следующие рекомендации.
Трансграничные инструменты безопасности
Стороны создадут и введут в действие инфраструктурную поддержку для мониторинга и проверки систем ИИ, а также инклюзивных наборов данных для создания процветающей экосистемы ИИ.
Это будет включать механизмы регулярной трансграничной передачи данных и поддержания целостности и безопасности данных.
2) Механизм периодического взаимного контроля
Должна быть создана ротационная система периодического взаимного контроля, в которой каждая Сторона проверяет политику в области ИИ другой страны, определяя возможности для сотрудничества и предлагая рекомендации для достижения ранее упомянутых стандартов.
3) Национальные стандарты хранения данных и кибербезопасности
Каждая Сторона соглашается создать практику национального хранения данных с общими стандартами кибербезопасности согласно международным ориентирам, гарантируя защиту данных граждан от несанкционированного доступа и взломов.
4) Объединенный технический комитет по консультациям
Будет создан объединенный комитет технических экспертов из всех стран-членов для консультации правительств относительно наилучших практик применения в области ИИ. Комитет также облегчит обмен исследованиями, стратегиями развития и этическими соображениями в области ИИ, работая с деловым советом БРИКС.
5) Ежегодная ротация проверок ИИ среди стран-членов
Предлагается ежегодная система проверок, где каждая страна-член оценивает системы и политику ИИ другой страны, гарантируя соответствие согласованным стандартам и способствуя непрерывному улучшению.
6) Открытость для независимых проверок
Все государства члены должны принять на себя обязательства по прозрачности, оставаясь открытыми для независимых проверок своих Национальных стратегий и применения ИИ, проводимых признанными международными агентствами-наблюдателями.
7) Схема классификации рисков ИИ
Стороны должны сотрудничать для создания всесторонней схемы классификации рисков для систем ИИ, рассматривая различные уровни воздействия и сложности.
8) Национальные институты безопасности ИИ
Каждой Стороне рекомендовано создать Национальный институт безопасности ИИ. Эти институты будут обеспечивать механизмы для граждан для сообщения о проблемах, связанных с предвзятостью по отношению к ИИ или нарушению прав человека, гарантируя подотчетность в применении ИИ.
9) Расширенная Технологическая Коалиция Брикс (BET)
Рекомендовано создание Расширенной Технологической Коалиции Брикс (BRICS Extended Tech Coalition – BET) для вовлечения стран, не являющихся членами БРИКС. Коалиция BET позволит облегчить техническое сотрудничество, введение стандартов и применение стратеги в ИИ.
СХЕМАТИЧЕСКАЯ ДИАГРАММА:
Схема предлагаемой структуры управления
Ограничения:
Многое из этого представляет собой циклический процесс согласования деталей, подлежащих обсуждению, и других соображений каждой отдельной страны-члена. Некоторые из ограничений стандартов и предлагаемые рекомендации по политике представлены ниже:
1) Группа изучения БРИКС была сформирована с целью мониторинга развития ИИ, а не разработки рекомендаций в области политики. Однако, эксперты Группы могут рекомендовать это для эффективного мониторинга и использования технологий ИИ правительствам членов.
2) Политика в области хранения данных и кибербезопасности должна уравновешивать глобальное сотрудничество с национальными интересами и вопросами суверенитета данных.
4) Для создания новых комитетов и учреждений (таких как Национальный институт безопасности ИИ) может потребоваться значительное количество ресурсов. Необходимо четкое руководство по финансированию и распределению ресурсов.
5) Стратегии охватывают широкие области и могут потребоваться более конкретные стратегии по применению для разных стран, с учетом их уникального социально-политического и технологического ландшафта.
Целесообразность гармонизации стандартов среди различных стран должна тщательно оцениваться, в особенности в таких сферах, как конфиденциальность данных и ИИ в вооружении.
Вывод:
Системы ИИ развиваются головокружительными темпами, и для такого развития должны быть рамки, чтобы не допустить нарушений социальной структуры. Гражданам и регуляторам нужно позаботиться о том, чтобы системы ИИ соответствовали ценностям человеческим ценностям, уважали права человека и использовались для максимизации социального благополучия. Странам БРИКС предстоит сыграть ключевую роль в этом росте, и они должны задавать стандарты для возможности использования ИИ с максимально возможной продуктивностью и решения насущных проблемы развивающихся стран в середине 21го века с целью стать лидером к 2100 году.
Оригинал (с изображениями и графиками) в приложении