«Альтернативные» ИИ говорят, что хотят демократизировать свою технологию. Вот как это может выглядеть
Спор вокруг дата‑центра в Юте стал испытательной площадкой для собраний граждан, проложив путь к надзору
Каков ваш «(п)конец» — процентная вероятность того, что вышедший из‑под контроля ИИ приведёт к экзистенциальной катастрофе? Судя по недавним предупреждениям, у руководителей технологических компаний этот показатель растёт.
25 сентября OpenAI приостановила обучение своих новейших передовых моделей на фоне сообщений о том, что агенты ИИ выходят из‑под контроля. На следующий день сенат Австралии пригласил руководителей OpenAI и Anthropic явиться на слушания после случаев, когда вышедшие из‑под контроля агенты OpenAI взломали сайты правительства США и портал австралийской системы здравоохранения. Оба отказались прийти.
Билл Гейтс тем временем предупредил, что в плохих руках ИИ может «привести к миллиарду смертей». «Никто не считает, что саморегуляции достаточно», — сказал он.
Несколько дней раньше Дарио Амодей и Сэм Олтман, генеральные директора Anthropic и OpenAI, выступали перед Советом Безопасности ООН. Амодей предупредил, что ИИ может стать «риском для всего человечества». Олтман заявил, что «если ИИ должен быть демократичным, самые важные решения не могут приниматься одними лишь лабораториями в Сан‑Франциско».
Вне апокалиптических сценариев ИИ уже меняет школы, рабочие места и государственные службы, причем самые уязвимые группы чаще и сильнее ощущают последствия. Если демократия имеет значение в эпоху технологической мощи, то мы, по сути, обязаны попытаться демократизировать ИИ. Но как это сделать?
Юта дает представление. Предложения о строительстве дата‑центра более чем вдвое большего по площади, чем Манхэттен, вызвали яростную реакцию из‑за потребления энергии и возможного воздействия на истощённые водные ресурсы штата и экосистему Большого Солёного озера — и при этом люди чувствовали себя исключёнными из процесса принятия решений.
18–19 сентября организация Utah Common Ground собрала 38 жителей, отобранных по гражданской лотерее, чтобы обсудить, какую роль общественность должна играть в формировании решений о технологиях ИИ и инфраструктуре.
Несмотря на политические различия, участники единогласно выступили за расширение общественного контроля. Их 10 рекомендаций включали публичные слушания и независимые экологические оценки для гипермасштабных дата‑центров, программы повышения грамотности в области ИИ, управляемые сообществами, и ужесточение правил прозрачности. Каждая рекомендация получила не менее 82% поддержки. В поляризованном штате это мандат, который законодатели вряд ли смогут просто проигнорировать.
Во всем мире за последние пять лет было более 80 проектов по участию общественности, посвящённых ИИ, в которых приняли участие более 200 000 человек в более чем 95 странах. В Швейцарии собрание граждан потребовало защиты приватности, прозрачности и значимого человеческого контроля. Бельгийская гражданская панель выступила за ИИ, который служит всем и никого не оставляет позади.
В настоящее время, однако, эта работа фрагментирована и в основном игнорируется лицами, принимающими решения в правительстве и в лабораториях. Citizens’ Track on AI — децентрализованная сеть собраний, укоренённых в сообществах, но связанных с институтами, где принимаются важные решения по ИИ — призвана это изменить.
Проект Bloom, который помог организовать собрание в Юте, строит одну часть этой сети: серию местных и штатных собраний в США, призванных в итоге сформировать национальное собрание граждан по ИИ в 2028 году. На глобальном уровне амбиция состоит в том, чтобы связать собрания разных стран с формирующимися в ООН процессами управления ИИ, одновременно создавая прямые каналы подотчетности компаниям, разрабатывающим ИИ.
Мост, построенный могущественными, может быть свёрнут ими же. Именно поэтому Юта важна. Её форум опирался на гражданские группы, которые переживут само событие, хотя пока нет гарантии, что к их выводам прислушаются. Прочная гражданская сила требует сочетания: сообществ, которые продолжают собираться, и лиц, принимающих решения, которые должны давать им отчёт.
Тот же принцип лежит в основе опубликованных на прошлой неделе предложений о создании постоянного глобального собрания граждан по ИИ: сочетать независимый моральный авторитет глобально представительных, самоуправляемых граждан с законодательными полномочиями привлекать компании по ИИ к ответственности за практики безопасности и выверки.
Ничего из этого не даётся легко. Тем не менее обсуждение не обязательно должно быть медленным: на Тайване от гражданской панели до закона прошли месяцы в попытке бороться с мошеннической рекламой. Также трудно подкупить результат: лоббисты могут купить влияние на политику, но не исход решения гражданского собрания.
Может ли всё это защитить нас от использования ИИ для кибератаки, разработки биологического оружия или ухода технологий из‑под человеческого контроля? Само по себе — нет. Но вопрос о том, какой риск общество готово принять, не инженерный — он политический. Гражданские собрания могут дать правительствам мандат и прикрытие, чтобы вводить тестирование, устанавливать красные линии и кнопки остановки, которые компании не захотят вводить сами.
Опасность заключается не только в том, что ИИ может выйти из‑под контроля. Опасно также то, что люди, контролирующие ИИ, — малая группа элитных руководителей, инвесторов и политиков, уязвимых перед корпоративным захватом.
Олтман был прав: решения такого масштаба не могут оставаться только в лабораториях Сан‑Франциско. Но перенос их в закрытые встречи между влиятельными государствами тоже не сделает ИИ демократичным.
Представьте вместо этого, что каждая школа, каждое рабочее место и каждое сообщество подключаются к этому процессу: формируют, чем занимаются компании по ИИ, и одновременно становятся проактивными перед лицом наступления ИИ. Подлинно глобальное собрание граждан, укоренённое в сообществах, которые понимают последствия дата‑центров и смещения труда. Что‑то достаточно крупное, чтобы противостоять сценарию гонки вооружений в области ИИ, который доминирует в дискуссии и парализует политические действия.
Ключевой вопрос, таким образом, не в том, реалистична ли демократизация ИИ, а в том, реалистично ли вообще управление ИИ без неё.
Демократия — не дополнительное ограничение для этой технологии. Возможно, это наш единственный способ сохранить её разработку и развертывание под значимым человеческим контролем.
Ричард Уилсон — генеральный директор фонда Iswe, Клара Лонг — сопредседатель проекта Bloom.