Участники круглого стола с представителями государственного и академического секторов Северной Ирландии обсудили, как искусственный интеллект может помогать принимать более взвешенные решения в образовании и госуправлении. В центре обсуждения были прогнозирование спроса, обмен данными между организациями, этические ограничения и доверие общества.
Как ИИ может помочь прогнозировать спрос и распределять ресурсы?
Хелен Маккарти: ИИ не обладает способностью прогнозировать спрос сам по себе. Говорить иначе — значит приписывать технологии человеческие качества. Важно подчеркнуть, что системы ИИ разрабатывают люди, и данные для них тоже собирают люди. Прогнозы зависят от качества этих данных. Потенциал применения ИИ для прогнозирования спроса и распределения ресурсов значителен, но сначала нужно привести данные государственного сектора к категориям и форматам, пригодным для таких систем. Качество результата зависит и от данных, и от самой системы. Если всё настроено правильно, ИИ может предоставить фактическую основу для выработки политики.
Пол Грокотт: Выработка политики — это решение проблем, а данные и факты необходимы, чтобы понять, с какими проблемами сталкиваются ответственные за неё специалисты. ИИ может помочь в этом процессе, но важны и навыки, не связанные напрямую с технологиями. Нам по-прежнему нужны люди, которые умеют творчески и любознательно смотреть на проблемы под другим углом и использовать данные для поиска решения.
Джон Макшейн: Многие вещи, которые называют ИИ, на деле представляют собой более эффективное использование данных и более быстрый доступ к ним. ИИ упрощает такой доступ. Если данным можно доверять, их можно использовать, чтобы понять, что происходит внутри системы, смоделировать разные решения в сфере политики и оценить их возможные последствия. Например, можно выяснять, почему студенты бросают университетские курсы. ИИ помогает выявлять факторы риска, после чего можно принимать меры, чтобы студенты не прекращали обучение. В контексте выработки политики ИИ — это дополнительный уровень анализа данных, которого раньше не было.
Дэвид Крозье: В проектах Центра передовых инноваций и сотрудничества (AICC) с малыми и средними предприятиями мне особенно запомнились два проекта в сфере интернета вещей. Оба решали сходные задачи. У одной компании было два года хорошо изученных, управляемых и структурированных данных. Другая внедряла ИИ, почти не понимая, что делает. Лучших результатов добилась компания, которая хорошо знала свои данные и чётко понимала, какую бизнес-задачу нужно решить. Чтобы получать прогнозы с помощью любой технологии ИИ, необходимо понимать данные и иметь систему управления ими. При выработке политики также важно привлекать граждан, особенно если ИИ используется для решений, которые на них влияют. Чтобы укрепить доверие, нужно предусмотреть подходящий способ обжалования таких решений.
Стивен Маккейб: Нужно спросить себя, что ИИ может сделать такого, чего мы ещё не делаем сами, и какую пользу он способен принести процессу выработки политики. Системы ИИ объединяют и анализируют большие разрозненные наборы данных: административные записи, экономические показатели, спутниковые снимки и другие слои информации. Такого анализа раньше провести не удавалось. Он может помочь прогнозировать спрос на государственные услуги. ИИ следует использовать не только для сбора того, что уже есть в интернете, но и для выдвижения гипотез. Это может быть очень полезно при разработке политики.
Например, ИИ может в реальном времени прогнозировать число госпитализаций и движение пациентов по системе здравоохранения, помогая планировать работу персонала. В Momentum One Zero мы сотрудничали с регулятором в сфере здравоохранения RQIA, чтобы разработать инструмент обработки естественного языка, который анализирует большие объёмы отзывов пациентов. Благотворительная организация Care Opinion собирает рассказы пациентов об их опыте. Мы можем обрабатывать эти данные в большом масштабе и передавать результаты больничным фондам на уровне советов директоров, чтобы помочь им принимать решения о качестве услуг.
Лиам Магуайр: Сильная сторона ИИ — способность работать со сложностью и большими объёмами данных. С его помощью можно создавать разные модели и проводить анализ чувствительности, чтобы увидеть, как на них влияют внешние факторы. Такие модели дают информацию, на основе которой другие могут разрабатывать политику и принимать решения. ИИ может предоставить политикам аналитические выводы, но сами решения принимают не системы ИИ.
Как наладить обмен данными между школами, университетами и государственными ведомствами?
Лиам Магуайр: Стоит спросить, действительно ли достаточно просто устранить разобщённость. В разных организациях всегда будут отдельные хранилища данных. Главное — знать формат и структуру данных, чтобы обеспечить федеративный доступ. Если понятно, как обращаться к каждому хранилищу, данные смогут взаимодействовать. Вместо того чтобы пытаться ликвидировать такие хранилища, следует признать, что они существуют, и сосредоточиться на совместной работе наборов данных. Речь идёт о совместимости и доступе, а не об отъёме контроля над данными у организаций.
Джон Макшейн: Центры хранения данных и их изолированные хранилища никуда не исчезнут: организации хотят владеть своими данными и защищать их. Техническая совместимость во многом уже обеспечена — современные системы умеют обмениваться данными. Настоящие трудности связаны с соглашениями об обмене данными и политикой организаций. Это вопрос установок: организации часто приучены с самого начала закрывать данные. Но к данным нужно относиться как к активу — надёжно хранить и широко предоставлять к ним доступ там, где это уместно. Важно спрашивать, как безопасно хранить данные и одновременно извлекать из обмена ими максимальную пользу, а не ограничивать доступ без необходимости.
Стивен Маккейб: Существуют и технические решения, и механизмы управления, но обычно важнее именно управление. Нужно наладить взаимодействие между отдельными хранилищами и дать нужным людям доступ в нужное время. Для этого необходимы политическая воля и зрелые партнёрские отношения между организациями, которые доверяют друг другу и разделяют общественные цели. ИИ должен помогать принимать решения, а не заменять демократические процедуры. Прозрачность, человеческий контроль и подотчётность — важные технические гарантии, но без доверия между организациями и секторами не получится наладить обмен данными и сотрудничество.
Дэвид Крозье: Сотрудничество важно для общего блага Северной Ирландии. Проекты AICC показывают, что университеты, бизнес и партнёры могут эффективно работать вместе, если заранее установить правила управления и заключить соглашения об обмене данными. Снижение конкуренции и свободный обмен специалистами, знаниями и данными улучшают результаты. Общая инфраструктура и оборудование приносят больше пользы и организациям, и гражданам. Когда правительство готово идти на контролируемый риск и содействовать сотрудничеству, результаты становятся лучше. Успех зависит от обмена опытом и источниками данных, а также от готовности конструктивно работать сообща.
Пол Грокотт: Большинство механизмов для обмена данными уже существует, а там, где их нет, можно заключить соглашения. Главная проблема — скорее установки и организационная культура, чем законодательство. Дополнительные трудности создают устаревшие системы. Обеспечение доступа к данным редко становится приоритетом по сравнению с новыми политиками или инициативами. Нужно найти способы работать с устаревшими данными и системами, не затевая дорогостоящие и провальные ИТ-проекты. Инвестиции нужны, но важно менять подходы и искать практические решения, которые позволят использовать уже имеющиеся данные, а не перестраивать всё целиком.
Хелен Маккарти: Прежде всего нужно отказаться от установки «каждый сам за себя» и сосредоточиться на том, что лучше для Северной Ирландии. Обмен данными улучшает принятие решений и результаты для граждан, а также приносит финансовую пользу, потому что данные — ценный ресурс. В Северной Ирландии все тесно связаны друг с другом, и это можно использовать, чтобы привлечь к общей цели тех, кто пока не участвует. Важны такие механизмы, как программы преобразований, советы по инновациям и сотрудничество государства, бизнеса и академического сообщества. Главное — культурные изменения, подкреплённые управленческими механизмами и законодательством.
Как создать надёжные экосистемы данных, отвечающие требованиям управления данными и этики ИИ?
Дэвид Крозье: Доверие нужно заслужить, а не считать чем-то само собой разумеющимся. Граждане готовы к преобразованиям, но беспокоятся, что решения будет принимать ИИ. Доверие возникает благодаря прозрачности сбора и использования данных, чёткой ответственности и соблюдению этических принципов с самого начала. Об управлении и этике нужно думать ещё на этапе планирования, а не пытаться добавить их позже. Если решение негативно сказалось на человеке, у него должен быть способ добиться пересмотра. Если ошибки быстро не исправлять, они могут стать политической проблемой. Поэтому механизмы управления, этические принципы и подотчётность необходимо закладывать в проекты с самого начала.
Лиам Магуайр: Исторические данные могут содержать предвзятость, которую обнаружат лишь позже. Важны не только сами данные, но и то, как их интерпретируют и используют для запросов. У нас больше нет единого источника истины: существуют разные трактовки. Доверие зависит от того, как используются данные и каким образом на их основе делают выводы. Интерпретация не менее важна, чем качество данных, а множество источников истины затрудняет обеспечение последовательности и доверия между системами.
Хелен Маккарти: Надёжные экосистемы начинаются с доверия между командами, работающими с данными. В стратегии по ИИ мы рекомендуем создавать команды по надзору за ИИ, а не поручать эту работу одному человеку. Такие команды следят за предвзятостью, дрейфом моделей, подотчётностью и прозрачностью. Если возникают проблемы, организации должны открыто сообщать о них и объяснять произошедшее. Это укрепляет доверие. Важно и то, что стратегия по ИИ создана совместно представителями разных секторов: благодаря этому все понимают её и считают своей. Иными словами, доверие начинается с сотрудничества ключевых участников и укрепляется благодаря управлению, механизмам обжалования и открытости на всех этапах внедрения.
Пол Грокотт: Надёжные системы строятся на ясных принципах, которые определяют ожидаемое поведение и правила использования. Прозрачность крайне важна. Организации должны понимать ограничения ИИ и управлять связанными с ним рисками, в том числе предвзятостью, нарушением конфиденциальности, проблемами интеллектуальной собственности и распространением недостоверной информации. Доверие также укрепляется, если начинать с небольших проектов, проводить пилотные испытания и масштабировать успешные решения. Крупные провалы быстро подрывают уверенность. Люди начинают доверять технологиям, когда видят ощутимые улучшения услуг и личную пользу от обмена данными. Необходимы также инвестиции в обучение и развитие специалистов, чтобы они умели ответственно работать в таких экосистемах.
Джон Макшейн: Доверие возникает, когда исчезает таинственность вокруг ИИ. Многие уже пользуются ИИ, даже не подозревая об этом. Проблемы появляются, если система выдаёт неверную информацию и не может объяснить, как к ней пришла. Качество данных по-прежнему имеет решающее значение. Системы нужно проектировать так, чтобы можно было отследить их результаты, выявить ошибки и исправить их. Разделение процессов внутри систем ИИ упрощает аудит и объяснение результатов. ИИ будет ошибаться, но доверие зависит от того, можем ли мы понять причины ошибок и способы их устранения, а не от слепой веры в непрозрачную систему.
Стивен Маккейб: Для создания доверия нужны и технические решения, и механизмы управления. К техническим мерам относятся работа с качеством данных, безопасность на этапе проектирования, конфиденциальность по умолчанию, обезличивание и архитектура нулевого доверия. Не менее важны общественные комиссии по данным, стандартные соглашения об обмене данными и согласованные механизмы управления. Федеративный доступ и методы защиты конфиденциальности позволяют обмениваться данными без их непосредственной передачи. Хороший пример из здравоохранения — защищённые среды для исследований. Для создания надёжных экосистем важно знать, кто и зачем получает доступ к данным, а также обеспечить эффективное управление и необходимые инвестиции.
Как сочетать инновации с этичной и ответственной разработкой и использованием ИИ?
Пол Грокотт: На уровне организаций подход Великобритании состоит в том, чтобы поддерживать амбициозные инновации на основе чётких принципов. Нужно инвестировать в подготовку тех, кто использует ИИ, и помогать им преобразовывать государственные услуги, понимая, как внедрять технологии ответственно и этично. Это означает необходимость учитывать предвзятость, соблюдать законы о защите конфиденциальности, понимать ограничения систем и уметь объяснять решения. Например, если ИИ помогает выставлять оценки или принимать решения в сфере образования, их нужно уметь объяснить тем, кого они касаются. Важно поддерживать специалистов, чтобы они могли ответственно работать в условиях, где поощряются инициативность и готовность к разумному риску.
Хелен Маккарти: Значение инноваций различается в зависимости от контекста: это могут быть передовые исследования, промышленные разработки или практические инструменты для благотворительных организаций, школ и государственного сектора. В государственном секторе инновации должны приносить пользу, расширять вовлечённость и улучшать результаты. Этика зависит от того, как используется ИИ, поэтому неверно представлять инновации и этические требования как противоположности. Нужны и то и другое, но правила должны учитывать конкретный контекст.
Дэвид Крозье: Этические и моральные последствия нужно учитывать наравне с инновациями. Подход «действуй быстро, ломай всё на ходу» не подходит для государственных услуг. Управленческие механизмы, этические принципы и нормативные требования следует учитывать вместе с инновациями. Политики и государственные служащие отвечают за предоставление общественных услуг этичным, ответственным, устойчивым и воспроизводимым способом, а не за коммерческие показатели вроде объёма привлечённого финансирования. Инновации необходимо сочетать с ответственностью, чтобы их результаты можно было публично и политически обосновать.
Хелен Маккарти: Чтобы этот баланс работал, государственный сектор должен доверять решениям частных компаний. Некоторые инновации можно испытывать на специальных площадках, но они не подходят для применения в государственных услугах; в то же время для ряда разработок государственному сектору нужна поддержка бизнеса. Для правильного баланса необходимо партнёрство. Этические стандарты определяют, что можно внедрять в государственных услугах, тогда как инновации продолжают развиваться в других сферах. Всё это требует доверия, ясных ожиданий и общей ответственности государственного и частного секторов.
Лиам Магуайр: Инновации естественным образом раздвигают границы, но не все границы имеют отношение к этике. ИИ может сделать инновации доступнее, особенно для стартапов, и ускорить разработку. Само по себе это не является этической проблемой. Она возникает в зависимости от того, как устроено управление системами. Нужны предохранительные механизмы: управление, журналы аудита и контроль. Но этические требования не должны душить инновации. Развитие необходимо, а рисками следует управлять с помощью подходящих ограничений, а не препятствовать прогрессу.
Пол Грокотт: Использование ИИ для поддержки стартапов может воспроизводить существующую предвзятость, если исходные данные дискриминируют меньшинства, женщин или другие группы. Здесь и важны этические требования. В стартапах и инновациях нет ничего неэтичного само по себе; нужно смотреть, кто получает пользу, а кто оказывается исключён. Ответственный подход предполагает, что предвзятость в данных и системах распознают и устраняют, чтобы инновации не усиливали неравенство.
Стивен Маккейб: Главный вопрос — служат ли инновации общественному благу. Нужен подход, основанный на уровне риска: чем выше возможный ущерб, тем серьёзнее должны быть меры защиты. Этическая ответственность не исключает эксперименты. На специальных площадках можно быстро тестировать решения и даже допускать неудачи, не подвергая общество опасности. Это позволяет учиться и двигаться вперёд, защищая граждан. Ответственность лежит на всех участниках, а эксперименты следует поощрять в контролируемых условиях.
Джон Макшейн: Общество Северной Ирландии заслуживает того, чтобы мы внедряли инновации ради решения реальных проблем, например старения населения и нехватки квалифицированных кадров. ИИ может помочь справиться с этими трудностями. Инновации нужно испытывать ответственно, закладывая безопасность и этические принципы уже на этапе проектирования. В крайних случаях границы между этичным и неэтичным использованием часто очевидны, но в неоднозначных ситуациях согласия меньше. Их нужно изучать дальше. По мере появления новых примеров станет яснее, где проходят этические границы и как предотвратить злоупотребления инструментами ИИ.
Хелен Маккарти: Инструменты частного сектора не следует внедрять в государственном секторе, если они не отвечают установленным этическим стандартам. Граждан и сотрудников государственных служб нужно вовлекать в этот процесс. Уже есть множество этически обоснованных способов применения ИИ, которые могут принести значительную пользу государственному сектору. Начав с них, можно укрепить доверие, а затем переходить к более передовым инновациям. Этические проверки также необходимы на всех этапах готовности технологии, чтобы отсеивать потенциально вредные варианты до внедрения.
Как укрепить доверие к данным и ИИ среди учителей, учащихся и сотрудников?
Стивен Маккейб: Доверие укрепляется наглядной демонстрацией. Нужно показать, что ИИ работает и ему можно доверять, причём сделать это понятным для общества образом. В Momentum One Zero мы объединяем кибербезопасность и ИИ и всё чаще сотрудничаем с компаниями, чтобы проверять надёжность их систем ИИ.
Лиам Магуайр: Доверие общества — серьёзная проблема. Нужно учитывать, что оно различается в зависимости от пола, возраста и уровня образования. Начинать следует с групп, где доверие выше, — например, с молодых людей, привыкших к цифровым технологиям. В образовании один из главных вопросов — оценивание учащихся. ИИ изменит не только преподавание, но, что важнее, и способы оценивания. Раньше проверяли механическое запоминание, а теперь нужно выявлять, насколько учащиеся понимают предмет. Это станет серьёзной задачей для образования.
Дэвид Крозье: Я бы разделил учителей и сотрудников, с одной стороны, и учащихся — с другой. Чтобы рассказать руководителям отрасли о преимуществах ИИ, нужно сначала действительно предоставить им эти преимущества: например, автоматизировать значительную часть административной работы. Это освободит время для преподавания и вдохновения учащихся. Детей нужно учить использовать ИИ для решения проблем, а не просто как способ быстрее выполнить задания.
Джон Макшейн: Между этими группами есть поколенческий разрыв. Некоторые принципы, которые помогли людям перейти от бумажных систем к цифровым, по-прежнему актуальны. Как и тогда, важно вовлечь людей в перемены. Нужен комплексный подход, в том числе развенчание мифов об ИИ. Самые успешные ИТ-проекты привлекают заинтересованные стороны с самого начала, и те начинают считать систему своей. Для этого нужно сопровождать людей на протяжении всего процесса.
Хелен Маккарти: Обучение и развитие грамотности в области ИИ — один из ключевых принципов, поскольку разные группы существенно отличаются по уровню понимания этой технологии. Поэтому мы предлагаем, чтобы в каждом проекте с применением ИИ был участник команды, отвечающий за обучение пользователей системы. Большинство руководителей высшего звена не работают непосредственно с ИИ, поэтому им тоже нужны короткие и доступные обучающие материалы. Учащиеся, в свою очередь, должны осваивать основы ИИ: в будущем это станет важным навыком. Для укрепления доверия общества мы предлагаем создать гражданский форум.
Пол Грокотт: Чтобы укрепить доверие к ИИ, нужно следить за тем, чтобы он не закреплял существующую предвзятость. Не следует усиливать её и оставлять позади учащихся, сотрудников и сообщества, которые уже находятся в невыгодном положении. ИИ нужно применять так, чтобы улучшать государственные услуги для всех.