Читайте также на day.kyiv.ua

Artificial Intelligence (AI) — новое словосочетание, которое бесповоротно наползает на Земной шар. Идея AI, или искусственного интеллекта, не просто стала мировым трендом, а с каждым годом охватывает все больше сторонников во всех сферах жизнедеятельности — от управления в политике, бизнесе или в армии до создания нового типа бытия для отдельного индивидуума. Конечно, полная автоматизация жизни имеет свои беспрекословные преимущества, безгранично расширяет горизонты, да и вообще создает новую реальность. Но в этой новой реальности, где может быть реализован диктат обладателей технологий, значительные массы людей, да и целые государства могут оказаться уязвимыми и незащищенными.

Украина в направлении овладения AI отстала, как утверждают специалисты, лет на 30—40. Это пока не безнадежно, хоть и очень близко. Но отстала не только Украина, но и огромная группа государств, среди которых, кстати, немало европейских. В то же время в Украине остались участки, где можно было бы выковать и соответствующие кадры, и системные возможности для овладения-укрощения AI. При определенных  условиях. Если государство окажется способным стать реальным союзником и участником объединения усилий. Если появится соответствующая государственная программа и условия для ученых и практиков работать дома, а не в силиконовых долинах других стран.

Пока, базируясь на этом, в Украине возникла общая инициатива профильных негосударственных разработчиков и экспертов: Группа компаний «Эверест» и Центр исследований армии, конверсии и разоружения (ЦДАКР) в марте 2018 г. создали информационную платформу «Искусственный интеллект», которая охватывает разработку ряда перспективных направлений в сфере новейших технологий.

БЕЗОПАСНОСТЬ И ОПАСНОСТЬ ИСПОЛЬЗОВАНИЯ ТЕХНОЛОГИЙ АІ: КАКИЕ ОСНОВНЫЕ ФАКТОРЫ?

Как так произошло, что Украина с ее традиционными успехами в сфере информационных технологий оказалась в зоне риска?

Дело в том, что индивидуальное измерение овладения и разработок технологий в Украине действительно мощное. А вот государственное, которое должно учитывать два глобальных аспекта — применения AI и реагирования на чужое или вообще несанкционированное применение таких технологий, — в результате многих факторов тормозит. Упомянутое отсутствие системы создает эффект разъединенности усилий и соответственно увеличивает будущие риски.

Сегодня тема массового использования устройств, работа которых базируется на системах искусственного интеллекта, как никогда актуальная во всех ее проявлениях. Мы вступили в ту эпоху технологического прогресса, когда умные машины не только окружают нас всюду, но и уверенно вытесняют человека из многих сфер привычной деятельности. С одной стороны, мы наконец свыклись с мыслью о том, что техника может дублировать или даже превосходить человеческие возможности. С другой — человек все меньше способен реагировать на несанкционированное применение этой техники. Более того, в определенных случаях эти факторы несут опасность для жизнедеятельности всей страны. Или способные  влиять путем манипуляций на поведение отдельных групп населения, например, создавать панические настроения или вызывать желаемые для заказчика психические состояния значительного количества людей.

Мы уже длительное время тщательным образом исследуем все, что так или иначе может быть связано с применением устройств, созданных на базе искусственного интеллекта, моделируем разные ситуации. Наш опыт в сфере инжиниринга и информационных технологий указывает, что абсолютно очевиден тот факт, что большинство из нас не готовы к комплексному сотрудничеству с умными машинами. Почему? Потому что общественность до сих пор не информирована относительно реальной угрозы, которую они могут в себе нести в случае их нецелевого или неправомерного использования. На сегодняшний день нуждается в решении прежде всего вопрос распространения соответствующей качественной информации и привлечения специалистов всех уровней к решению проблемы предупреждения возможных потенциальных рисков, провоцируемых технологиями АІ.

РЕНТГЕН РИСКОВ

Действительно, рисков довольно много. Уже сейчас мы выделяем свыше двух десятков таких, которые могут негативно, а при определенных условиях даже трагически влиять на функционирование общества. Это если говорить о безопасности государства и его граждан. Уже сегодня существует множество способов влиять на развитие событий путем применения технологий искусственного интеллекта. Изменять векторы работы экономики и промышленных процессов, реализации оборонной политики, формировать ошибочные цели у людей. Даже оптимизация определенных процессов с помощью систем АІ — уже риск, если они способны принимать определенные решения или влиять на решение человека. Наш прогноз неутешителен — уже спустя некоторое время проблема использования искусственного интеллекта будет равна терроризму. Более того, если террористический акт, хоть и имеет глобальное влияние, физически касается, как правило, малых групп населения, то искусственный интеллект, напротив, может направляться на большие прослойки населения, даже на целые страны.

Сегодня стоит выделить цифровую, физическую и политическую кибератаки. Таким образом могут разрушаться целые системы программного обеспечения, сети автоматизированных систем защиты данных, может распространяться ложная информация, возникают серьезные повреждения процессов сбора, анализа и обработки цифрового массива данных на всех уровнях. Угрозы могут возникать в результате предварительно ошибочно заложенных опций. Это может быть несанкционированный запуск автономных систем оружия или создание опасной ситуации в управлении транспортом.

Наш анализ свидетельствует о необходимости формирования культуры конфиденциальной политики в изучении и эксплуатации систем искусственного интеллекта. Поскольку большинство злоупотреблений в данной сфере спровоцировано открытым доступом к принципам работы автоматизированных процессов.

Есть также потребность формирования соответствующих политических решений, которые будут сопровождать все имеющиеся принципы работы с АІ. От популяризации ведущих технических разработок политиками до моделирования будущей системы препятствия угрозам.

В целом, создание упомянутой выше платформы предусматривает привлечение к информационному обмену некоторых достаточно мощных участков, где эта проблема так или иначе рассматривается и изучается. К таким можно отнести, например, Институт кибернетики имени В.М. Глушкова НАН Украины, Национальный технический университет Украины «Киевский политехнический институт имени Игоря Сикорского», Институт проблем регистрации информации HAH Украины и некоторые другие. В то же время одним из ключевых аспектов становится стимулирование активизации действий государства в этой сфере. Идеальным участком для этого можно считать Национальный институт стратегических исследований, где можно построить участок государственно-приватного партнерства, сосредоточить достаточно большой интеллектуальный и научный ресурс для решения узловых проблем, в том числе включение, интеграцию Украины в мировой мейнстрим.

Мы уже начали создавать систему предупреждения угроз возникновения рискованных ситуаций в Украине. Она будет включать механизмы информирования общественности и государственных институтов. Надо осознать, что пока сообщество будет ассоциировать технологии искусственного интеллекта с самыми примитивными формами его проявления — например, с банальной возможностью получить онлайн-консультацию по работе по телефону или осуществить заказ в интернете без участия человеческого фактора — прогресса в данной сфере не будет. И в то время, когда мы стоим на пути глобализации влияния умных машин на свои жизни и пространство, это становится особенно опасным.

Сейчас с целью привлечения большего внимания к указанным рискам мы привлекаем ведущих экспертов отрасли, которые помогут сдвинуть этот процесс с места. Собственно, предложенные вмешательства нуждаются во внимании и действиях не только от исследователей и бизнеса, но и от законодателей, государственных служащих, регулирующих органов, представителей сферы оборонно-военного комплекса и мощных медийных структур.

Есть необходимость масштабировать информационную платформу до того уровня, когда можно будет не просто обеспечивать профессиональное публичное, научное и медийное сопровождение данной темы, но и реально влиять на развитие событий в рамках привлечения технологий АІ к разным процессам в стране. Мнение многих украинских ученых и разработчиков совпадает: Украина еще способна не остаться за скобками технологий АІ. Но наряду с этим имеет место и другой вердикт: государство не способно самостоятельно справиться с преодолением рисков от применения технологий АІ. Но способно обеспечить консолидацию усилий созданием системного государственно-приватного партнерства и механизмов поддержки участков высокотехнологического развития, в том числе технологий АІ. Чтобы преодолеть опасность, необходимо хорошо знать ее лицо. И с чего-то начать…

Юрий Чубатюк, президент группы компаний Everest

Автор: Юрий Чубатюк


Комментарии