Читайте також на day.kyiv.ua

Artificial Intelligence (AI) — нове словосполучення, яке безповоротно наповзає на Земну кулю. Ідея AI, або штучного інтелекту, не просто стала світовим трендом, а з кожним роком охоплює все більше прихильників в усіх сферах життєдіяльності — від управляння у політиці, бізнесі або в армії до створення нового типу буття для окремого індивідууму. Звісно, повна автоматизація життя має свої беззаперечні переваги, безмежно розширює горизонти та й взагалі створює нову реальність. Але у цій новій реальності, де може бути реалізовано диктат володарів технологій, значні маси людей, та й цілі держави можуть виявитися вразливими й незахищеними.

Україна у напряму опанування AI відстала, як стверджують фахівці, років на 30—40. Це поки що не безнадійно, хоча й дуже близько. Але відстала не тільки Україна, а й величезна група держав, серед яких, до речі, чимало європейських. Водночас, в Україні залишилися ділянки, де можна було б викувати й відповідні кадри, й системні можливості для опанування-приборкання AI. За певних  умов… Якщо держава виявиться здатною стати реальним союзником та учасником об’єднання зусиль. Якщо з’явиться відповідна державна програма та умови для науковців і практиків працювати вдома, а не в силіконових долинах інших країн.

Поки що, базуючись на цьому, в Україні виникла спільна ініціатива профільних недержавних розробників та експертів: Група компаній «Еверест» та Центр досліджень армії, конверсії та роззброєння (ЦДАКР) у березні 2018 р. створили інформаційну платформу «Штучний інтелект», яка охоплює розробку низки перспективних напрямків у сфері новітніх технологій.

БЕЗПЕКА ТА НЕБЕЗПЕКА ВИКОРИСТАННЯ ТЕХНОЛОГІЙ АІ: ЯКІ КЛЮЧОВІ ЧИННИКИ?

Як сталося, що Україна з її традиційними успіхами у сфері інформаційних технологій, опинилася у зоні ризику?

Річ у тім, що індивідуальний вимір опанування й розробок технологій в Україні потужний. А от державний, який має враховувати два глобальні аспекти — застосування AI та реагування на чуже чи взагалі несанкціоноване застосування таких технологій, — внаслідок багатьох факторів гальмує. Згадана відсутність системи створює ефект роз’єднаності зусиль та відповідно збільшує майбутні ризики.

Сьогодні тема масового використання пристроїв, робота яких базується на системах штучного інтелекту, як ніколи актуальна у всіх її проявах. Ми вступили в ту епоху технологічного прогресу, коли розумні машини не тільки оточують нас усюди, але й впевнено витісняють людину з багатьох ділянок звичної діяльності. З одного боку, ми нарешті звиклися з думкою про те, що техніка може дублювати або навіть перевершувати людські можливості. З іншого, людина все менше здатна реагувати на несанкціоноване застосування цієї техніки. Ба більше, у певних випадках ці фактори несуть небезпеку для життєдіяльності всієї країни. Або здатні  впливати шляхом маніпуляцій на поведінку окремих груп населення, наприклад, створювати панічні настрої чи викликати бажані для замовника психічні стани значної кількості людей.

Ми вже тривалий час ретельно досліджуємо усе, що так чи інакше може бути пов’язане із застосуванням пристроїв, побудованих на базі штучного інтелекту, моделюємо різні ситуації. Наш досвід у сфері інжинірингу та інформаційних технологій вказує, що абсолютно очевидним виявився той факт, що більшість із нас не готові до комплексної співпраці з розумними машинами. Чому? Тому що дотепер громадськість досі не інформована щодо реальної загрози, яку вони можуть в собі нести у разі їх нецільового або неправомірного використання. На сьогодні потребує вирішення передусім питання поширення відповідної якісної інформації та залучення фахівців усіх рівнів до вирішення проблеми попередження можливих потенційних ризиків, провокованих технологіями АІ.

РЕНТГЕН РИЗИКІВ

Насправді, ризиків досить багато. Вже нині ми виокремлюємо понад два десятки таких, що можуть негативно, а за певних умов, навіть трагічно впливати на функціонування суспільства. Це говорячи про безпеку держави і її громадян. Вже сьогодні існує безліч способів впливати на розвиток подій шляхом застосування технологій штучного інтелекту. Змінювати вектори роботи економіки і промислових процесів, реалізації оборонної політики, формувати хибні цілі у людей. Навіть оптимізація певних процесів за допомогою систем АІ — вже ризик, якщо вони здатні приймати певні рішення або впливати на рішення людини. Наш прогноз невтішний — вже через деякий час проблема використання штучного інтелекту дорівнюватиме тероризму. До того ж, якщо терористичний акт, хоча й має глобальний вплив, фізично торкається, як правило, малих груп населення, то штучний інтелект, навпаки, може спрямовуватися на великі прошарки населення, навіть на цілі країни.  

Сьогодні варто виокремити цифрову, фізичну і політичну кібератаки. В такий спосіб можуть руйнуватися цілі системи програмного забезпечення, мережі автоматизованих систем захисту даних, може поширюватися неправдива інформація, виникають серйозні ушкодження процесів збору, аналізу та обробки цифрового масиву даних на всіх рівнях. Загрози можуть виникати внаслідок заздалегідь хибно закладених опцій. Це може бути несанкціонований запуск автономних систем зброї або створення небезпечної ситуації в управлінні транспортом.

Отже, наш аналіз свідчить про необхідність формування культури конфіденційної політики у вивченні і експлуатації систем штучного інтелекту. Оскільки більшість зловживань у даній сфері спровоковані відкритим доступом до принципів роботи автоматизованих процесів.

Є також потреба формування відповідних політичних рішень, які супроводжуватимуть усі наявні принципи роботи з АІ. Від популяризації провідних технічних розробок політиками до моделювання майбутньої системи перешкоджання загрозам.

Загалом, створення означеної вище платформи передбачає залучення до інформаційного обміну деякі досить потужні ділянки, де ця проблема так чи інакше розглядається та вивчається. До таких можна віднести, наприклад, Інститут кібернетики імені В.М. Глушкова НАН України, Національний технічний університет України «Київський політехнічний інститут імені Ігоря Сікорського», Інститут проблем реєстрації інформації HAH України та деякі інші. Водночас одним із ключових аспектів стає стимулювання активізації дій держави у цій сфері. Ідеальною ділянкою для цього можна вважати Національний інститут стратегічних досліджень, де можна побудувати ділянку державно-приватного партнерства, зосередити чималий інтелектуальний і науковий ресурс для вирішення вузлових проблем, в тому числі, включення, інтеграцію України у світовий мейнстрим.

Ми вже почали створювати систему попередження загроз виникнення ризикованих ситуацій в Україні. Вона включатиме механізми інформування громадськості і державних інституцій. Варто усвідомити, що, допоки спільнота буде асоціювати технології штучного інтелекту з найпримітивнішими формами його прояву, — наприклад, із банальною можливістю отримати онлайн-консультацію щодо роботи за телефоном або здійснити замовлення в інтернеті без участі людського фактору, — прогресу у даній сфері не буде. І, у той час, коли ми стоїмо на шляху глобалізації впливу розумних машин на власні життя і простір, це стає особливо небезпечним.

Наразі, з метою привертання більшої уваги до вказаних ризиків, ми залучаємо провідних експертів галузі, які допоможуть зрушити цей процес з місця. Власне, запропоновані втручання потребують уваги та дій не лише від дослідників та бізнесу, а й також від законодавців, державних службовців, регулюючих органів, представників сфери оборонно-військового комплексу та й потужні медійні структури.

Є необхідність масштабувати інформаційну платформу до того рівня, коли можна буде не просто забезпечувати фаховий публічний, науковий та медійний супровід даної теми, але й реально впливати на розвиток подій в рамках залучення технологій АІ до різних процесів в країні. Думка багатьох українських учених та розробників збігається: Україна ще здатна не залишитися за дужками технологій АІ. Але поруч із цим має місце й інший вердикт: держава не здатна самостійно впоратися із приборканням ризиків від застосування технологій АІ. Але здатна забезпечити консолідацію зусиль створенням системного державно-приватного партнерства та механізмів підтримки ділянок високотехнологічного розвитку, в тому числі, технологій АІ. Щоб подолати небезпеку, необхідно добре знати її обличчя. Та з чогось почати…

Юрій Чубатюк, президент групи компаній Everest