“Насамперед це стосується роботи штабів, де швидкість аналізу, точність прогнозів і здатність оперативно напрацьовувати пропозиції і обробляти інформацію з різних джерел визначають успіх операцій. Про те,…”, — write on: armyinform.com.ua
Насамперед це стосується роботи штабів, де швидкість аналізу, точність прогнозів і здатність оперативно напрацьовувати пропозиції і обробляти інформацію з різних джерел визначають успіх операцій.
Про те, як ШІ змінює підходи до ухвалення рішень, які можливості відкриває для аналітики та чому «машинне» мислення вже впливає на тактику й стратегію, ми говоримо з кандидатом технічних наук, експертом з питань розвитку озброєння та новітніх технологій Богданом Долінце.
— Отже, пане Богдане, на вашу думку, як штучний інтелект сьогодні інтегрується у військові штаби та оперативні центри? Чим відрізняється «штаб, підсилений ШІ» від класичного оперативного центру?
— Штабна робота фактично базується на злагодженій праці певної групи військових фахівців. Існуючі в цій екосистемі процеси необхідні для збору інформації, проведення аналізу та планування місій та прийняття відповідних рішень для їхньої практичної бойової реалізації. Як безпосередньо при нових завданнях, так і в разі зміни або проведення подій, які вже відбуваються на полі бою.
І говорячи про штаб, який використовує штучний інтелект або посилений машинним «розумом», то визначальним при цьому все одно залишається
людський чинник, усталені процеси та відповідні процедури. Але додатково з’являються певні автоматизовані системи: канали збору і дообробки даних, аналітичні модулі. Тут можливо використання моделей оперативного простору — так званих «цифрових двійників», про які ми з вами говорили в попередньому інтерв’ю для вашої агенції.
І це ще й певні інструменти для швидкого генерування варіантів можливих пропозицій. Це підготовка попередніх технічних завдань, які дозволяють передбачити можливі варіанти для маневрів і пришвидшити ухвалення рішення безпосередньо штабом щодо певних процесів чи ситуації на полі бою.
Фактично це автоматизовані системи зі своїми алгоритмами, які дозволяють обробляти великі масиви даних, фільтрувати їх. Зокрема, ранжувати інформацію, отриману від розвідки щодо її актуальності, релевантності та вагових коефіцієнтів.
І пропонувати потенційний варіант, надаючи командному складу та аналітикам певний завчасно підготовлений пакет ухвал, який дозволяє суттєво пришвидшити ухвалення рішення та, відповідно, реакцію на події на полі бою.
— А на вашу думку, наскільки важлива функція автоматизованого аналізу величезних масивів даних, так званих Big Data, що надходять з поля бою через розвідку, сенсори, дрони? І як ШІ справляється із цим завданням?
— Воєнні конфлікти останнього десятиліття показали, що кількість даних, отримуваних безпосередньо з поля бою, зростає з геометричною прогресією. Масив інформації, яка може там збиратися, вона є вже значно більшою, ніж кількість військових, які беруть участь у відповідних бойових діях.
Як наслідок, це призводить до того, що інформації стає настільки багато, що окремим аналітикам або навіть цілим групам штабних військових фахівців практично неможливо достатньо швидко та ефективно аналізувати весь цей масив даних для того, щоб формувати ті чи інші висновки для подальшого ухвалення управлінських рішень та їх реалізації на полі бою.
Людина просто не встигає фільтрувати і адекватно оцінювати цю інформацію в необхідному темпі. І тут, звісно, штучний інтелект стає певною ланкою автоматизації, яка дозволяє здійснювати агрегацію даних, встановлення контексту, кластеризацію подій за певними визначеними алгоритмами і структурою даних.
А це і виявлення аномалій в даних, їх автоматичне маркування та їх пріоритизація, що, фактично, дозволяє відповідним аналітикам досліджувати не всі дані, які надходять, а вже бачити певну агреговану широкими мазками картину.
І пріоритизовано, щодо певних важливих моментів, залучати відповідних фахівців не для аналізу всього масиву даних, а конкретних кейсів. І майже в реальному часі розуміти, наскільки швидко зміниться обстановка на полі бою.
— А що таке «підтримка рішень» (Decision Support), яку надає ШІ? Чи є це лише сортуванням інформації, чи програма пропонує конкретні тактичні кроки?
— Якщо говорити про порядок ухвалення рішень, то існує цілий спектр таких систем. Вони ще розвиваються і перебувають на достатньо молодому етапі розвитку. Є, звісно, базові конфігурації, які дозволяють здійснювати автоматичне сортування і візуалізацію даних. Це допомагає приймати рішення командиру.
А є більш просунуті інструменти, які дозволяють здійснювати попередню оцінку варіантів, виконувати симуляцію або моделювання того чи іншого стану справ на полі бою, і так само розробляти та пропонувати певні плани дій або заходів з урахуванням та оцінки їхньої ефективності та ризиків.
Це достатньо новий напрям. Він ще тільки розвивається. А військовий керівник все ж залишається відповідальною особою. Тому фінальне слово залишається за людиною.
Це можна порівняти, якби штучний інтелект заміняв собою в реальному штабі такий певний консультативно-дорадчий орган, в який могли б входити з десяток найбільш видатних полководців світу. Або теоретиків війни: той же видатний прусський генерал Карл фон Клаузевіц. Можна уявити, який ефект такий інструмент міг би дати.
Умовно кажучи, ви можете опрацювати певний сценарій дій, надати його командному груповому інтелекту — і він вам дасть коментарі, відповіді або поради 3–4 видатних полководців або теоретиків військових дій, і далі ви вже будете вирішувати, який конкретно сценарій для себе обирати.
— Аналітики багато говорять про моделювання сценаріїв баталій. Як саме ШІ створює та оцінює різні варіанти розвитку подій на полі бою? Чи може він передбачити дії противника?
— Штучний інтелект може працювати як із зібраними даними, так і з так званими архівно-файловими відомостями. Тобто на підставі раніше вивчених імітаційних моделей, статистичних даних, або ж агентських симуляцій. Вони дозволяють здійснювати прогнозування дій або рішень тих чи інших ворожих угруповань.
По-друге, дають змогу формувати можливі сценарії реакції і потенційні заходи або дії ворожої сторони. У такий спосіб дозволяючи обрати найкращу тактику. Зокрема, і уникнути високоризикових стратегій, які можуть призвести до суттєвих втрат або негативних наслідків на полі бою.
— Упродовж вищезазначеного, на вашу думку, як забезпечується баланс між швидкістю прийняття рішень ШІ та необхідністю критичного аналізу з боку командування? Де пролягає межа відповідальності?
— Маємо розуміти, що на сьогоднішній день штучний інтелект не дає абсолютної відповіді. Тобто він може здійснювати певну автоматизацію та обробку рутинних задач. Але все ж таки підготовка і прийняття рішення, вони завжди залишаються за людиною.
По-друге, застосування подібних інформаційних систем передбачає, що архітектурно людина завжди залишається своєрідним головним арбітром при санкціонуванні подальших дій, незалежно від того, які дані згенерувала машина або штучний інтелект.
При цьому варто пам’ятати, що наявні на даний час профільні системи все ж таки мають свої достатні обмеження. І найбільш гостро вони можуть проявлятися під час прийняття тактичних або етичних рішень. Наприклад, щодо застосування значних засобів ураження через цивільні ризики. А, як правило, наявні моделі не дозволяють на достатньому рівні адекватно оцінювати ті чи інші умови.
До того ж завжди залишається так звана юридична рамка, яка визначає, що людина-командир є відповідальною за будь-які рішення. Незалежно від того, що ухвали були прийняті з використанням елементів штучного інтелекту або без них.
— Які головні виклики та ризики створює широке впровадження ШІ у штабах: наприклад, кібербезпека, помилки алгоритмів, залежність від технологій?
— Здебільшого, на перше місце у застосуванні подібних технологій завжди виходить кібербезпека і уразливість таких систем від зовнішніх маніпуляцій з даними або моделями.
По-друге, їх ефективність та якість роботи залежать від своєчасної та цілісної інформації, яка надходить у таку систему. І дані комплекси, так само як і людину, можна ввести в оману, надаючи своєрідні «отруєні» або підмінні дані.
І третя важлива складова — це проблема довіри. Чинний рівень розвитку програм штучного інтелекту має певний елемент та відсоток непередбачуваності і непоясненності. І це може призвести до того, що командири не завжди здатні зрозуміти логіку моделі, як саме вона приймає рішення.
А це призводить до внутрішнього підриву довіри до згенерованих рішень, що може впливати на нижчий відсоток використання цих систем. Зокрема, прийняття рішень за їхніми даними.
— Ну, і насамкінець, які ви бачите перспективи застосування таких технічних рішень для силових структур України? Наскільки ЗСУ вже інтегрують або тільки планують застосовувати такі машинні програми?
— Дані рішення перебувають на етапі активного прогресивного зростання. І, звісно, з високою ймовірністю ті чи інші елементи цих систем впроваджуються в реальних батальних умовах та у бойових підрозділах вітчизняних Сил оборони.
Але ця інформація залишається за межами розголосу для того, щоб ворог не скористався тим досвідом, перевагами та розробками, які вже впроваджені як у нас, так і в західних партнерів.
По-друге, маємо розуміти, що сучасне поле бою вже, зокрема і в Україні, настільки насичене різними сенсорами, датчиками, дронами, системами реагування, передачі розвідданих, локальними системами збору та обробки інформації, що призводить до того, що повноцінно обробити такий обсяг інформації люди фактично не можуть.
Зрозуміло, що застосовують відповідні системи з машинним навчанням, зі штучним інтелектом, які дозволяють автоматизовувати відповідні процеси.
Це стосується і систем аналізу та обробки інформаційних потоків, які можуть давати, якщо не команди, то принаймні додаткові поради для штабних офіцерів щодо того, як більш ефективно використовувати ту інформацію, яка надходить. І помічати певні ключові зміни або особливості, що можуть бути важливими для ухвалення управлінських рішень на полі бою.
