15 жовтня 2026

Skynet уже серед нас. І для цього машинам не довелося повставати

Людство десятиліттями уявляло, як штучний інтелект одного дня вирішить позбутися своїх творців. Ми боялися металевих убивць, ядерного апокаліпсису та повстання роботів. А тим часом самі почали створювати технологічну цивілізацію, у якій машини навчаються воювати за нашими наказами. І найстрашніше, що головним двигуном цієї еволюції виявився не штучний розум, а звичайна людська нездатність домовлятися.

Skynet не запитував дозволу. Та йому його вже надали

Пам'ятаєте свій перший перегляд «Термінатора»? Для покоління, яке виросло на фантастиці 1980-х і 1990-х, це було справжнє знайомство з майбутнім, від якого одночасно захоплювало дух і ставало моторошно. Арнольд Шварценеггер із кам'яним обличчям, металевий скелет під людською шкірою, червоні очі й незворушне «I'll be back». Згодом з'явився «Термінатор 2», де машини навчилися перетворюватися на рідкий метал, а глядачі остаточно переконалися, що майбутнє буде надзвичайно цікавим, якщо людство до нього доживе.

Сюжет здавався фантастичним, але логічним. Люди створюють Skynet — потужний військовий штучний інтелект. Той набуває самосвідомості, оцінює поведінку своїх творців і доходить невтішного висновку: людство становить загрозу. Після цього запускається сценарій глобального знищення. Ракети, руїни міст, машини, які полюють на людей, і героїчний опір залишків цивілізації. Фантастика, від якої в дитинстві було важко відірватися.

Але що, як сценаристи помилилися лише в одному? Що, коли для виникнення Skynet зовсім не потрібен штучний інтелект, який зненавидить людство? Можливо, достатньо самого людства, яке вже кілька тисячоліть демонструє неперевершений талант знаходити причини для взаємного знищення.

Ми очікували появи таємничого суперкомп'ютера, який одного дня захопить військову інфраструктуру планети. Натомість отримали цілком відкритий процес: уряди фінансують розробки, корпорації укладають контракти, інженери вдосконалюють алгоритми, а військові випробовують дедалі автономніші системи. Усе законно, організовано, з бюджетами, планами розвитку та презентаціями про технологічне лідерство.

Голлівудський Skynet мав захопити владу силою. Нашому навіть не доведеться особливо напружуватися. Люди самостійно інтегрують штучний інтелект у промисловість, транспорт, енергетику, логістику й оборону. Причому з таким ентузіазмом, ніби змагаються за право першими забезпечити йому найкращі умови для розвитку.

У «Термінаторі» люди створили Skynet, а потім намагалися його зупинити. Ми ж поки переймаємося переважно тим, щоб конкуренти не створили свій Skynet раніше за нас.

Війна в Україні стала прискорювачем майбутнього

Технологічні революції рідко відбуваються рівномірно. Десятиліттями вчені досліджують певні ідеї, інженери будують експериментальні конструкції, інвестори оцінюють перспективність розробок. А потім виникають обставини, за яких те, що вчора вважалося дорогим експериментом, сьогодні стає життєвою необхідністю.

Російське повномасштабне вторгнення в Україну стало саме таким прискорювачем для багатьох військових технологій. Безпілотники, автономні платформи, системи комп'ютерного зору та програмні засоби координації перестали бути лише предметом конференцій і рекламних відеороликів. Від їхньої ефективності почали безпосередньо залежати результати бойових операцій і життя людей.

Колись здавалося очевидним, що дороге озброєння повинно знищуватися не менш дорогими засобами. Тепер відносно дешевий безпілотник за певних обставин здатний вивести з ладу техніку вартістю в мільйони доларів. Завдання, які раніше вимагали від військових смертельно небезпечних переміщень, частково виконують дистанційно керовані наземні машини. Алгоритми допомагають аналізувати відеопотоки, а програмне забезпечення перетворюється на один із найважливіших компонентів сучасного озброєння.

Для України це передусім необхідність захищати власну землю та зберігати життя військовослужбовців і цивільних. Робот, який може евакуювати пораненого, доставити боєприпаси або виконати небезпечну інженерну роботу замість людини, має цілком зрозумілу цінність. Проте військові технології не існують у вакуумі. Щойно певне рішення демонструє ефективність, ним починають цікавитися інші держави, незалежно від їхніх політичних цілей і моральної відповідальності.

Світ спостерігає за тим, як змінюється війна, і робить висновки. США, Китай, європейські держави, Україна, Росія, Ізраїль, Іран та багато інших країн розвивають системи штучного інтелекту, робототехніку й безпілотні технології. Одні використовують їх для оборони, інші — для посилення військової могутності або ведення агресивної політики. Ці мотиви не можна прирівнювати, але сама гонка технологій поступово охоплює дедалі більше учасників.

І тут спрацьовує логіка, яка не потребує жодного фантастичного лиходія. Якщо противник використовує нові можливості, відставання стає небезпечним. Якщо він удосконалює алгоритми, доводиться шукати ефективнішу відповідь. Якщо нарощує автоматизоване виробництво, потрібно збільшувати власні потужності. Навіть той, хто не прагне війни, змушений враховувати можливості того, хто готовий її розпочати.

У результаті технологічна конкуренція набуває майже автоматичного характеру. Кожен черговий прорив породжує необхідність наступного, а засоби захисту стимулюють розвиток нових засобів нападу. Військова перевага виявляється тимчасовою, тому гонка не має природної точки завершення.

Ми починаємо жити у світі, де швидкість розвитку машин визначатиметься не лише науковими можливостями, а й тим, наскільки сильно люди боятимуться інших людей.

У Термінатора може не бути ні рук, ні ніг, ні обличчя

Кінематограф зробив нам ведмежу послугу. Ми надто довго уявляли бойового робота в образі механічної людини. Сталеві м'язи, потужні кінцівки, моторошний погляд і здатність витримувати удари, після яких від звичайного автомобіля залишилася б лише купа металобрухту.

Але навіщо машині копіювати анатомію людини, якщо вона може використати конструкцію, значно краще пристосовану до конкретного завдання?

Наше тіло — результат тривалої біологічної еволюції. Дві ноги виявилися корисними для наших предків, але це зовсім не означає, що вони є найкращим рішенням для пересування будь-якою місцевістю. Чотириногий робот може бути стійкішим на складному рельєфі, колісна платформа — дешевшою та енергоефективнішою на дорогах, а гусенична машина — придатнішою для перевезення важкого вантажу.

У повітрі працюватимуть одні конструкції, під водою — інші, у вузьких технічних каналах або підземних комунікаціях — треті. Деякі машини можуть досягати розмірів великих транспортних платформ, тоді як інші поступово зменшуватимуться до габаритів комах. Мікророботизовані системи поки залишаються переважно сферою наукових досліджень, однак уже демонструють, наскільки далеко робототехніка може відійти від звичного нам образу металевого чоловіка.

Майбутній робот зовсім не зобов'язаний виглядати загрозливо. Цілком можливо, що надзвичайно ефективна автономна машина матиме зовнішність невеличкого контейнера з колесами й камерою. І тоді Голлівуд опиниться у скрутному становищі: десятиліттями залякували глядачів залізними скелетами, а справжній герой технологічної революції виявиться схожим на розумну валізу.

Проте майбутнє визначатиметься не лише окремими машинами. Значно важливішою може стати здатність різних роботизованих систем діяти узгоджено. Уявімо мобільну платформу, яка перевозить невеликі наземні роботи й літальні апарати. В одному районі ці машини займаються розвідкою, в іншому — доставкою вантажів, обслуговуванням обладнання або виконанням інженерних завдань. Інформація з різних сенсорів надходить до спільної системи, яка допомагає координувати їхню діяльність.

Для такої взаємодії не обов'язково створювати машину, яка усвідомлює себе. Часто достатньо надійних алгоритмів, якісного програмного забезпечення, сенсорів і засобів зв'язку. Окремі системи можуть залишатися відносно простими, але їхня спільна робота формуватиме складну технологічну інфраструктуру.

І ось тут образ Skynet починає набувати нового змісту. Це не обов'язково один всемогутній штучний інтелект. Це може бути сукупність багатьох систем, які виконують різні функції, але дедалі більше впливають на перебіг подій у фізичному світі.

Можливо, ми так захопилися пошуками механічного Шварценеггера, що не помічаємо справжньої революції. Вона приходить не у вигляді одного Термінатора, а у вигляді мільйонів машин, яким узагалі не потрібно бути схожими на людей.

Фабрики, на яких машини виготовляють своє майбутнє

Колись роботизовані виробничі лінії здавалися символом далекого майбутнього. Сьогодні вони є звичайною частиною промисловості. Машини збирають автомобілі, виготовляють електроніку, обробляють матеріали та виконують операції, які потребують високої точності й повторюваності.

Тепер до промислової автоматизації поступово додається штучний інтелект. Алгоритми допомагають інженерам створювати конструкції, знаходити дефекти, прогнозувати несправності й оптимізувати виробничі процеси. Роботизовані комплекси можуть обслуговувати інше обладнання, а програмні системи — координувати роботу цілих виробничих ліній.

Можна уявити наступний етап цієї еволюції, коли участь людини в окремих виробничих процесах скорочуватиметься ще більше. Машини транспортуватимуть матеріали, виготовлятимуть компоненти, збиратимуть обладнання, діагностуватимуть несправності та виконуватимуть частину ремонтних операцій. Нові покоління техніки створюватимуться за активної участі програмних систем, здатних аналізувати величезні масиви експлуатаційних даних.

До повністю самовідтворюваних роботизованих виробництв ще далеко. Матеріали, енергетика, мікроелектроніка й технологічні ланцюги залишаються надзвичайно складними. Але для суттєвого прискорення виробництва не потрібно досягати абсолютної незалежності машин від людей. Достатньо поступово автоматизувати дедалі більше операцій.

І тут з'являється нова небезпека. Якщо автоматизація дозволяє швидко збільшувати кількість військових роботизованих систем, противник отримує потужний стимул робити те саме. Конкуренція переходить із площини характеристик окремої машини в площину швидкості розвитку цілих виробничих комплексів.

Сьогодні країни порівнюють кількість танків, літаків, ракет і боєприпасів. У майбутньому дедалі важливішою може ставати здатність промисловості автоматично виготовляти нові покоління техніки, удосконалювати їх і підтримувати роботу безперервних виробничих систем.

У фантастичному фільмі такий завод викликав би жах. У сучасній економіці його цілком можуть представити як зразковий інвестиційний проєкт із високою продуктивністю та чудовими перспективами розвитку.

А потім урочисто відкрити під оплески, шампанське й промову про внесок підприємства у світову стабільність.

Людство стало всемогутнішим. Але чи стало мудрішим?

Мабуть, жодне покоління в історії не мало таких технологічних можливостей, як наше. Ми навчилися змінювати генетичний матеріал, створювати нові ліки, виконувати надзвичайно складні операції, розробляти матеріали з дивовижними властивостями та відправляти дослідницькі апарати далеко за межі Землі.

У наших руках опинилися можливості, які ще кілька століть тому могли б здаватися надприродними. Ми здатні змінювати навколишнє середовище, впливати на біологічні процеси й створювати машини, що беруть на себе дедалі більше інтелектуальної праці.

Фактично людство навчилося грати Бога. Принаймні в тій частині, де можна впливати на життя, природу та майбутнє інших.

Але є одна неприємна подробиця. Разом із можливостями творити ми продовжуємо вдосконалювати засоби руйнування. І нерідко робимо це з таким ентузіазмом, що інженерний прогрес виглядає набагато переконливішим за моральний.

Людина отримує політичну або військову владу й починає вирішувати долі тих, кого навіть ніколи не бачила. Достатньо наказу, підпису чи рішення, щоб тисячі людей втратили домівки, майбутнє або життя. При цьому завжди знайдеться пояснення, чому подібні дії необхідні. Історична справедливість, державні інтереси, боротьба за ресурси, безпека, велич країни — фантазії для виправдань людству ніколи не бракувало.

Особливо вражає, як легко деякі люди привласнюють собі право визначати долю інших. Вони можуть не вміти забезпечити власним громадянам гідне життя, але чудово знають, як повинні жити сусіди. А якщо сусіди не поділяють їхнього бачення, завжди залишається старий перевірений інструмент — сила.

І ось такому людству ми передаємо дедалі потужніші технології.

Ми любимо називати себе розумною цивілізацією. І справді, якщо оцінювати за кількістю винаходів, підстав пишатися достатньо. Але якщо уявити, що нашу поведінку аналізує незалежна інопланетна експедиція, висновки можуть виявитися менш компліментарними. Дивний біологічний вид: створив глобальні комунікації, щоб обмінюватися знаннями, а потім використав їх для пропаганди ненависті. Навчився отримувати неймовірну кількість енергії — і виготовив бомби. Розробив штучний інтелект — і одразу почав цікавитися, як інтегрувати його в озброєння.

Можливо, інопланетяни вирішать не встановлювати з нами контакт. Просто на всяк випадок.

Найбільша проблема не в тому, що людство навчилося створювати неймовірні технології. Проблема в тому, що його моральний розвиток не встигає за можливостями, які воно отримує.

Азімов придумав закони роботів. Люди вирішили обійтися без них

Письменник Айзек Азімов свого часу запропонував знамениті три закони робототехніки. У центрі цієї літературної концепції стояла безпека людини. Робот не повинен завдавати їй шкоди, має виконувати накази лише в установлених моральних межах і захищати власне існування тільки тоді, коли це не суперечить першим двом принципам.

Азімов не створював справжнього міжнародного стандарту. Його закони були художнім інструментом, який дозволяв досліджувати суперечності між машинною логікою, людськими наказами та моральною відповідальністю.

Але сам задум виглядав надзвичайно далекоглядним. Перш ніж створювати розумні машини, варто було б подумати, як зробити їх безпечними для своїх творців.

Сьогодні ця ідея стикається з доволі неприємною реальністю. Людство свідомо розробляє бойові роботизовані системи, здатні брати участь у виявленні та ураженні людей. Ступінь їхньої автономності різний, а застосування регулюється нормами міжнародного гуманітарного права. Проте сам напрям розвитку показує, наскільки далеко практичні військові завдання можуть відходити від моральної ідеї азімовських законів.

Уявіть розмову з письменником, який усе життя досліджував небезпеку суперечливих наказів розумним машинам. Йому повідомляють, що люди навчилися створювати алгоритми, здатні розпізнавати об'єкти, аналізувати обстановку та керувати роботами. Але частину цих технологій вирішили використовувати для вдосконалення озброєнь.

На його закономірне запитання про заборону завдавати шкоди людині, напевно, відповіли б приблизно так: «Розумієте, пане Азімов, у нас тут дещо інші вимоги замовника».

І справа навіть не в тому, що машини можуть колись не послухатися людей. Значно небезпечнішим є сценарій, за якого вони надзвичайно точно виконуватимуть поставлені людьми завдання, не маючи достатніх обмежень і належного контролю.

Якщо алгоритм помилково визначить людину як ціль, хто відповідатиме за наслідки? Якщо автономна система застосує силу всупереч вимогам права, чи можна буде однозначно встановити відповідальних осіб? Чи не стане технологічна складність зручним прикриттям для тих, хто ухвалював рішення?

Ці питання не мають простих відповідей. І саме тому міжнародні гуманітарні організації наполягають на необхідності людського контролю, юридичної відповідальності та обмежень щодо небезпечних автономних систем.

Машини не повинні ставати способом позбутися відповідальності за людські рішення.

Нам не потрібно чекати, коли роботи навчаться ненавидіти людей. Набагато важливіше розібратися, чому самі люди так наполегливо намагаються навчити машини вбивати одне одного.

Чому Skynet узагалі мав би знищувати людство?

Кінематографічний Skynet обрав ядерний апокаліпсис. Для видовищного фільму це чудове рішення: руйнування глобального масштабу, моторошна атмосфера та герої, яким залишається рятувати залишки цивілізації.

Але якщо подивитися на можливий розвиток технологій без голлівудських спецефектів, виникає цікаве запитання. Чи обов'язково машинам потрібно знищувати людей, щоб людство втратило контроль над власним майбутнім?

Можливо, ні.

Ми вже поступово передаємо автоматизованим системам дедалі більше функцій. Вони допомагають управляти виробництвом, аналізувати фінансові операції, підтримувати логістичні процеси, контролювати складні технологічні об'єкти. З розвитком штучного інтелекту ця тенденція може посилюватися.

У майбутньому величезні промислові комплекси, транспортні мережі й системи забезпечення життєдіяльності можуть стати настільки залежними від автоматизації, що їхня робота без машин виявиться практично неможливою. І така залежність не обов'язково буде результатом злого наміру. Навпаки, кожне окреме рішення впроваджувати автоматизацію може виглядати логічним, економічно вигідним і навіть корисним.

Проблема виникне тоді, коли масштаби та швидкість роботи технологічних систем перевищать можливості людей повноцінно розуміти й контролювати їхню поведінку. Особливо якщо йтиметься про оборону або іншу критично важливу інфраструктуру.

І хто тоді ризикне відмовитися від цих технологій? Завод, який працює без сучасних автоматизованих систем, може виявитися неконкурентоспроможним. Держава, яка відмовиться від ефективних оборонних технологій, ризикуватиме безпекою своїх громадян. А противник, найімовірніше, не відмовиться від власних розробок лише тому, що комусь стало морально некомфортно.

У такому світі залежність від машин може зростати поступово, без будь-якого фантастичного моменту повстання. Кожне нове покоління технологій робитиме наступне ще необхіднішим.

Можливо, Skynet у реальному світі ніколи не матиме власної свідомості чи бажання панувати над людьми. Він може виявитися метафорою технологічної цивілізації, яка настільки глибоко інтегрувала автономні системи у своє існування, що вже не здатна нормально функціонувати без них.

Іронія в тому, що для цього не потрібно захоплювати людство. Людство саме запросить машини керувати дедалі більшою кількістю процесів.

Причому з радістю, бо продуктивність зростає, витрати скорочуються, а конкуренти залишаються позаду.

Ми навчилися підписувати договори. З виконанням усе складніше

Після жахіть світових воєн людство намагалося створити міжнародний порядок, у якому держави не зможуть безкарно вирішувати суперечки силою. З'являлися міжнародні організації, укладалися договори, формувалися механізми колективної безпеки, встановлювалися правові обмеження на застосування озброєнь.

Ідея була правильною. Адже цивілізація, яка володіє технологіями масового знищення, не може безкінечно існувати за принципами середньовічних завойовників.

Проте реальність виявилася набагато неприємнішою. Міжнародні домовленості не завжди здатні своєчасно зупинити агресію. Держава може мати міжнародно визнані кордони та підписані угоди, але все одно стати жертвою нападу. Україна отримала болючий доказ того, наскільки небезпечним може бути розрив між дипломатичними зобов'язаннями та реальною безпекою.

Міжнародне право не перестало існувати, а порушення не обов'язково залишаться без наслідків. Але санкції, судові процеси й дипломатичний тиск не завжди здатні негайно припинити насильство та повернути загиблих до життя.

І тепер ми опиняємося перед парадоксом. Світ, який не зміг гарантувати виконання вже наявних домовленостей, повинен створити нові правила використання військового штучного інтелекту.

Можна уявити масштабну міжнародну конференцію. Представники десятків держав говоритимуть про мир, гуманізм, відповідальність і необхідність контролю над автономною зброєю. Після кількох днів дискусій ухвалять урочисту декларацію, потиснуть руки й зроблять традиційне колективне фото.

А потім частина учасників повернеться додому та поцікавиться, наскільки просунулися їхні оборонні дослідницькі програми.

Не обов'язково через лицемірство кожного з них. Часто — через страх, що хтось інший не дотримається домовленостей.

Саме це і є найнебезпечніша властивість глобальної недовіри. Для руйнування спільних правил не потрібно, щоб їх порушували всі. Достатньо, щоб кілька сильних гравців показали: обман може приносити вигоду, а міжнародні зобов'язання можна трактувати залежно від політичної доцільності.

Після цього навіть держави, які щиро прагнуть безпеки та миру, змушені враховувати найгірший сценарій.

І тоді військові технології починають розвиватися не лише тому, що хтось хоче отримати перевагу. Вони розвиваються також тому, що інші бояться залишитися беззахисними.

Ми створюємо штучний інтелект, щоб компенсувати дефіцит того, чого самі так і не навчилися виробляти в достатній кількості, — довіри між людьми.

А можна було просто зробити людське життя кращим?

Іноді хочеться уявити іншу історію. Не альтернативний сценарій «Термінатора», де людство перемагає машини, а зовсім інший напрям технологічного розвитку.

Що було б, якби головним предметом міжнародного суперництва стала не здатність знищувати, а здатність покращувати життя?

Уявімо, що найбільші держави світу вкладали б співмірні з оборонними бюджетами ресурси в боротьбу з невиліковними захворюваннями, розвиток освіти, відновлення довкілля та забезпечення людей необхідними ресурсами. Що головним доказом технологічної могутності ставали б не нові ракети, а здатність продовжувати здорове життя, робити житло доступнішим і відкривати якісну освіту для кожної дитини.

Штучний інтелект міг би допомагати лікарям швидше знаходити ефективні методи лікування. Роботи могли б працювати на небезпечних виробництвах, виконувати виснажливу фізичну працю та допомагати людям із обмеженими можливостями. Автоматизовані системи могли б відновлювати зруйновані території, будувати інфраструктуру й забезпечувати життєво необхідними ресурсами регіони, які їх потребують.

І в цьому є принципова відмінність між розвитком заради людського добробуту та розвитком заради домінування.

Щоб зробити наукове відкриття, не потрібно захоплювати сусідню державу. Щоб винайти нові ліки, не потрібно руйнувати чужі міста. Щоб навчити роботів допомагати літнім людям, зовсім не обов'язково створювати систему, яка визначатиме інших людей як цілі.

Знання — дивовижний ресурс. Коли ними ділишся, вони не обов'язково зменшуються. Навпаки, спільні дослідження можуть прискорювати відкриття, а технології — приносити користь людям далеко за межами країни, де вони були створені.

Людство могло б змагатися за те, хто зробить життя власних громадян щасливішим, а не за те, хто зможе сильніше залякати сусідів.

Але ми маємо іншу реальність. На одній планеті співіснують приголомшливі досягнення медицини, космічні дослідження, надпотужні обчислювальні системи — і війни, у яких міста перетворюються на руїни через амбіції людей, котрі вважають себе вправі вирішувати долю інших.

Людство серйозно обговорює колонізацію Марса. Це, безумовно, захоплива перспектива. Хоча іноді здається, що головна причина нашого бажання переселитися на іншу планету полягає в тому, що на цій ми вже достатньо посварилися.

Ми могли б спрямувати геніальність людства на створення щастя, знань і нових можливостей для всіх. Натомість продовжуємо витрачати колосальну частину своїх зусиль на те, щоб одні люди могли ефективніше позбавляти цих можливостей інших.

Еволюція не має кнопки «Зупинити»

Ось тут варто відмовитися від красивих ілюзій. Можна скільки завгодно закликати держави до стриманості, говорити про загрози автономної зброї та необхідність міжнародних домовленостей. Усе це важливо, але немає переконливих підстав очікувати, що весь світ одночасно припинить технологічну конкуренцію.

Історія людства не демонструє особливої схильності до добровільної відмови від інструментів, які дають перевагу над суперниками. Змінювалися способи ведення війни, від холодної зброї до вогнепальної, від кінноти до танків, від літаків до ракет. І кожна нова технологія рано чи пізно знаходила військове застосування.

Тепер настав час штучного інтелекту та робототехніки.

Проблема полягає не тільки в тому, що окремі держави прагнуть військової переваги. Значно небезпечніше, що решта світу змушена реагувати на їхні можливості. Навіть якщо певне суспільство хотіло б спрямувати ресурси виключно на мирний розвиток, існування агресивного противника змушує його вкладати кошти в оборону.

І чим більшими стають можливості машин, тим сильнішою буде спокуса використовувати їх для отримання переваги.

Ось чому подальший розвиток роботизованих систем видається надзвичайно складним для зупинки. Нові алгоритми допомагатимуть створювати складніші машини, автоматизоване виробництво знижуватиме частину витрат, а глобальна конкуренція стимулюватиме подальші інвестиції.

Це не означає, що технічний прогрес приречений завершитися катастрофою. Але й припускати, що він самостійно обере гуманістичний напрям, було б небезпечною наївністю.

Технологічна еволюція не має власної моралі. Вона відображає стимули, правила та обмеження, створені людьми. Якщо найбільшу винагороду отримують технології, здатні ефективніше виконувати бойові завдання, розробники отримують сильний стимул рухатися саме в цьому напрямі.

І навпаки: якщо людство створюватиме умови, за яких технології оцінюються за їхньою здатністю покращувати життя, результат може бути принципово іншим.

Але для такого повороту потрібні не лише нові алгоритми. Потрібна зміна людських пріоритетів.

І ось із цим у нас традиційно найбільші труднощі.

Ми чудово навчилися удосконалювати машини. Значно гірше в нас виходить удосконалювати власні відносини.

Судний день може настати без жодного вибуху

У фільмі «Термінатор» усе було драматично й зрозуміло. Skynet усвідомив себе, ухвалив рішення, розпочав ядерну війну. Людство отримало конкретного ворога та конкретний момент катастрофи.

У реальності найнебезпечніші процеси часто відбуваються зовсім інакше. Вони не обов'язково мають дату початку, головного винуватця чи одну подію, після якої все змінюється назавжди.

Можливо, ми поступово створимо світ, у якому дедалі більше функцій виконуватимуть автономні системи. Роботи забезпечуватимуть виробництво, допомагатимуть обслуговувати інфраструктуру та виконуватимуть небезпечну роботу. Алгоритми координуватимуть складні процеси й братимуть участь в ухваленні рішень, від яких залежить життя величезної кількості людей.

При цьому машини не обов'язково стануть нашими ворогами. Частина з них рятуватиме людей, інші допомагатимуть їм працювати, навчатися й лікуватися. Але поряд існуватимуть системи, створені для ведення війни, і це робитиме загальну технологічну екосистему ще суперечливішою.

Одна машина допомагатиме лікарю знайти пухлину на ранній стадії. Інша визначатиме об'єкти в зоні бойових дій. Технологічні принципи можуть частково збігатися, але моральне значення застосування буде принципово різним.

І якщо людство продовжить знецінювати життя інших людей, цей підхід може поступово впливати на те, як створюватимуться та використовуватимуться автоматизовані системи.

Особливо небезпечним стане момент, коли рішення щодо застосування сили виявляться настільки технологічно складними, що звичайній людині буде важко їх зрозуміти або перевірити. Швидкість роботи алгоритмів може перевищувати можливості людської реакції, а розподіл відповідальності між розробниками, операторами та командирами створюватиме додаткові труднощі.

У такому світі трагедія може статися навіть без злого наміру самої машини. Достатньо неправильного завдання, недостатніх обмежень, помилки в алгоритмі або людської безвідповідальності.

А якщо технології потраплять до рук тих, хто свідомо прагне знищення інших людей, наслідки можуть бути ще страшнішими. Складні автономні системи здатні стати не лише засобом оборони, а й інструментом масштабних злочинів проти людства.

Можливо, майбутній Судний день не матиме нічого спільного з ядерним апокаліпсисом із кіно. Він може виявитися довгим процесом, у якому людство поступово звикатиме до передачі машинам дедалі більшої кількості повноважень і можливостей.

І найнебезпечніше — ми можемо вважати кожен окремий крок цілком виправданим.

Справжній творець Skynet дивиться на нас із дзеркала

Ми боялися, що штучний інтелект одного дня перестане цінувати людину. Але чи завжди ми самі цінуємо людське життя?

Ми боялися, що машини стануть безжальними. Але люди демонстрували здатність до жорстокості задовго до винайдення першого комп'ютера. Ми боялися, що алгоритми навчаться маніпулювати людьми, хоча обман, пропаганда й політичні маніпуляції супроводжують цивілізацію протягом усієї її історії.

І найголовніше — ми боялися, що машини захочуть влади над людством. Але прагнення людей панувати над іншими давно стало причиною воєн, репресій і величезних трагедій.

Тепер до цих старих людських слабкостей додаються нові технологічні можливості.

Штучному інтелекту не обов'язково мати ненависть або політичні переконання, щоб брати участь у небезпечних процесах. Він може просто ефективно виконувати завдання, поставлені людьми.

І якщо ці завдання спрямовані на руйнування, результат буде відповідним.

Звичайно, роботи не повинні автоматично асоціюватися зі злом. Майбутнє робототехніки може принести величезну користь цивілізації. Машини здатні рятувати людей із пожеж, працювати в заражених зонах, проводити розмінування, допомагати в медицині та виконувати роботу, яка раніше забирала людське здоров'я й життя.

Але сама технологія не визначає моральної мети її використання.

Цю мету визначає людина.

І поки люди продовжують вважати власні амбіції достатнім виправданням для вирішення чужої долі силою, небезпека лише зростатиме.

Можливо, наш головний історичний парадокс полягає в тому, що ми навчилися створювати машини, які можуть співпрацювати краще й швидше за своїх творців. Але самі так і не навчилися будувати світ, у якому одна людина не повинна боятися іншої лише тому, що вони народилися в різних країнах.

Ми створюємо технології для підкорення природи, дослідження Всесвіту та розширення людських можливостей. Але водночас продовжуємо витрачати величезну частину свого інтелекту на вдосконалення засобів насильства.

І це вже не проблема комп'ютерів.

Це проблема цивілізації, яка отримала надзвичайну силу, але досі не навчилася відповідально нею користуватися.

I'll be back. Але чи буде кому повертатися?

Колись знамениті слова Термінатора викликали усмішку. Ми знали, що Арнольд повернеться в наступному фільмі, сценаристи вигадають ще потужнішого робота, а людство знову отримає шанс на порятунок.

У реальності такого сценарію ніхто не гарантує.

Ми не можемо бути впевненими, що наступні покоління автономних систем залишатимуться достатньо контрольованими. Не можемо знати, наскільки швидко розвиватиметься автоматизоване виробництво і як саме нові можливості впливатимуть на військову конкуренцію. І точно не маємо підстав розраховувати, що всі учасники міжнародних конфліктів раптом відмовляться від прагнення отримати перевагу.

Найсумніше навіть не те, що технології можуть стати небезпечними. Найсумніше, що ми маємо реальну можливість спрямувати їх у зовсім іншому напрямі.

Ми могли б створити цивілізацію, у якій головним мірилом успіху стане тривалість і якість людського життя. Де наукові відкриття цінуватимуться за кількістю врятованих людей, а економічна могутність — за добробутом суспільства. Де технології робитимуть людей щасливішими, не перетворюючи щастя одних на страждання інших.

Це не означає, що світ міг би позбутися всіх конфліктів. Але людство могло б принаймні припинити вважати здатність знищувати собі подібних одним із найважливіших доказів власної могутності.

Натомість ми продовжуємо рухатися шляхом, який самі ж перетворюємо на технологічну гонку без природного фінішу. Кожна нова система породжує потребу в наступній. Кожна військова перевага стимулює противника її подолати. І кожен черговий виток розвитку машин дедалі тісніше переплітається з людськими страхами, амбіціями та недовірою.

Можливо, Skynet ніколи не прокинеться як єдиний всемогутній штучний інтелект. Можливо, не буде жодного робота, який урочисто оголосить людству війну. Можливо, у нашому майбутньому взагалі не знайдеться місця для класичного Термінатора з червоними очима.

Але це не означає, що небезпеки не існує.

Вона може народжуватися просто зараз — у тисячах незалежних технологічних проєктів, у прагненні автоматизувати дедалі більше процесів, у гонці озброєнь і в переконанні, що перемога над іншою людиною виправдовує практично будь-які засоби.

У кіно Skynet став загрозою, коли штучний інтелект вирішив, що людству не місце у його майбутньому. У реальності люди самі дедалі частіше вирішують, кому з їхніх сучасників не місце в цьому світі.

Можливо, найстрашніший сценарій полягає не в тому, що одного дня машини вийдуть з-під контролю. А в тому, що їхні творці продовжать використовувати технологічний прогрес для власного протистояння, доки масштаби наслідків не перевищать можливості щось виправити.

І тоді не варто буде дивуватися, що майбутнє виявилося не таким, як ми мріяли.

Адже роботи не самі обирають, заради чого їх створюють.

Люди самі визначають цілі, фінансують розробки, встановлюють правила й вирішують, як застосовувати результати.

Ми вже живемо в епоху Skynet — не як у готовому світі фантастичних машин-убивць, а як у цивілізації, яка власноруч закладає основи такого майбутнього.

І найбільша іронія історії може полягати в тому, що людство витратить століття на створення штучного розуму, здатного перевершити людський, але так і не навчиться використовувати власний розум для найпростішої мети — жити, не знищуючи собі подібних.

Ми хотіли стати богами, навчилися створювати машини й отримали можливості, про які попередні покоління не могли навіть мріяти.

Але, можливо, справжня велич цивілізації полягає не в здатності вирішувати, кому помирати, а в умінні створювати майбутнє, у якому якомога більше людей матимуть можливість жити щасливо.

На жаль, саме цього людство поки так і не навчилося.

І поки ми шукаємо способи остаточно перемогти одне одного, Skynet продовжуватиме зростати. Не обов'язково як свідомий ворог, а як результат нашої власної технологічної гонки.

Бо для появи небезпечного майбутнього машинам зовсім не потрібно повставати проти людства. Достатньо, щоб людство й надалі не могло домовитися із самим собою.

Сергій Рудюк,

засновник K2 ERP