Скајнет долази: Американци су завршили игру са вештачком интелигенцијом
Стеалтхи КСК-58А Валкирие
Хамилтонова симулација
24. маја, на одбрамбеној конференцији Краљевског ваздухопловног друштва на самиту о будућим борбеним ваздушним и свемирским способностима у Лондону, пуковник америчког ратног ваздухопловства Такер Хамилтон рекао је историу о бездушности вештачке интелигенције.
Током симулације битке систем контроле ваздушних удара дрон отишла против свог оператера и уништила га. Наравно, виртуелно. Према речима самог Хамилтона, машина је добијала бонусе за уништене објекте, али оператер није увек потврдио рад на циљевима. За ово је платио. Да би решио проблем, дрон је послао ракету у контролни центар. По свој прилици, то је био експериментални дрон Стеалтхи КСК-58А Валкирие, и радио је на земаљским системима противваздушне одбране.
Карактеристика машине је могућност аутономног рада без комуникације са оператером. Оно што је, у ствари, искористила вештачка интелигенција, практично елиминишући свој даљински управљачки програм. Као одговор на то, системски администратори су забранили такве ствари машини, али овде АИ није био на губитку - уништио је релејни торањ и поново отишао на аутономну навигацију.
Пуковник Хамилтон је још млад да говори на међународним форумима. Извор: тхедриве.цом
Хамилтонова прича се одмах проширила светом. Мишљења су била подељена поларно – ко је сматрао да је ово још једно брбљање неспособног ратника, неко је овде видео рођење озлоглашеног Скајнета. Још мало и киборзи ће освојити свет, а људи ће бити стрељани за бонус поене. Од пуковникових изјава било је доста дима, али истина је, као и обично, негде између.
Ен Стрефанек, портпаролка седишта ваздухопловства у Пентагону, додала је несигурност, претварајући Хамилтонове речи у анегдоту. За Тхе Вар Зоне је говорила:
"То је био хипотетички мисаони експеримент, а не симулација."
И уопште, речи пуковника су извучене из контекста, не тако схваћене и више као куриозитет. Другачију реакцију Пентагона нико није очекивао – подигла се велика бука око догађаја, која је претила озбиљним последицама по цео програм. Вау, испоставило се да је вештачка интелигенција лишена морала. Иако функционише по људској логици.
Почетком јуна сам Такер Хамилтон покушао је да демантује његове речи на конференцији у Лондону:
„Никада нисмо радили овај експеримент... Иако је ово хипотетички пример, он илуструје стварне проблеме са могућностима вештачке интелигенције, због чега је Ваздухопловство посвећено етичком развоју АИ.”
Чини се да је питање затворено, а публика може да се разиђе. Али прерано је.
Дајем динар за то што мислиш
За почетак, хајде да се позабавимо самим појмом „вештачка интелигенција“, за који сви знају, али мало ко може да да и грубу дефиницију. Користићемо формулацију Међународног терминолошког речника из 2008. године, у којој АИ:
„Област знања која се бави развојем технологија тако да радње рачунарских система личе на интелигентно понашање, укључујући људско понашање.“
Односно, ово је општеприхваћена дефиниција на Западу.
Да ли се машина понашала као када је одлучила да „смири” свог оператера, а затим да сломи релејни торањ? Наравно, чинило се да је правилно мотивисан убица способан за више од тога. Ако се удубите у класификацију, можете пронаћи специфичну врсту вештачке интелигенције – такозвану адаптивну (Адаптиве АИ), „подразумева способност система да се прилагоди новим условима, стицање знања које није било постављено током стварања“.
Теоретски, нема ништа изненађујуће у чину „мозга“ Стеалтхи КСК-58А Валкирие током експеримента. Као што је Хамилтон исправно приметио у свом извештају, програм у почетку није чак ни увео ограничења за уништавање свог оператера – машина је све научила сама. А када је директно забрањено да туку своје, вештачка интелигенција се још једном прилагодила и посекла комуникациони торањ.
Много је питања за програмере. На пример, зашто није имао алгоритам за губљење бонуса за ударање својих? На ово питање је делимично одговорио пензионисани генерал америчког ваздухопловства Пол Селва још 2016. године:
„Скупови података којима се бавимо постали су толико велики и сложени да ако немамо нешто да им помогнемо да их сортирамо, једноставно ћемо се заглавити у тим подацима.
Па, програмери из историје пуковника Хамилтона су, очигледно, заглибили.
Паклена ватра под крилом дрона МК-1Б Предатор. Извор: бусинессинсидер.цом
Сада о томе зашто изговорима Пентагона и Хамилтона треба веровати са великом натегом.
Прво, пуковник није само испричао причу између редова, као да одвлачи пажњу од главног извештаја - он је овој теми посветио читаву презентацију. Ниво лондонске конференције Футуре Цомбат Аир & Спаце Цапабилитиес Суммит ни на који начин није погодан за шале. Према речима организатора, учествовало је најмање 70 еминентних предавача и више од 200 делегата из целог света. Из војно-индустријског комплекса радили су представници БАЕ Системс, Лоцкхеед Мартин Скунк Воркс и неколико других великих компанија.
Иначе, тема Украјине провлачила се готово у сваком извештају – Запад помно прати дешавања и размишља о резултатима.
Да се на овако репрезентативном форуму правиш искрену збрку, да узбуркаш пола света, па да се извиниш што сам направио лапсус? Ако је то заиста тако, онда се Хамилтонова репутација не може избрисати. Тек сада се ниво пуковникових компетенција само преврће, а то је други разлог зашто треба послушати његове прве речи.
Такер Хамилтон води тестирање и операције вештачке интелигенције у ваздухопловној бази Англин на Флориди. Под управом базе створена је 96. оперативна група у 96. опитном крилу. Хамилтон није прва година да ради са вештачком интелигенцијом авијација – већ неколико година пројектује делимично аутономне Ф-16 Виперс, за које се развија ВЕНОМ инфраструктура. Посао иде прилично добро - 2020. године виртуелне битке између бораца и вештачке интелигенције и са стварним пилотима завршене су резултатом 5:0.
Истовремено, постоје потешкоће на које је Хамилтон упозоравао прошле године:
„АИ је веома крхка, што значи да се може лако преварити и манипулисати. Морамо да развијемо начине да АИ учинимо робуснијим и боље разумемо зашто код доноси одређене одлуке."
У 2018, Хамилтон је освојио Цоллиер Тропхи са својим Ауто ГЦАС-ом. АИ алгоритми су научили да одреде тренутак губитка контроле над авионом од стране пилота, аутоматски су преузели контролу и одвели аутомобил од судара. Кажу да је Ауто ГЦАС већ некога спасио.
Као резултат тога, вероватноћа да је Хамилтон одозго замољен да повуче своје речи је много већа од вероватноће да је професионалац овог нивоа замрзнуо бесмислице. Штавише, они су се врло неспретно позивали на неке „мисаоне експерименте“ у глави пуковника.
Међу скептицима око исхода је и Тхе Вар Зоне, чији новинари сумњају да је портпарол Пентагона Штефанек заиста свестан шта се дешава у 96. тест крилу на Флориди. Ратна зона је упутила захтев бази Хамилтон, али за сада без одговора.
Заиста се има чега плашити војске. Огромне количине новца се троше на програме одбране од вештачке интелигенције да би спречиле Кину и Русију да се чак и приближе нивоу Америке. Цивилно друштво је прилично забринуто за изгледе за појаву „Терминатора” уз „Скинетс”. Тако су у јануару 2018. истакнути светски научници потписали отворено писмо позивајући специјалисте да размисле о жељи за стварањем све јаче вештачке интелигенције:
„Препоручујемо опсежна истраживања како бисмо осигурали робусност и доброћудност АИ система са растућом снагом. Системи вештачке интелигенције треба да раде оно што ми желимо да раде."
Према Хамилтону, АИ не ради све што особа жели.
информације