Пише: Драган Бисенић
уторак, 09. нов 2021, 08:08 -> 09:40
„Улазимо у нови период људске свести који још увек не разумемо у потпуности“, упозорава Хенри Кисинџер говорећи о променама које доноси епоха вештачке интелигенције, што је тема која га фасцинира и у његовим деведесетим годинама. „Перцепција света биће другачија од данашње, разликоваће се што се доба просвећености разликовало од средњег века. Тада је западни свет полако прешао са религиозне перцепције света на перцепцију засновану на разуму. Ово ће бити брже, само што постоји једна битна разлика – данас живимо у свету који нема филозофију. Тако да технолози могу да дивљају.“
Иако је целу своју каријеру посветио традиционалним питањима дипломатије, међународних односа и историје, бивши државни секретар САД и нобеловац Хенри Кисинџер у својој 98. години има потпуно нову област интересовања, технолошки најсавременију и најмање познату: вештачку интелигенцију. Постао је заинтригиран за ову тему 2016. године, након што га је Ерик Шмит, тада извршни председник Гугла, убедио да присуствује једном предавању на Билдерберг конференцији.
Мало је фалило да Кисинџер пропусти ту сесију – пошто се налазила изван његових уобичајених интересовања – али га је почетак презентације задржао на столици.
Говорник је описао рад компјутерског програма који ће ускоро моћи да се надмеће са светским првацима у игри „го“. Будући да је све што се тиче Кине привлачило Кисинџерову пажњу, и да је и сам писао о сложености игре „го“ и њеном значењу за кинеску спољнополитичку доктрину, Кисинџер је остао на предавању. Био је зачуђен сазнањем да би компјутер могао да овлада „гоом“, који је комплекснији од шаха. У њему сваки играч поседује 181 или 180 каменчића (у зависности од боје коју одабере) наизменично размештених на претходно празној табли, а победа иде оној страни која, доносећи боље стратешке одлуке, паралише противника ефективнијом контролом територије.
Машина је, како је предавач рекао, овладала вештином играња тиме што је саму себе увежбала. Познајући основна правила „гоа“, компјутер је одиграо безброј игара против самог себе, учећи на сопственим грешкама и тако унапређујући своје алгоритме. У току тог процеса је превазишао вештине својих људских ментора.
И заиста, у месецима након овог говора, програм вештачке интелигенције назван „Алфа Го“ убедљиво је победио највеће светске играче „гоа“.
Perpetuum mobile у политици
Док је слушао како говорник слави овај технички прогрес, искуство историчара и повременог државника навело је Кисинџера да се замисли. Он је одувек веровао у снагу људске способности да креира свој свети светски поредак, ратом и миром, али увек на основу дубоко људских мотива и потреба. Судбина света решавала се на мировним конференцијама, уз дипломатско умеће и интелектуалну снагу. Сада је Метерних требало да уступи место алгоритму, а Париска конференција, која је требало да успостави мир који ће окончати сваки рат, и то на основу научних чињеница и спознаја које је Вудро Вилсон донео у Европу преко своје групе „Истраживање“, требало је науку препусти машинама које су перпетуум мобиле знања и које саме себе уче?
За јединог преосталог хладноратовског дипломатског колоса није било сумње да се свет налази пред судбинском променом. Какве ће бити историјске последице машина које подучавају саме себе – машина које стичу знање процесима својственим само њима и примењују га за циљеве који потенцијално остају ван оквира људског разумевања. Да ли ће ове машине научити да међусобно комуницирају? Како ће доносити одлуке пред мноштвом опција? Да ли је могуће да људска историја доживи судбину Инка који су се суочили са шпанском културом која је била ван оквира њиховог разумевања и на коју су гледали са страхопоштовањем? Да ли смо на ивици нове фазе људске историје?
Да би стигао до одговора на ова питања, после тог предавања Кисинџер је у својим 90-им годинама почео, заједно са Шмитом, да организује мале семинаре од четири или петоро људи сваке три или четири недеље. На крају тог истраживачког периода, позвали су Дана Хутенлохера и онда су се њих тројица састајали годину дана, сваке недеље поподне.
Била је то, поред осталог, задивљујућа радна енергија и упорност човека који је већ тада превалио 90. годину. Тако је настала њихова управо објављења књига Доба вештачке интелигенције (коју ће ускоро у преводу на српски објавити Клуб ПЛУС из Београда).
Крајње одредиште вештачке интелигенције
Кисинџеру је јасно да сада вештачка интелигенција, производ људске генијалности, поништава примат људског разума: она истражује и почиње да опажа аспекте света брже од људи, другачије од начина на који то људи раде, а у неким случајевима и на начин који људи не разумеју.
Њих тројица – Кисинџер, Шмит и Хутенлохер – позвали су америчку владу да образује комисију која би регулисала развој вештачке интелигенције. У тексту који је пре две године објављен у Вол Стрит Џорналу упозорили су да вештачка интелигенција има потенцијал да покрене дубока егзистенцијална и филозофска питања о „примату људског разума“ и улози људи у свету.
Трио је позвао америчку владу да оснује комисије са задатком да „обликује вештачку интелигенцију у складу са људским вредностима, укључујући достојанство и морално деловање људи“. Они су закључили да је „напредак вештачке интелигенције неизбежан, али његово крајње одредиште није“.
Шта ако вештачка интелигенција напише најбољи сценарио године, да ли треба да добије Оскара? Ако вештачка интелигенција симулира или води најзначајније дипломатске преговоре године, да ли би требало да добије Нобелову награду за мир?
Вештачка интелигенција је „способност дигиталног рачунара или компјутерски контролисаног робота за обављање задатака који су својствени интелигентним бићима“. Она је још увек у раној фази, али то је технологија која напредује много брже од других – чак брже од интернета. Најновије истраживање компаније Dell процењује да „85 одсто радних места која ће постојати 2030. није још ни створено!“. Ово поставља питање: како можемо образовати радну снагу да се припреми за овај ниво неизвесности?
Летећи аутомобили и виртуелна колица
Друга област коју је Кисинџер узео као пример јесте појава аутомобиле без возача, аутомобила-дрона. Аутомобил без возача илуструје разлике између деловања традиционалних компјутера које контролишу људи а покреће софтвер, и универзума којим вештачка интелигенција настоји да овлада.
Вожња аутомобила захтева процене бројних ситуација које је немогуће предвидети и самим тим немогуће унапред програмирати. Шта би се десило, да се послужимо познатим хипотетичким примером, ако би такав аутомобил стицајем околности био принуђен да бира између тога да убије пензионера или да убије дете? Кога би одабрао? Зашто? Којим факторима би дао предност? И да ли би могао да објасни свој резон? Уколико би био приупитан (и способан да комуницира), његов искрени одговор би вероватно био: ,,Не знам (јер пратим математичке, а не људске принципе)“; или: ,,Не бисте разумели (јер сам научен да се понашам на одређени начин, али не и да га објашњавам)“. Упркос томе, све су прилике да ће аутомобили без возача однети превагу на путевима за свега десетак година, ако не и раније.
Тренутно стотине компанија граби ка индустријском циљу да „аутономни аутомобили буду на путу за комерцијалну употребу у року од годину дана и такође имају могућности за њихово потпуно оперативно коришћење у ваздуху (летећи аутомобили) до 2024.“ Чини се да ће до 2030. бити потребна посебна дозвола за управљање возилом којим управљају људи, што илуструје уверење да ће аутомобили без возача преузети власт на копненим и ваздушним друмовима. Тако ће се решити проблем несташице возача за камионе, што је најчешће мушко занимање у САД, који сада мучи западне земље. То ће у перспективи двести до губљења 3 до 5 милиона радних места, само у САД.
Звучи застрашујуће податак да скоро 90 одсто Амазонових инвестиција доводе до огромног губитка посла у свакој индустрији.
Продавнице ланца прехрамбених производа Амазон Го омогућавају купцима да купују у продавници користећи само е-апликацију за паметне телефоне, да изађу са оним што им треба, без провере напољу, без благајника, без чекања у редовима.
Ове продавнице раде коришћењем исте технологије које се користе у аутономним аутомобилима као што је сензорска фузија, компјутерски вид и дубоко учење. Сензори продавнице могу да открију када се производи узимају или враћају на полице, и да их аутоматски прате у вашим „виртуелним колицима“. Када напустите продавницу, аутоматски вам се наплаћује.
Нови период људске свести
Ерик Шмит увиђа да је алгоритамска брзина одлучујућа. „Сада смо прешли од способности читања књига до описивања књига, до тога да немамо времена ни да их читамо, ни да их замислимо, нити да о њима расправљамо. У питању је убрзање времена и информација, што мислим, заиста превазилази људске капацитете. Мислим да људи нису створени за ово. Дакле, у крајњем случају, преоптерећеност информацијама ће вероватно премашити нашу способност да обрадимо све што се дешава“, сматра некадашњи директор Гугла.
Кисинџер каже да је целог живота настојао да увиди који је смисао историје. Људи су током целе историје настојали да разумеју стварност и људску улогу у њој.
„Тема о смислу историје и куда идемо окупирала је мој живот“, написао је Кисинџер. „Технолошко чудо ме не фасцинира толико; оно што ме фасцинира јесте да крећемо у нови период људске свести који још увек не разумемо у потпуности. Када кажемо нови период људске свести, мислимо на то да ће перцепција света бити другачија, у најмању руку различита, као између доба просвећености и средњег века, када је западни свет прешао са религиозне перцепције света на перцепција света на основу разума, полако. Ово ће бити брже. Постоји једна битна разлика. У просветитељству је постојао концептуални свет заснован на вери. И тако су Галилеј и касни пионири просветитељства имали преовлађујућу филозофију против које су морали да тестирају своје размишљање. Можете пратити еволуцију тог размишљања. Живимо у свету који, у ствари, нема филозофију; нема доминантног филозофског гледишта. Тако да технолози могу да дивљају. Они могу да развију ствари које мењају свет, али нема никога ко би рекао: Морамо ово да интегришемо у нешто.“
Канцеларија Беле куће за науку и технолошку политику пре месец дана позвала је на креирање „закона о правима“ како би се заштитила од злоупотребе вештачке интелигенције.
Кисинџер у Гуглу
Када је Кисинџер упознао Ерика Шмита, он га је позвао да говори у Гуглу. Кисинџер је рекао да Гугл сматра претњом цивилизацији, пошто није желео да једна организација има монопол на давање информација.
„Сматрао сам да је изузетно опасно да једна компанија може да пружи информације и да прилагоди оно што је испоручила својој студији о томе шта је јавност желела или сматрала вероватним“, рекао је Кисинџер. „Тако је истина постала релативна. То је било све што сам знао у то време. А разлог зашто ме је позвао да се састанем с његовом алгоритамском групом био је да схватим да ово није произвољно, већ да избор онога што је представљено иза себе има неко промишљање и анализу. То није отклонило мој страх од моћи коју има једна таква приватна организација.“
Кисинџера је посета Гуглу навела на размишљање и истовремено забринула због утицаја који ће технологија имати на људе и њихово постојање и сазнања да технолози то раде без разумевања утицаја њиховог дела или раније историје.
Кисинџер тврди да су процеси вештачке интелигенције постали толико моћни, тако неприметно уплетени у људске послове и тако непредвидиви, да без предумишљаја и управљања, врста „епохалних трансформација“ коју ће спровести може послати људску историју у опасном правцу. „Овладавајући одређеним компетенцијама брже и одлучније од људи, вештачка интелигенција би временом могала да умањи људску компетенцију и само људско стање док их претвара у податке“, навео је Кисинџер. „Филозофски, интелектуално – у сваком погледу – људско друштво је неспремно за успон вештачке интелигенције“, тврди Кисинџер.
Он иде тако далеко да предвиђа окончање „ере просветитељства“, односно крај доминације људског разума у историји и препуштање тог места машини и алгоритмима.
Три стрепње
Развој вештачке интелигенције доноси три врсте стрепње и неизвесности. Прва је да би вештачка интелигенција могла да оствари нежељене резултате. Друга стрепња је да би у достизању намераваних циљева она могла да промени људски мисаони процес и људске вредности. Треће, вештачка интелигенција би могла да оствари предвиђене циљеве, али да не буде у стању да објасни резон иза својих закључака.
Кисинџер, који је своју славу стекао на нуклеарним питањима, упозорава да ће развој вештачке интелигенције бити много теже контролисати од нуклеарног оружја јер ће се развој технологије обављати у тајности: „С вештачком интелигенцијом незнање друге стране је једно од ваших најбољих оружја – његово ширење ће бити много теже. Због тога значајан број научника, истраживача индустрије и технолошких средстава подржао је акцију за забрану употребе аутономног оружја. Питање је, међутим, најблаже речено изазовно. Као што истраживач безбедности Пол Шар пише у недавно објављеној књизи Војска без војника, аутономно оружје се деценијама увлачи у војне системе. Није увек лако повући линију код аутономних система, а технологија је примамљива јер се може користити да се оружје учини поузданијим.“
Наравно, Кисинџер размишља и о геополитичким импликацијама ширење употребе вештачке интелигенције, што је још увек неиспитано подручје. „Ако замислите рат између Кине и Сједињених Држава, имате оружје са вештачком интелигенцијом. Као и свака вештачка интелигенција, она је ефикаснија у ономе што планирате. Али можда је ефикасније оно што она узима за свој циљ. И тако, ако кажете: ‘Циљ А је оно што желим’, она би могла да одлучи да нешто друго још боље испуњава ове критеријуме. Дакле, ви сте у свету мале неизвесности. Друго, пошто нико заиста није тестирао ове ствари у великој операцији, не можете тачно рећи шта ће се догодити када борбени авиони са вештачком интелигенцијом са обе стране буду у интеракцији. Дакле, тада сте у свету потенцијално потпуне деструктивности и суштинске неизвесности у погледу онога што радите“, упозорава Кисинџер.
Он ово стање упоређује са Првим светским ратом када су сви планирали веома компликоване сценарије мобилизације, и били су тако фино припремљени да, када је мобилизација кренула, нису више могли да је зауставе, јер би себе довели у лошу позицију. Како ће онда вештачка интелигенција знати и моћи да себе заустави?
„Још један пример из војне доктрине. Све иде брже. Оно што не желимо је оружје које се аутоматски лансира, на основу сопствене анализе ситуације. Али, зато што је нападач можда бржи него што људски мозак може да анализира, имате подстицај да то учините аутоматским. Али не желите да то учините толико аутоматским да оно може да делује на основу суда који можда нисте донели. Тако да је то зачарани круг“, указује Кисинџер.
Интелигенција технолога
Као што се у просветитељству прешло с религије на разум, сада технолози показују како да се разум повеже са вештачком интелигенцијом. То је у неким аспектима другачија врста знања, јер разумом – светом у коме смо одрасли – сваки доказ подржава други. Са вештачком интелигенцијом, запањујућа ствар је да се долази до закључка који је тачан, али не знамо зашто. То је потпуно нови изазов.
Објашњавајући зашто се пред крај једног века свога живота бави овим веома комплексним питањем, Кисинџер каже да га мотивише настојање да да неки допринос схватању мира. И да је то оно по чему би желео да буде упамћен.
Кисинџер указује да је човечанство до сада претпостављало да је технолошки напредак користан или да се њиме може управљати. Али постоје аспекти његовог управљачког дела које уопше нису проучени, због чега остаје забринут. Бављење овим питањима је препуштено технолозима и интелигенцији повезаних научних области.
Технолошки свет се занима комерцијализацијом ових достигнућа, а владе су више заинтересоване за примену у безбедносним и обавештајним подручјима него за истраживање процеса трансформисања човечанства коју она изазива. Филозофи и други друштвењаци који су помагали у обликовању претходних концепата светског поретка су у неповољнијем положају, без знања о механизмима вештачке интелигенције или исувише фасцинирани њеним могућностима.
Вештачка интелигенција је опасна, али унапређује нашу културу. Пошто већ постоји, мора да се разуме и не може да се елиминише.