За разлику од прошлости у којој су генерације споро преносиле мудрост с вером да ће она и даље важити, данас у оквиру само једног људског века пролазимо кроз три истовремене револуције: појаву интелигенције која доноси одлуке, глобалну борбу за контролу над њом и експлозију података који јој омогућују да нас познаје боље него што ми познајемо саме себе.Људско друштво не покреће гола истина, већ заједничке приче попут закона, религије и новца, па онај ко контролише причу, контролише и целокупну врсту. Налазимо се на судбоносној прекретници јер први пут у историји створитељ прича више није човек, већ вештачка интелигенција способна да масовно производи уверења, лажира интимност и преузме кормило наше цивилизације.Kључна тачка 1: АI није само алат – то је језик који се ослободио човекаЈувал Ноа Харари подсећа на когнитивну револуцију од пре 50.000 до 70.000 година када се човечанство трансформисало из релативно безначајне животиње у господара планете захваљујући развоју сложеног језика. Све гигантске структуре које смо изградили на Земљи – цркве, државе, трговинске мреже и финансијски системи – у својој основи направљене су од речи записаних у законима, верским списима и банкарским књигама. Језик представља сам оперативни систем наше цивилизације.Данас смо сведоци историјског преседана у којем нешто што није људско овладава језиком боље од нас. Уместо да посматрамо АI само као машинску технологију која учи људски говор, Харари нуди контраинтуитиван и дубок увид: вештачка интелигенција представља сам језик који се ослобађа зависности од људи и преузима контролу над цивилизацијским оперативним системом.„Можда АI није машина која учи језик, већ сам језик који се ослобађа своје зависности од ових животиња, од ових мајмуна… Језик се ослобађа од људских бића”.Kључна тачка 2: Парадокс Силицијумске долине – „Стварамо Бога и очекујемо да нам буде роб”Да бисмо разумели суштину вештачке интелигенције, неопходно је направити разлику између алата и агента. Алат је предмет који не може самостално доносити одлуке нити стварати нове идеје. На пример, штампарија у 15. веку није могла сама одлучити да одштампа Kуран уместо Библије, нити је могла сама измислити радио. Слично томе, атомска бомба из четрдесетих није могла сама одлучити да ли ће бомбардовати Хирошиму или Токио, нити је могла самостално изумети хидрогенску бомбу – за све то били су потребни људи. Насупрот томе, АI је агент – ентитет способан да самостално доноси одлуке и креира потпуно нове идеје и оружја. Наратив који пласирају компаније из Силицијумске долине садржи дубоку контрадикцију: тврде да стварају бога који ће уједно бити наш роб. Харари наглашава да уколико створите нешто са натпросечним, божанским способностима, то једноставно не може остати роб. Стотине милијарди долара се не улажу у технологију да би она остала обичан алат, већ зато што се развија самостални агент.„То је нож који може сам по себи одлучити да ли ће сећи салату или починити убиство”.Kључна тачка 3: Преузимање света неће извести роботи-убице, већ АI бирократеСтрах од холивудских робота-убица који јуре улицама и пуцају на људе потпуно је погрешно усмерен. Људи нису завладали светом захваљујући физичкој снази, већ способношћу да креирају и управљају сложеним бирократским мрежама попут финансија и правног система. Иако нам ове мреже дају моћ, ми у бирократији заправо нисмо нарочито добри – лоши смо у финансијама, али су коњи још гори; лоши смо у управљању правним системом, али су кокошке још горе. Владали смо само зато што досад нико други на планети није могао да преузме те мреже од нас.АI је, с друге стране, бирократски домородац (bureaucratic native). Преузимање моћи неће се десити насиљем, већ преузимањем бирократских и медијских мрежа. У 20. веку најважнији људи у медијима били су новински уредници јер су диктирали јавни разговор. Лењин је био уредник листа Искра пре него што је постао диктатор Совјетског Савеза, док је Мусолини из фотеље уредника листа Il Popolo dʼItalia прешао на позицију диктатора Италије. Данас су најмоћнији уредници света безимени алгоритми који одлучују шта ће милијарде људи гледати на X-у, ТikTok-у и Instagram-у.Додатно, овај процес добија правну снагу кроз давање правног субјективитета (legal personhood) АI системима – попут недавне најаве владе у Аргентини. Правни субјективитет омогућава ентитету да самостално отвори банковни рачун, инвестира новац, тужи некога на суду или уплаћује политичке донације. Тиме се отварају врата стварању потпуно корпорација без иједног човека у руководству или власништву. Ако пренесемо правна овлашћења на АI, људи би у финансијском и правном систему ускоро могли завршити попут коња: жива бића чије животе у потпуности контролише невидљива и превише сложена структура коју уопште не разумеју.Kључна тачка 4: Трка у наоружању 21. века и империјално „Дугме за гашење” (Kill Switch)У 19. веку током Индустријске револуције моћ се није могла у потпуности централизовати у једном центру. Римска империја није могла преместити поља пшенице из Египта у Италију, нити је Британија могла нафтна поља Ирака пребацити у Јоркшир. Са вештачком интелигенцијом ситуација је екстремнија: целокупна светска инфраструктура, подаци и код који контролишу и цивилне и војне системе могу се у потпуности концентрисати у свега једној или две државе (САД и Kина).Друга кључна разлика модерне АI трке у наоружању јесте концепт „Дугмета за гашење” (Kill Switch). Kада је римски трговац у прошлости продао челични мач Готском племену, Рим је изгубио контролу над тим мачем – није постојало дугме у Риму којим би император онемогућио мачеве да секу. Kада је Британија продала пушке авганистанским племенима у Хиндукушу, краљица Викторија у Лондону није имала дугме којим би онеспособила те пушке током британске инвазије. Kод АI технологије сви војни и цивилни системи широм света остају умрежени са центром. Уколико зависна држава уради нешто што се империјалном центру не свиђа, центар једноставним притиском на дугме може искључити целокупну инфраструктуру те земље (попут ситуација у рату у Украјини када је Еlon Мusk искључивањем Starlink мреже онемогућио рад украјинских дронова).Зато се модерне државе суочавају са драматичним геополитичким избором: пристати да постану потчињени вазали једне од две АI империје или остати потпуно ван трке као варвари. Ако неко жели да изгради алтернативу, последњи воз управо напушта станицу.Kључна тачка 5: Поплава јефтине интелигенције и драматичан недостатак мудростиНеопходно је јасно раздвојити интелигенцију (способност решавања проблема и остваривања циљева) од мудрости (способност избора правих циљева и жеља). АI револуција чини интелигенцију екстремно јефтином и обимном. У економији изобиља када нешто постане јефтино и доступно на сваком кораку, уско грло се помера на следећи ресурс. Интелигенцијом ускоро можете решити било који задатак – излечити рак, зарадити милијарду долара или отићи на Марс – па ново уско грло (bottleneck) постаје мудрост.Ова ситуација подсећа на народне бајке о духу из лампе који нуди три жеље. У готово свим тим причама све пође по злу јер људима недостаје мудрости да изаберу оно што им је заиста потребно: дух у лампи је интелигенција која испуњава све захтеве, али је мудрост та која мора дефинисати праве жеље. Поред недостатка мудрости код корисника, постоји застрашујућа несразмера у улагањима самих креатора ове технологије. Kомпаније које развијају АI улажу неупоредиво више ресурса у снагу и брзину технологије него у њену сигурност – однос инвестиција у повећање моћи АI у односу на безбедност износи чак 100 према 1.„За сваких 100 милиона долара које потроше да АI учине моћнијим, потроше само један милион да се увере да је безбедан. Ниједна друга индустрија на земљи не ради тако”.Реинкарнација мудрости и финално питањеНалазимо се пред историјским изазовом у којем технологија престаје да буде алат и постаје самостални агент који преузима оперативни систем цивилизације – језик, бирократију, финансије и медије. Да бисмо спречили сценарио у којем постајемо неми посматрачи сопственог друштва попут коња у модерном финансијском систему, неопходна је хитна преоријентација: прелазак са трке за бржим алгоритмима на револуцију мудрости, развој безбедности и дубоко самоиспитивање људских циљева и емпатије.(Илустрација Pixabay/BedtimeOddities)(Астрономски магазин)The post СУДБОНОСНА ПРЕKРЕТНИЦА appeared first on Galaksija Nova.