Алтман и Амодеи пред Обединетите нации: Светот мора да постави граници на вештачката интелигенција

Компаниите што ја предводат глобалната трка во развојот на вештачката интелигенција сега испраќаат необична порака до светските лидери: технологијата што ја создаваат станува толку моќна што нејзиниот развој не треба да остане без јасни правила и механизми за контрола.

Пред Советот за безбедност на Обединетите нации, раководителите на некои од највлијателните компании во индустријата предупредија дека брзиот напредок на вештачката интелигенција носи огромни можности, но и ризици кои повеќе не можат да се разгледуваат само како проблем на технолошките компании.

Меѓу најгласните беа извршниот директор на „Антропик“, Дарио Амодеи, и извршниот директор на „ОпенАИ“, Сем Алтман. И двајцата побараа поголема меѓународна соработка и воспоставување заштитни механизми со кои би се намалиле опасностите од најмоќните системи.

Амодеи предупреди дека доколку технологијата се управува лошо, ризикот во крајна линија може да го засегне човештвото во целина. Алтман, пак, предупреди на можноста луѓето постепено да ја изгубат способноста да ја насочуваат сопствената иднина доколку развојот на системите излезе од рамките што можат да се контролираат.

Но пораката на технолошките лидери не беше дека развојот треба едноставно да запре.

Тие истовремено нагласија дека вештачката интелигенција може да донесе големи придобивки во науката, медицината, образованието, економијата и секојдневниот живот. Според Алтман, една од најголемите можности е технологијата да им даде на луѓето поголема способност да управуваат со сопствениот живот.

Проблемот е како да се искористат придобивките без истовремено да се создадат ризици што подоцна ќе биде тешко да се ограничат.

Едно од прашањата што го отворија раководителите на компаниите е концентрацијата на моќта. Според нив, иднината на технологијата не треба да зависи исклучиво од одлуките на една компанија или една држава, особено доколку најнапредните системи добиваат сè поголемо влијание врз економијата, безбедноста и општеството.

Амодеи побара меѓународни стандарди со кои би се проверувало што можат да направат најмоќните модели и дали нивните способности создаваат нови безбедносни опасности.

Посебно внимание привлече можноста напредните системи да бидат злоупотребени при создавање биолошко оружје. Според неговиот пристап, земјите треба да се договорат за правила со кои ќе се утврдува кои модели имаат опасни способности и како тие ќе бидат тестирани пред да станат широко достапни.

Прашањето повеќе не е ограничено само на компаниите што ги создаваат моделите. Вештачката интелигенција станува и геополитичко прашање.

Соединетите Американски Држави и Кина водат интензивна технолошка трка, а токму тоа ја отежнува можноста за создавање единствен глобален систем на правила.

Американската администрација се спротивставува на идејата загриженоста за ризиците да се претвори во механизам што би го забавил развојот или би создал нова глобална структура со широки овластувања над технологијата.

Советникот за наука во Белата куќа, Мајкл Крациос, порача дека Соединетите Американски Држави сакаат нивните сојузници и партнери да ги користат придобивките што ги носи технологијата и дека стравувањата не треба да бидат причина за ограничување на напредокот.

Кина, од друга страна, ја нагласува потребата државите сами да избираат каква технологија ќе користат. Кинескиот амбасадор во Обединетите нации, Фу Конг, се заложи и за поголема употреба на модели со отворен код.

Така, зад дебатата за безбедноста се појавува уште едно големо прашање: кој ќе ги поставува правилата за технологијата што може да стане една од највлијателните во светската економија и меѓународната безбедност.

Европските претставници покажуваат поголема подготвеност за меѓународна регулација.

Британскиот министер за надворешни работи Ед Милибанд најави дека прашањето за контролата на вештачката интелигенција ќе биде високо на агендата кога Велика Британија ќе претседава со Г20. Целта, според него, треба да биде создавање заеднички стандарди што ќе овозможат технологијата да продолжи да се развива, но со јасни безбедносни ограничувања.

Францускиот министер за надворешни работи Жан-Ноел Баро направи уште подиректна историска споредба. Тој сегашниот момент го спореди со почетокот на атомската ера, кога човештвото доби технологија со огромен потенцијал, но истовремено и со способност да предизвика катастрофални последици.

Според таквото гледиште, задачата на меѓународната заедница е да создаде правила доволно рано за да го искористи најдоброто од новата технологија, а да ги ограничи нејзините најопасни примени.

Дебатата станува уште посложена кога вештачката интелигенција ќе се поврзе со оружјето.

Генералниот секретар на Обединетите нации Антонио Гутереш предупреди на опасностите од автономните оружени системи, особено од можноста машините да добијат поголема улога во одлуките од кои директно зависи човечкиот живот.

Тоа го отвора едно од најтешките прашања во целата дебата: дали одлуките за употреба на смртоносна сила секогаш мора да останат под човечка контрола или развојот на технологијата може постепено да ја помести таа граница.

Токму затоа состанокот во Обединетите нации покажа дека глобалната дебата веќе не се води само околу тоа колку вештачката интелигенција ќе стане способна.

Сега прашањата се кој ќе ја контролира, кој ќе одлучува што е дозволено, како ќе се проверува почитувањето на правилата и што ќе се случи ако најголемите светски сили не можат да се договорат за заеднички стандарди.

Парадоксот е што предупредувањата доаѓаат токму од луѓето чии компании ја забрзуваат технолошката трка.

Алтман и Амодеи не бараат светот да се откаже од вештачката интелигенција. Нивната порака е дека развојот мора да биде придружен со правила кои ќе растат заедно со способностите на технологијата.

А времето за создавање такви правила можеби станува еден од најважните фактори. Технологијата напредува со огромна брзина, додека меѓународните договори традиционално се создаваат бавно.

Затоа главната дилема веќе не е дали вештачката интелигенција ќе го промени светот. Тоа веќе се случува. Прашањето е дали државите ќе успеат да воспостават правила додека сè уште можат да влијаат врз насоката во која технологијата ќе се развива.