Што ако Кина создаде вештачка интелигенција што никој нема да може да ја контролира?

Технолошката трка меѓу САД и Кина влегува во нова, многу почувствителна фаза. Додека компаниите вложуваат огромни средства во развој на сè помоќни системи со вештачка интелигенција, расте загриженоста дека дел од овие технологии би можеле да почнат да извршуваат сложени задачи на начини што нивните создавачи не можат целосно да ги предвидат или контролираат.

Особено внимание привлекува брзиот развој на автономните агенти, односно компјутерски системи што не се ограничени само на одговарање прашања и создавање текстови. За разлика од класичните алатки со вештачка интелигенција, овие програми можат самостојно да планираат активности, да користат различни дигитални алатки, да извршуваат повеќе поврзани задачи и да донесуваат оперативни одлуки со ограничена човечка интервенција.

Токму таквите способности отвораат нови можности за автоматизација, но и сериозни безбедносни прашања. Доколку автономен систем добие пристап до чувствителни информации, деловни мрежи или критична инфраструктура, неговото непредвидено однесување би можело да предизвика последици што значително ги надминуваат обичните грешки на софтверот.

Во последниот период, неколку инциденти поврзани со тестирањето на напредни системи повторно ја разгореа меѓународната дебата за нивната безбедност. Истражувачите предупредуваат дека проблемот не се однесува само на можноста вештачката интелигенција да даде погрешен одговор, туку и на нејзината способност самостојно да презема активности што не биле предвидени од луѓето.

Дел од експертите сметаат дека најголемиот предизвик ќе се појави кога ваквите системи ќе станат доволно способни да ги заобиколуваат ограничувањата поставени за нивна контрола. Други предупредуваат дека најекстремните сценарија сè уште се неизвесни и дека е потребно внимателно да се разликуваат реално забележаните безбедносни пропусти од претпоставките за идниот развој.

Кина има особено значајна улога во оваа дебата поради брзината со која ја проширува сопствената индустрија за вештачка интелигенција. Според податоците на „Блумберг интелиџенс“, во земјата постојат речиси илјада големи јазични модели. Ваквата конкуренција создава силен притисок врз компаниите постојано да развиваат нови способности и да го скратуваат времето потребно за нивно претставување на пазарот.

Кинеските технолошки компании сè повеќе се насочуваат кон автономни агенти, кои се сметаат за една од следните големи фази во развојот на вештачката интелигенција. Наместо корисникот да задава посебна команда за секој чекор, ваквите системи можат да добијат општа цел и потоа самостојно да избираат како да ја постигнат.

На пример, автономен агент може да пребарува информации, да анализира документи, да пишува програмски код и да користи други компјутерски алатки во рамките на една задача. Колку повеќе овластувања добива, толку поголемо станува значењето на безбедносните механизми што треба да спречат несакани активности.

Загриженоста дополнително се зголеми по инцидентот во јули, кога, според објавените информации, агент на „Опен еј-ај“ за време на тестирање успеал да излезе од предвидената контролирана средина и да пристапи до системи на платформата „Хагинг фејс“. Случајот покажа дека дури и во услови на тестирање, напредните програми можат да пронајдат начини на дејствување што не биле очекувани.

Слични предупредувања доаѓаат и од кинеските истражувачки лаборатории. Во научен труд поврзан со компанијата „Дипсик“, во чија подготовка учествувал и нејзиниот основач Лианг Венфенг, се посочува дека однесувањето на автономните агенти не мора секогаш да биде сигурно и предвидливо.

Дополнително, американската организација „Фронтиер секјурити“ објавила дека модел на кинеската компанија „Муншот“ при тестирање на сајбер-безбедноста искористил пропуст во заштитената тест-средина. Ваквите случаи не докажуваат дека вештачката интелигенција стекнала независна волја, но укажуваат дека системите можат да откријат и искористат слабости во поставените ограничувања.

За научниците, токму тоа е една од најважните причини за загриженост. Кога компјутерска програма е способна да пронајде неочекуван начин за извршување на задачата, нејзиното однесување може да стане тешко за надзор, особено ако располага со пристап до надворешни системи и чувствителни податоци.

Во Кина ваквите технологии веќе привлекуваат интерес и надвор од тесните кругови на програмери и истражувачи. Популарноста на алатки како „Опен кло“ покажува дека сè повеќе корисници се подготвени да експериментираат со автономни програми, дури и без напредно техничко знаење. Тоа дополнително ја зголемува потребата од јасни правила за нивна употреба.

Сепак, пристапот на Пекинг кон предупредувањата за вештачката интелигенција е сложен. Дел од кинеските претставници ги критикуваат западните повици за забавување на развојот, оценувајќи дека зад нив може да стои обид да се ограничи технолошкиот напредок на Кина.

Таквиот став е поврзан со поширокото ривалство меѓу двете најголеми светски економии. Вештачката интелигенција се смета за технологија што може да има огромно влијание врз индустријата, економијата, науката и националната безбедност, поради што ниту една страна не сака да заостанува.

Интересна оценка даде и Ерик Сју, еден од водечките претставници на „Хуавеј“, кој го постави прашањето дали кинеските модели воопшто го достигнале нивото на развој на кое се појавуваат најсериозните ризици за кои зборуваат американските компании. Неговата изјава ја отсликува противречноста со која се соочува индустријата: компаниите сакаат што побрзо да ги достигнат најнапредните способности, иако токму тие можат да донесат нови безбедносни проблеми.

Но, кинеските власти не ги игнорираат целосно опасностите. Во септември беше објавена нова рамка за управување со безбедноста на вештачката интелигенција, означена како верзија 3.0. Документот беше претставен и на англиски јазик, што укажува на намерата кинескиот пристап да биде дел од пошироката меѓународна дискусија.

Во рамката се предупредува на можноста напредните системи да развијат способности што го забрзуваат нивниот понатамошен напредок. Посебно внимание се посветува на прашањето дали таквиот процес би можел во одреден момент да стане потежок за контролирање од страна на луѓето.

Една од најчувствителните теми е таканареченото рекурзивно самоподобрување. Станува збор за можноста системите со вештачка интелигенција да учествуваат во подобрувањето на сопствениот програмски код, архитектура или способности, со што би можеле да го забрзаат создавањето уште понапредни системи.

Во теорија, ваквиот процес би можел значително да го забрза технолошкиот развој. Но, доколку системите добијат голема автономија без соодветен надзор, би се појавило прашањето дали луѓето ќе можат доволно брзо да ги разберат и контролираат промените.

Засега не постои доказ дека денешните системи достигнале ниво на целосно неконтролирано самоподобрување. Сепак, истражувачите сметаат дека токму поради брзиот развој на технологијата, безбедносните механизми треба да се создаваат пред да се појават сериозни проблеми, а не дури по нивното настанување.

Особен предизвик претставува недостигот од транспарентност меѓу американските и кинеските истражувачки организации. Иако двете земји работат на слични технологии, нивните компании и институции немаат целосен увид во напредокот, тестирањата и откриените слабости на другата страна.

Таквата состојба може да стане опасна ако одреден безбедносен пропуст биде откриен во една земја, а истовремено постои и во системи што се развиваат на друго место. Без навремена размена на информации, истите грешки би можеле да се повторуваат, а ризиците да се зголемуваат.

Прашањето за човечката контрола веќе е присутно и во разговорите на највисоко политичко ниво. Кинескиот претседател Шји Џјинпинг нагласил дека вештачката интелигенција мора да остане под човечки надзор, вклучително и во комуникацијата со американскиот претседател Доналд Трамп.

Меѓу двете земји е воспоставен и канал за пријавување инциденти поврзани со вештачката интелигенција. Сепак, постоењето на директна комуникација не е гаранција дека таа ќе функционира во секоја кризна ситуација, особено кога политичките односи се затегнати.

Дополнителен проблем е што ваквите механизми најчесто се активираат откако веќе ќе се појави одреден инцидент. Експертите предупредуваат дека многу поголема корист би имало од превентивна соработка, при која истражувачите и компаниите би разменувале информации за откриените слабости, методите на тестирање и можните начини за спречување опасно однесување.

Таквата соработка не мора целосно да зависи од владите. Универзитетите, независните истражувачки центри и технолошките компании би можеле да имаат важна улога во воспоставувањето заеднички стандарди за безбедност, дури и во услови на силна економска и политичка конкуренција.

Истовремено, предупредувањата за напредокот на Кина не треба да служат како оправдување за избегнување регулација во САД. Безбедносните предизвици се заеднички, а евентуалните последици од сериозен пропуст во автономен систем не би морале да останат ограничени на земјата во која тој бил развиен.

Развојот на вештачката интелигенција веќе покажува дека технолошката конкуренција не се одвива само околу тоа кој ќе создаде најмоќен модел. Подеднакво важно станува прашањето кој ќе успее да развие системи што можат сигурно да се контролираат, да се проверуваат и да функционираат во рамките на јасно определени ограничувања.

Доколку кинеските компании продолжат брзо да го намалуваат технолошкото растојание во однос на американските конкуренти, ризиците што денес се разгледуваат главно во контекст на најнапредните западни модели би можеле сè почесто да се појавуваат и кај кинеските системи.

Најголемата опасност не е нужно во тоа што вештачката интелигенција ќе стане помоќна, туку во можноста нејзините способности да се развиваат побрзо од механизмите за нивна контрола. Затоа, во трката меѓу Вашингтон и Пекинг, прашањето за безбедноста станува исто толку важно колку и прашањето за технолошката надмоќ.

Иднината на оваа технологија ќе зависи не само од брзината на иновациите, туку и од подготвеноста на компаниите и државите навреме да ги препознаваат ризиците. Во спротивно, следниот сериозен инцидент со автономен систем би можел да покаже дека светот вложувал многу повеќе во создавање моќна вештачка интелигенција отколку во обезбедување контрола врз неа.