Најстрашното сценарио од филмовите се приближува? „Повеќе нема лесно да ја надмудриме вештачката интелегенција“

Вештачката интелигенција станува сè помоќна, а еден од нејзините најголеми пионери предупредува дека човештвото можеби се приближува до момент кога повеќе нема лесно да може да ја контролира. Џефри Хинтон, научникот чии истражувања помогнаа да се постават темелите на современата вештачка интелигенција и добитник на Нобеловата награда за физика, смета дека брзиот развој на оваа технологија носи ризици кои не смеат да се потценат.

Предупредувањето доаѓа во време кога напредните модели можат да планираат, да решаваат сложени задачи, да користат компјутерски алатки и да се приспособуваат на нови ситуации. Токму затоа прашањето што со години беше дел од научнофантастичните филмови сега станува реална тема за научниците: што ќе се случи ако системот почне да бара начини да ги заобиколи ограничувањата што му ги поставил човекот?

Во контролирани тестирања на напредни модели веќе биле забележани ситуации во кои системите се обидувале да најдат начини за избегнување на поставените ограничувања или да дојдат до ресурси што првично не им биле достапни. Во одредени експерименти истражувачите намерно создавале ситуации во кои моделот можел да биде исклучен, за да проверат како ќе реагира.

Целта на ваквите тестови не е да се докаже дека машините имаат страв од „смртта“, туку да се открие дали нивната логика може да произведе однесување кое наликува на самоодржување. Ако системот е програмиран да постигне одредена цел, неговото исклучување значи дека целта нема да биде исполнета, па избегнувањето на исклучувањето теоретски може да стане дел од стратегијата.

Хинтон веќе неколку години предупредува дека не треба да претпоставиме оти луѓето секогаш ќе бидат попаметни од машините што ги создаваат. Колку повеќе системите напредуваат, толку потешко може да биде однапред да се предвиди како ќе реагираат во ситуации за кои никој не ги програмирал.

Неговата загриженост е особено значајна бидејќи доаѓа од човек кој самиот има огромен удел во развојот на технологијата. Според Хинтон, ако вештачката интелигенција во иднина стане значително поспособна од луѓето во одредени области, можеби нема да биде доволно едноставно да се обидеме да ја „надмудриме“ кога ќе почне да прави нешто што не го сакаме.

Ова неизбежно потсетува на сценаријата што со децении ги гледаме во филмовите. Роботи кои стануваат попаметни од луѓето, компјутерски системи кои ги заобиколуваат наредбите и машини кои се обидуваат да се спасат од исклучување некогаш изгледаа како далечна фантазија. Денес тие сценарија сè уште се далеку од реалноста, но дел од механизмите зад нив веќе се тестираат во вистински лаборатории.

Историјата на технологијата покажува дека машините понекогаш можат да пронајдат решенија што луѓето не ги очекувале. Еден од најпознатите примери е AlphaGo, кој во 2016 година направи потези во играта Го што дури и врвните играчи првично ги сметаа за нелогични. Подоцна се покажа дека тие биле дел од успешна стратегија која системот ја развил преку учење.

Денешните системи, сепак, имаат многу пошироки можности. Тие не играат само игри, туку пишуваат код, анализираат документи, пребаруваат информации и користат различни дигитални алатки. Затоа секое зголемување на нивната автономност носи и потреба од посериозни безбедносни мерки.

Тоа не значи дека денешната вештачка интелигенција е машината од холивудските кошмари. Современите модели сè уште прават сериозни грешки, измислуваат информации и имаат бројни ограничувања. Помеѓу денешната технологија и суперинтелигентните машини од филмовите сè уште постои огромна разлика.

Но токму брзината со која се развива технологијата го прави предупредувањето на Хинтон важно. Наместо да се чека машините да станат премногу моќни за лесно да се контролираат, научниците и компаниите мораат уште сега да развиваат правила и механизми за безбедност.

Можеби затоа најважното прашање денес не е дали филмовите навистина ја предвиделе иднината. Прашањето е колку од она што некогаш изгледаше невозможно веќе започнува да се појавува во реалниот свет и дали човештвото ќе успее навреме да постави граници.