Ќе стане ли вештачката интелигенција неконтролирана? Шефот на „Енвидија“ тврди дека нема причина за страв од исчезнување на човештвото

Додека научниците, технолошките компании и светските влади сè почесто разговараат за опасностите од развојот на вештачката интелигенција, еден од највлијателните луѓе во оваа индустрија испраќа сосема поинаква порака. Џенсен Хуанг, главен извршен директор на американската компанија „Енвидија“, ги отфрла предвидувањата дека напредните интелигентни системи би можеле да станат неконтролирани и да предизвикаат исчезнување на човештвото. Според неговата проценка, веројатноста за такво сценарио до 2030 година е практично непостоечка.

Неговата изјава дека постојат „нула отсто шанси“ светот да исчезне до крајот на оваа деценија повторно ја отвори дебатата за вистинските ризици од технологијата што со огромна брзина навлегува во речиси сите области од животот. Додека едни предупредуваат дека човештвото би можело да ја изгуби контролата врз идните системи, други сметаат дека таквите сценарија се претерани и го одвлекуваат вниманието од реалните проблеми. Хуанг припаѓа на групата технолошки лидери кои веруваат дека развојот треба да продолжи, но со високи безбедносни стандарди.

Неговите ставови имаат особена тежина бидејќи „Енвидија“ е една од компаниите што се наоѓаат во центарот на глобалниот развој на вештачката интелигенција. Нејзините напредни графички процесори се користат за обучување и функционирање на голем број современи интелигентни системи, а побарувачката за ваквата технологија ја претвори компанијата во еден од најважните играчи во светската технолошка индустрија. Поради тоа, секоја изјава на Хуанг за иднината на вештачката интелигенција привлекува внимание и надвор од деловните кругови.

Во основата на дебатата се наоѓа прашањето дали вештачката интелигенција во одреден момент би можела да достигне ниво на способности што ќе ја надмине човечката можност за нејзино контролирање. Стравувањата не се однесуваат само на тоа дали машините ќе станат подобри од луѓето во одредени задачи, бидејќи тоа веќе се случува во повеќе специјализирани области. Многу посериозната дилема е дали идните системи би можеле самостојно да носат сложени одлуки, да преземаат активности без соодветен надзор и да постапуваат спротивно на намерите на нивните создавачи.

Таквото сценарио често се опишува како губење на човечката контрола врз вештачката интелигенција. Во теоретските расправи, ризикот се поврзува со можноста исклучително напреден систем да следи одредена цел на начин што не бил предвиден од неговите програмери. Доколку таквиот систем располага со голема автономија и пристап до важна инфраструктура, последиците од погрешно поставените цели би можеле да бидат сериозни.

Сепак, важно е да се направи разлика меѓу научно разгледување на потенцијален ризик и тврдење дека таков развој е неизбежен. Во моментов не постои научен консензус дека вештачката интелигенција ќе стане неконтролирана до 2030 година, ниту дека таквото сценарио сигурно ќе се случи во некој подоцнежен период. Исто така, не постои основа со апсолутна сигурност да се тврди дека сите можни идни ризици се исклучени.

Токму во оваа неизвесност се наоѓа суштината на несогласувањето меѓу технолошките оптимисти и оние што предупредуваат на долгорочните опасности. Првите сметаат дека вештачката интелигенција е технологија што може да се развива и контролира преку инженерски решенија, тестирање и соодветни правила. Вторите предупредуваат дека брзината на напредокот би можела да ја надмине способноста на институциите и самите компании навремено да ги разберат и ограничат сите последици.

Хуанг со своите изјави испраќа порака дека не треба да се поистоветува технолошкиот напредок со неизбежна глобална катастрофа. Неговата позиција е дека вештачката интелигенција може да продолжи да се развива, додека безбедноста останува важен дел од процесот. Но таквиот оптимизам не претставува научен доказ дека идните системи никогаш нема да создадат сериозни проблеми.

Дополнителна причина поради која неговите изјави се внимателно анализирани е деловната позиција на „Енвидија“. Компанијата има директен економски интерес од продолжување на инвестициите во инфраструктурата за вештачка интелигенција, бидејќи нејзините производи се меѓу најважните компоненти во современите центри за обработка на податоци. Тоа не значи дека проценките на Хуанг се неосновани, но покажува зошто во јавната дебата е важно да се слушнат и независни научни и регулаторни ставови.

Во меѓувреме, вештачката интелигенција веќе ги менува начинот на работа, образованието, здравството и деловното одлучување. Компаниите користат интелигентни системи за обработка на големи количества информации, автоматизација на повторливи задачи и развој на нови производи. Во медицината се истражуваат можности за побрза анализа на податоци и подобра поддршка при дијагностицирање, додека во науката технологијата помага во истражувања што бараат огромни пресметковни ресурси.

Овие можности се една од причините поради кои многу технолошки компании се противат на идејата развојот целосно да се запре поради претпоставени идни опасности. Според таквиот пристап, забавувањето на истражувањата би можело да го одложи и напредокот во области што имаат директна корист за човештвото. Сепак, аргументот за економските и научните придобивки не ја отстранува потребата од процена на ризиците.

Еден од најважните предизвици е прашањето како да се обезбеди интелигентните системи да постапуваат во согласност со човечките намери и вредности. Во научната заедница ова се поврзува со истражувањата за усогласување на вештачката интелигенција, односно создавање системи што ќе ги следат поставените цели без да предизвикаат непожелни последици. Проблемот станува посложен како што системите добиваат поголеми способности за планирање, користење дигитални алатки и самостојно извршување повеќе поврзани задачи.

На пример, систем што има овластување автоматски да управува со одредени деловни процеси може да донесе одлука што на прв поглед ја исполнува поставената цел, но истовремено создава неочекувана штета. Затоа е важно ваквите технологии да имаат јасно определени ограничувања, можност за човечка интервенција и механизми за следење на нивното однесување. Колку е поголема автономијата на системот, толку поголемо значење добиваат овие мерки.

Прашањето за контролата е особено чувствително кога вештачката интелигенција се користи во критична инфраструктура. Енергетските системи, транспортот, телекомуникациите и финансиските услуги зависат од сложени технолошки процеси во кои погрешна одлука може да има пошироки последици. Поради тоа, воведувањето интелигентни решенија во ваквите области бара дополнителни проверки и јасна распределба на одговорноста.

Но ризиците од вештачката интелигенција не се ограничени само на сценаријата за целосно губење на контролата. Веќе постојат сериозни прашања поврзани со создавањето лажни информации, злоупотребата на лични податоци, автоматизираните измами и можноста алгоритмите да донесуваат пристрасни одлуки. Овие проблеми се конкретни и бараат внимание без оглед на тоа дали некој верува во можноста за идни катастрофални сценарија.

Особено загрижувачка е употребата на вештачката интелигенција за создавање убедливи лажни фотографии, видеоснимки и аудиосодржини. Со ваквите алатки може да се имитира глас или изглед на позната личност, што отвора простор за измами и манипулации. Како што технологијата станува подостапна, препознавањето на автентичната содржина претставува сè поголем предизвик за граѓаните, медиумите и институциите.

Паралелно со тоа, се отвора и прашањето за влијанието врз работните места. Вештачката интелигенција може да автоматизира дел од задачите што досега ги извршувале луѓето, особено во административните, аналитичките и дигиталните професии. Истовремено, таа може да создаде нови занимања и да ја зголеми продуктивноста, но придобивките и трошоците од таквата трансформација нема нужно да бидат подеднакво распределени.

Затоа расправата за иднината на технологијата не треба да се сведе само на прашањето дали роботите еден ден ќе го уништат човештвото. За многу граѓани, непосредно поважни се прашањата дали ќе ја задржат работата, дали нивните податоци ќе бидат безбедни и дали одлуките донесени со помош на алгоритми ќе бидат праведни. Овие предизвици веќе се присутни и бараат конкретни решенија.

Во Европа, регулирањето на вештачката интелигенција станува важен дел од дигиталната политика. Европската Унија воспостави законска рамка што предвидува различни обврски во зависност од ризикот што го носат одредени системи. Целта е да се овозможи технолошки развој, а истовремено да се заштитат основните права и безбедноста на граѓаните.

Овој пристап се разликува од идејата дека технологијата треба да се развива без значителни ограничувања. Европските институции настојуваат да воспостават правила за транспарентност, одговорност и проверка на системите што можат да имаат сериозно влијание врз луѓето. Сепак, и самите регулатори се соочуваат со предизвикот законите да останат релевантни во индустрија што се менува исклучително брзо.

Прашањето за идната контрола дополнително се усложнува поради конкуренцијата меѓу големите технолошки компании и државите. Развојот на напредни модели бара огромни инвестиции во процесори, центри за податоци, електрична енергија и истражувачки кадар. Во таква средина постои опасност брзината на развојот да стане поважна од темелното тестирање, особено кога компаниите се обидуваат први да претстават нови способности.

Токму затоа безбедносните стандарди што ги споменува Хуанг имаат суштинско значење. Тие не треба да останат само дел од јавните изјави на технолошките лидери, туку да се применуваат во развојот, тестирањето и користењето на системите. Независните процени, контролата на пристапот и можноста за ограничување на автономните функции се дел од мерките што можат да го намалат ризикот од сериозни пропусти.

За Македонија, оваа дебата можеби изгледа како прашање што се решава во американските технолошки центри, но последиците од развојот на вештачката интелигенција ќе се почувствуваат и на домашниот пазар. Компаниите постепено добиваат пристап до алатки што можат да променат голем дел од административните, маркетиншките, програмерските и аналитичките задачи. Тоа создава можности за зголемување на продуктивноста, но и потреба од дополнителна обука и приспособување на работната сила.

Воедно, користењето интелигентни системи во јавните услуги и приватниот сектор отвора прашања за заштитата на личните податоци и одговорноста за автоматизираните одлуки. Доколку институциите и компаниите воведуваат вакви технологии без соодветни правила, може да се создадат проблеми што немаат никаква врска со далечните сценарија за исчезнување на човештвото. Затоа, дигиталната писменост и разбирањето на ограничувањата на технологијата стануваат сè поважни.

Изјавата на Хуанг дека шансите за исчезнување на светот до 2030 година се нула претставува израз на неговиот силен оптимизам, но не и општоприфатена научна проценка. Во истражувачката заедница постојат различни мислења за тоа колку брзо ќе напредуваат интелигентните системи и какви ризици би можеле да се појават. Токму поради неизвесноста, дел од научниците сметаат дека безбедносните истражувања треба да се развиваат паралелно со зголемувањето на способностите на моделите.

Постои и важна разлика меѓу тоа вештачката интелигенција да стане многу помоќна и тоа автоматски да стане опасна. Напредните способности сами по себе не значат дека системот ќе развие сопствени намери или ќе се обиде да им се спротивстави на луѓето. Ризикот зависи од начинот на кој технологијата е изградена, целите што ѝ се поставени, степенот на автономија и контролата што ја имаат луѓето врз нејзиното користење.

Исто така, не постои потврден временски распоред според кој вештачката интелигенција би станала неконтролирана. Предвидувањата за 2030 година или за која било друга конкретна година остануваат предмет на процени и претпоставки, а не на утврдени научни факти. Затоа, и катастрофалните прогнози и апсолутните уверувања дека нема никаква опасност треба да се разгледуваат критички.

Најголемиот предизвик за човештвото можеби нема да биде изборот меѓу целосен технолошки оптимизам и страв од уништување, туку способноста навреме да ги препознае вистинските опасности. Вештачката интелигенција веќе покажува огромен потенцијал, но нејзината примена бара одговорност од компаниите, институциите и корисниците. Развојот на сè помоќни системи неизбежно ќе го зголемува значењето на прашањето кој ги контролира и под кои услови.

Џенсен Хуанг е убеден дека вештачката интелигенција нема да го доведе човештвото до исчезнување во 2030 година. Неговата порака е дека технологијата треба да продолжи да напредува, придружена со високи стандарди за безбедност. Но конечниот одговор на прашањето дали идните системи можат да станат неконтролирани сè уште не постои, а токму затоа контролата, научното истражување и одговорното користење остануваат неопходни.

Наместо да се бара сигурен датум за технолошка катастрофа или безусловно да се верува дека такво нешто никогаш не може да се случи, поважно е да се создадат услови развојот да остане во служба на луѓето. Иднината на вештачката интелигенција нема да зависи само од моќта на процесорите и способностите на алгоритмите, туку и од одлуките што ќе ги носат нивните создавачи и институциите што ги надгледуваат. Токму тие одлуки ќе имаат пресудно значење за тоа дали технологијата ќе остане моќна алатка под човечка контрола или ќе создаде ризици со кои општеството тешко ќе може да се справи.