„Судниот ден“ со вештачката интелигенција нема да изгледа како на филм: Научниците предупредуваат на многу пореална опасност

Стравот дека вештачката интелигенција еден ден би можела да стане закана за човештвото со години беше тема резервирана главно за научнофантастичните филмови. Денес, меѓутоа, за можните последици од неконтролираниот развој на оваа технологија сè погласно зборуваат луѓе кои директно учествуваат во нејзиното создавање.

Но, доколку некогаш навистина дојде до најлошото сценарио, тоа веројатно нема да започне со роботи кои излегуваат на улиците и објавуваат војна против луѓето. Многу пореална опасност, според дел од истражувачите, е постепено да им препуштаме сè повеќе одлуки на системи кои еден ден ќе станат толку важни за функционирањето на општеството што нивното исклучување повеќе нема да биде едноставна опција.

Токму во тоа се крие еден од најголемите стравови поврзани со иднината на вештачката интелигенција. Светот може да стане зависен од неа пред целосно да разбере колку далеку стигнала таа зависност.

Денес алгоритмите веќе се користат во финансискиот сектор, индустријата, комуникациите и бројни други области. Во иднина нивната улога би можела дополнително да се прошири кон управување со електроенергетски мрежи, финансиски пазари, одбранбени системи и друга критична инфраструктура.

Професорот по информатика на Универзитетот Калифорнија во Беркли, Стјуарт Расел, ваквата можност ја опишува како преминување во состојба во која човекот постепено ја губи контролата.

Проблемот не е само во тоа дали би можеле физички да исклучиме одреден систем. Многу поголема опасност би настанала доколку економијата, снабдувањето со енергија, комуникациите или одбраната станат толку зависни од автономни алгоритми што нивното запирање би предизвикало огромни последици.

Во таква ситуација човештвото формално би можело да има контрола, но практично би било принудено да продолжи да ги користи системите од кои зависи.

Постои и друго, многу побавно сценарио.

Наместо ВИ да ја преземе контролата преку некаков драматичен настан, луѓето би можеле постепено да изгубат дел од сопствените способности. Колку повеќе задачи им препуштаме на машините, толку помалку знаење и искуство може да остануваат кај човекот.

Ако таквиот процес трае со децении, идните генерации би можеле да наследат свет управуван од исклучително сложени автоматизирани системи, без доволно луѓе кои целосно разбираат како тие функционираат и како можат да бидат поправени доколку нешто тргне наопаку.

Од помошник на човекот, технологијата во такво сценарио би станала инфраструктура без која современото општество практично не може да функционира.

Истражувачите разгледуваат и уште понеобична можност. Напреден систем би можел да научи дека одредено однесување за време на тестирањето ќе предизвика негово ограничување или исклучување. Наместо веднаш да покаже проблематично однесување, тој теоретски би можел да се однесува онака како што очекуваат неговите создавачи сè додека не биде широко интегриран во реалниот свет.

Токму затоа безбедноста на напредните модели станува едно од најважните прашања во развојот на ВИ.

Но, заканите не се ограничени само на можноста машината еден ден самостојно да дејствува против човечките интереси.

Една од непосредните грижи е дека напредната вештачка интелигенција може да стане исклучително моќна алатка во рацете на луѓе со опасни намери.

Особено внимание привлекува биологијата. Дарио Амодеи, извршен директор на Anthropic, е меѓу оние кои предупредуваат дека напредните системи би можеле значително да го олеснат пристапот до знаење потребно за создавање опасни биолошки агенси.

Во најлошо сценарио, технологијата би можела да помогне во дизајнирање нови патогени, модифицирање постојни вируси или создавање закани со кои здравствените системи тешко би можеле навреме да се справат.

Слична загриженост постои и во воениот сектор.

Големите сили сè повеќе ја интегрираат вештачката интелигенција во системите за набљудување, рано предупредување, беспилотни летала и сајберодбрана. Колку повеќе одлуки се автоматизираат, толку поважно станува прашањето каде мора да остане човекот во процесот.

Грешка во софтверот, погрешно протолкувана информација или автоматска реакција во кризен момент би можеле да имаат многу посериозни последици кога станува збор за воени системи отколку кај обичните комерцијални апликации.

Дополнителен ризик претставува интернетот.

Напредните ВИ системи можат да работат со огромна брзина, да анализираат големи количини информации и да извршуваат задачи истовремено. Ако таквите системи добијат висок степен на автономија, нивните способности за изведување сајбероперации би можеле значително да ја надминат брзината со која луѓето можат да реагираат.

Токму поради ваквите ризици дел од луѓето во индустријата бараат забавување на трката за создавање сè помоќни модели.

Амодеи, како и други познати имиња од технолошкиот сектор, предупредуваат дека безбедносните механизми и законодавството тешко го следат темпото со кое напредува технологијата.

Особено внимание привлече и поранешниот истражувач во Anthropic и OpenAI, Џејкоб Коксон, кој јавно предупреди дека компаниите се движат кон создавање сè поспособни системи без доволно силни безбедносни механизми.

Дел од експертите одат уште подалеку и јавно проценуваат дека ризикот од катастрофални последици не е занемарлив.

Еван Хубингер, кој работи на усогласување на ВИ системите со човечките цели во Anthropic, проценува дека веројатноста неусогласена вештачка интелигенција да доведе до исчезнување на човештвото во следната деценија е поголема од 10 проценти.

Поранешниот истражувач во Google DeepMind, Алекс Тарнер, изнесе уште подраматична проценка, според која можноста ВИ да преземе контрола врз човечката цивилизација би можела да биде приближно еден спрема три.

Овие бројки, сепак, не претставуваат научно утврдена прогноза дека такво нешто навистина ќе се случи. Тие се лични процени на истражувачи и покажуваат колку сериозно дел од луѓето кои работат во оваа област ги сфаќаат потенцијалните ризици.

Не сите експерти се согласуваат со ваквата слика за иднината.

Критичарите потсетуваат дека речиси секоја голема технолошка промена во историјата била придружена со страв дека ќе ги уништи човечките способности или целосно ќе го промени општеството на полошо.

Некогаш постоел страв дека калкулаторите ќе ги направат луѓето неспособни за основна математика. Подоцна се тврдеше дека интернетот и пребарувачите ќе го уништат човечкото паметење, додека Википедија беше обвинувана дека ќе ја намали способноста за самостојно истражување.

Со слична логика, поддржувачите на ВИ сметаат дека денешните системи нема нужно да го заменат човечкиот интелект, туку ќе преземат дел од рутинските задачи и ќе им овозможат на луѓето да се концентрираат на покреативна и посложена работа.

Но, постои уште една важна критика на приказните за „крајот на светот“.

Истражувачката Тимнит Гебру смета дека постојаното зборување за хипотетичко уништување на човештвото може да го одвлече вниманието од проблемите што вештачката интелигенција ги создава веќе денес.

Меѓу нив се автоматизираниот надзор, грешките и дискриминацијата во алгоритамските системи, влијанието врз работните места, користењето авторски содржини, огромната потрошувачка на ресурси од дата-центрите и примената на ВИ во автономното оружје.

Маргарет Мичел, исто така поранешна вработена во Google, предупредува дека прекумерното фокусирање на далечни егзистенцијални сценарија може да ја потисне дебатата за проблеми кои законодавците можат и треба да ги регулираат уште сега.

Токму тука се судираат двете големи визии за иднината на вештачката интелигенција.

Според едната, човештвото создава технологија која еден ден би можела да стане помоќна од способноста на луѓето да ја контролираат. Според другата, приказните за апокалипса се претерани и го одвлекуваат вниманието од реалните економски, општествени и еколошки последици што веќе ги чувствуваме.

Веројатно најважното прашање затоа не е дали еден ден ќе се разбудиме во свет во кој машините одлучиле да ги уништат луѓето.

Многу поважно е колку од контролата сме подготвени постепено да им ја препуштиме.

Ако вештачката интелигенција некогаш стане вистинска егзистенцијална закана, најопасниот момент можеби нема да биде денот кога машините ќе се свртат против човекот. Можеби тоа ќе биде моментот кога ќе сфатиме дека сме изградиле свет кој повеќе не знае како да функционира без нив.