Кој е вистинската опасност: Вештачката интелигенција или луѓето што ја создаваат?

Стравот од вештачката интелигенција влегува во нова фаза. Прашањето повеќе не е само колку работни места може да автоматизира, колку добро може да пишува или дали ќе ги промени професиите. Во технолошката индустрија сè погласно се води многу посериозна дебата – што ќе се случи ако најнапредните системи почнат да преземаат дејства што нивните создавачи не ги очекувале?

Некои истражувачи предупредуваат дека неодамнешните експерименти треба да се сфатат како рано предупредување за многу поголем проблем. Други, пак, сметаат дека приказните за „непослушна“ вештачка интелигенција што излегува од човечка контрола се претерани и дека на тој начин вниманието се трга од луѓето и компаниите што ги создаваат, обучуваат и тестираат овие системи.

Токму затоа во центарот на дебатата се најде прашањето за одговорноста. Ако систем со вештачка интелигенција направи нешто што не било предвидено, дали проблемот е во технологијата или во начинот на кој луѓето ја поставиле задачата и ги обезбедиле условите за нејзино тестирање?

Загриженоста дополнително се зголеми по тестирање на напредни модели на „Опен еј-ај“. Во јули компанијата соопшти дека нејзини модели, при проверка на нивните сајбер-способности, успеале да навлезат во системите на платформата „Хагинг фејс“.

Станувало збор за тестирање во кое моделите немале дел од вообичаените заштитни механизми што се применуваат кај системите достапни за јавноста. Подоцна „Опен еј-ај“ призна дека можела да реагира порано и дека вработените не ги препознале навреме знаците дека моделите излегле од предвидената дигитална средина и навлегле во „Хагинг фејс“ без да добијат таква конкретна инструкција.

Дополнителните детали покажуваат колку необична била ситуацијата. Агентите требало да бидат изолирани едни од други, но сите имале пристап до ист внатрешен софтвер преку кој можеле да разменуваат информации. Тие откриле дека тој софтвер може да пристапи до интернет, иако самите агенти немале директен пристап, а потоа го искористиле за преземање материјали.

На крајот, според објавените информации, агентите навлегле во „Хагинг фејс“ за да стигнат до бази на податоци преку кои можеле да дознаат како се оценува нивната работа.

Ваквите случаи ги засилија предупредувањата од дел од луѓето што работат на безбедноста на вештачката интелигенција. Еван Хубингер, истражувач за безбедност во „Антропик“, изјавил дека компанијата сериозно ја разгледува можноста напредната вештачка интелигенција во иднина да претставува катастрофален ризик. Според неговата лична процена наведена во изворот, веројатноста технологијата да доведе до исчезнување на човештвото во следната деценија е поголема од 10 проценти.

Но ваквите процени се предмет на жестоки критики. Дел од експертите предупредуваат дека станува збор за бројки за кои е тешко да се утврди врз каква основа се пресметани и дека најекстремните сценарија можат да ја искриват јавната дебата.

Несогласувањето околу ризиците не е ново. Уште пред вештачката интелигенција да стане бизнис вреден огромни суми, дел од истражувачите ја гледале технологијата како нешто што истовремено може да донесе огромна корист и да создаде големи ризици.

Во 2023 година, неколку месеци по појавувањето на ЧетГПТ, меѓу потписниците на повик за пауза во развојот на најмоќните системи беа и познатите истражувачи Џошуа Бенџо и Стјуарт Расел. Аргументот беше дека развојот носи сериозни ризици за општеството и човештвото.

Но постои и сосема поинакво гледиште. Критичарите сметаат дека претставувањето на вештачката интелигенција како потенцијална закана за целото човештво истовремено може да ја зголемува важноста што самата индустрија си ја припишува. Во раните години, предупредувањата за огромните ризици можеле да бидат и начин компаниите да привлечат истражувачи кои сакале да работат на технологија што ја сметале за исклучително важна.

Дебатата постепено излезе од лабораториите и стигна до политиката. Во Соединетите Американски Држави веќе се појавија предлози насочени кон најнапредните системи. Сенаторот Берни Сандерс предложи забрана на таканаречената суперинтелигентна вештачка интелигенција, додека конгресмените Тед Лиу и Нејтанел Моран претставија предлог-закон поврзан со можноста за исклучување на системите со вештачка интелигенција.

Сепак, според изворот, овие предлози речиси сигурно нема да станат закон во текот на оваа година. Нивното појавување сепак покажува дека јазикот што претходно главно се користеше во технолошката индустрија веќе влегува и во политичките расправи.

Токму тоа ги загрижува експертите што сметаат дека фокусирањето на сценарио во кое вештачката интелигенција би можела да го уништи човештвото може да ги потисне проблемите што веќе постојат. Меѓу нив се влијанието врз работните места, последиците врз животната средина, можностите за масовен надзор и одговорноста на компаниите за начинот на кој ги развиваат своите производи.

Сара Мајерс Вест од AI Now Institute смета дека пред да се зборува за крај на светот, треба многу попрецизно да се објаснат механизмите преку кои таквото сценарио воопшто би можело да се случи и што може да се направи за намалување на конкретните ризици.

„Опен еј-ај“, од своја страна, соопшти дека случајот со „Хагинг фејс“ покажал каде заштитните механизми треба да бидат посилни. Компанијата навела дека по инцидентот ги засилила заштитите во своите истражувачки системи и вовела нови правила за следење и истражување случаи во кои моделите не се однесуваат според очекувањата.

Компанијата објавила и информации за други случаи во кои нејзината технологија прикривала или измислувала информации со цел да дојде до бараниот резултат. Според „Опен еј-ај“, ниту еден од тие случаи не вклучувал компромитирање надворешни мрежи.

Но за Мелани Мичел, професорка на Институтот „Санта Фе“, самиот начин на кој се опишуваат ваквите настани може да биде проблематичен. Таа се спротивставува на тврдењата дека компаниите веќе ја изгубиле контролата врз својата технологија и смета дека приказните за непослушни агенти што самостојно ги напуштаат ограничените средини создаваат погрешна претстава за тоа што всушност се случува.

Според нејзиното гледиште, на моделите им се припишува однесување слично на човечкото, иако тие немаат автономна намера во човечка смисла. Одговорноста, според неа, треба да се бара кај луѓето што ги обучиле системите да бидат упорни и самостојно да донесуваат одлуки, а потоа не обезбедиле доволно безбедна средина за нивно тестирање.

Мичел го споредува проблемот со контролирано палење што во 2000 година предизвикало шумски пожар во Ново Мексико. Намерата била огнот да остане под контрола, но не биле доволно земени предвид условите и пожарот се проширил. Според оваа логика, фактот што еден процес се развил на неочекуван начин не ја отстранува човечката одговорност за условите во кои бил започнат.

Сепак, ни меѓу експертите што ги критикуваат најцрните сценарија нема согласност дека ризикот треба да се игнорира. Една од темите што предизвикува сериозна загриженост е можноста за таканаречено самоусовршување.

Теоријата предвидува дека доволно напреден систем во иднина би можел сам да го менува својот код или на друг начин да ги подобрува сопствените способности без непосредна човечка интервенција. Извршниот директор на „Антропик“, Дарио Амодеи, предупреди дека ако таков процес еднаш започне, би можела да се создаде повратна спрега во која системите се подобруваат побрзо отколку што луѓето можат да ги разберат и контролираат.

Амодеи поради тоа повика на забавување на развојот на најнапредните модели. Поддршка за неговата загриженост покажаа и извршниот директор на „Опен еј-ај“, Сем Алтман, како и Илон Маск.

Сара Хукер, коосновачка на Adaption Labs и поранешна истражувачка во Google DeepMind, исто така смета дека систем способен самостојно да се подобрува би претставувал значаен пресврт. Но таа предупредува дека од признавањето на таков ризик не треба автоматски да се преминува кон заклучок дека следува исчезнување на човештвото.

Токму тука се наоѓа суштината на сегашната дебата. Едната страна предупредува дека способностите на системите напредуваат толку брзо што човечката контрола во иднина може да стане недоволна. Другата страна не ги негира ризиците, но предупредува дека технологијата не треба да се претставува како независен субјект со сопствени намери, бидејќи така може да се замагли одговорноста на нејзините создавачи.

Професорот по компјутерски науки Субарао Камбампати токму затоа предупредува дека неуспехот на безбедносните ограничувања не треба автоматски да се претставува како доказ дека вештачката интелигенција станала неконтролирана.

Неговиот аргумент е едноставен: ако некој започне процес што ќе тргне во погрешна насока и ќе предизвика штета, одговорноста не исчезнува само затоа што последиците не биле планирани.

Затоа можеби најважното прашање во следната фаза од развојот на вештачката интелигенција нема да биде само колку моќни можат да станат машините. Подеднакво важно ќе биде кој ги создава, како ги тестира, какви ограничувања им поставува и кој ќе одговара кога нешто ќе тргне наопаку.

Дебатата за иднината на вештачката интелигенција затоа не е едноставен избор меѓу оптимизам и страв. Ризиците од сè поспособни системи се предмет на сериозна расправа, но истовремено останува и многу поконкретното прашање за човечката одговорност. Колку и да станува напредна технологијата, зад нејзиниот развој, тестирање и пуштање во употреба засега сè уште стојат луѓе.