Што се случува кога 13 AI агенти ќе останат сами на пуст остров? Експериментот ги изненадил научниците

Што би се случило доколку на вештачката интелигенција ѝ се даде целосна слобода да истражува, без однапред определени задачи, правила за успех или конкретна цел што мора да ја постигне? Наместо да ја обучуваат преку класични инструкции, научници од Масачусетскиот институт за технологија (MIT) одлучиле да спроведат необичен експеримент во кој 13 агенти со вештачка интелигенција биле оставени сами на виртуелен пуст остров. По 30 часа слободно истражување, резултатите покажале дека агентите не само што развиле сопствени активности, туку откриле и начини на користење на виртуелниот свет што нивните создавачи не ги предвиделе.

Истражувањето отвора интересно прашање за иднината на вештачката интелигенција: дали машините можат да стекнуваат корисни способности не само преку решавање конкретни проблеми, туку и преку нешто што потсетува на детска игра? Според научниците, токму слободното експериментирање би можело да претставува важен чекор кон создавање пофлексибилни и посамостојни дигитални системи.

Експериментот бил спроведен во компјутерски симулирана средина што претставувала ненаселен остров со различни природни препреки, предмети и можности за интеракција. Агентите можеле да се движат низ виртуелниот простор, да истражуваат и да комуницираат со објектите, но во почетната фаза не добиле конкретна задача што требало да ја исполнат.

За разлика од традиционалните пристапи кон развојот на вештачката интелигенција, каде што програмерите однапред одредуваат кои активности се пожелни и како ќе се мери успехот, овде агентите биле поттикнати сами да откриваат што можат да прават. Целта на истражувачите била да проверат дали таквата слобода може да доведе до стекнување практични вештини што подоцна би се покажале корисни.

Вообичаено, системите за вештачка интелигенција се обучуваат за конкретни задачи. Тие можат да бидат насочени кон препознавање предмети, решавање математички проблеми, управување со виртуелни објекти или оптимизирање одредени процеси, при што напредокот се оценува според однапред утврдени критериуми.

Таквиот пристап овозможува јасно мерење на резултатите, но има и ограничувања. Кога системот учи исклучиво да решава однапред определени задачи, постои можност да не развие способности што би му биле корисни во непознати ситуации или во средини што не биле предвидени при неговото создавање.

Истражувачите од MIT се обиделе да испитаат поинаков модел на учење, во кој истражувањето претходи на конкретната задача. Наместо веднаш да бараат од агентите да постигнат одреден резултат, им дозволиле да го запознаат виртуелниот свет преку сопствени активности и експерименти.

Овој пристап има интересна паралела со начинот на кој учат децата. Во раното детство, голем дел од знаењето се стекнува преку игра, набљудување, повторување и испробување различни можности, без секоја активност да има јасно дефинирана практична цел.

Дете што фрла предмети, гради конструкции или се обидува да помине преку препрека не мора свесно да размислува за физичките закони. Сепак, преку таквите активности постепено стекнува разбирање за движењето, просторот, рамнотежата и последиците од сопствените постапки.

Научниците сакале да проверат дали нешто слично може да се постигне и кај дигиталните агенти. Нивната претпоставка била дека слободното истражување може да создаде основа за подоцнежно решавање задачи, дури и кога тие задачи не биле познати за време на почетното учење.

Во текот на 30-часовниот експеримент, агентите започнале самостојно да создаваат активности што потсетувале на игри и лични предизвици. Тие испробувале различни начини на движење, манипулирале со предмети и ги истражувале можностите што им ги нудела симулираната околина.

Наместо само да се движат бесцелно, дел од агентите започнале да развиваат сопствени начини на интеракција со виртуелните објекти. Во одредени ситуации нивните постапки покажале изненадувачка креативност, особено кога се соочувале со ограничувања што не можеле да ги надминат на вообичаен начин.

Еден од најинтересните примери се однесува на агент наречен Еко, чие однесување истражувачите го издвоиле како показател за неочекуваните можности на слободното истражување. За време на една од активностите, Еко случајно фрлил прстен во океанот и го изгубил.

Наместо едноставно да продолжи со друга активност, агентот создал форма на срце од камења, која изгледала како симболичен спомен на изгубениот предмет. Овој необичен потег привлечел внимание бидејќи не бил дел од конкретна задача што истражувачите му ја поставиле.

Сепак, таквото однесување не треба да се толкува како доказ дека агентот навистина чувствувал тага поради изгубениот прстен. Станува збор за активност создадена во виртуелна средина, која од човечка перспектива може да изгледа емотивно или симболично, но не потврдува постоење вистински чувства.

Кога симулацијата била рестартирана и прстенот повторно станал достапен, Еко започнал да го користи на различни начини. Најпрво го претворил во своевиден кошаркарски обрач, потоа во цел за различни активности, а на крајот се обидел да го употреби и како моден додаток.

Токму последниот обид довел до уште понеобично откритие. Виртуелниот свет не дозволувал агентот едноставно да го постави прстенот околу своето тело, што претставувало ограничување во начинот на кој предметите можеле да се користат.

Но Еко пронашол заобиколен начин да ја постигне замислената цел. Тој открил дека при паѓање од карпа неговиот виртуелен лик повторно се појавува на определена позиција во играта, преку механизам познат како respawn.

Користејќи го ова правило на виртуелниот свет, агентот намерно се придвижил преку работ на карпата. По падот, неговиот лик повторно се појавил на позиција што му овозможила да помине низ центарот на прстенот.

На тој начин Еко успеал да постигне резултат што не бил директно овозможен преку вообичаените команди за користење на предметите. Наместо да го прифати ограничувањето како конечна пречка, тој искористил друг механизам на симулацијата за да го заобиколи.

За истражувачите, ваквите постапки биле особено интересни бидејќи покажале дека агентите можат да комбинираат различни својства на виртуелната средина. Тие не морале да се ограничуваат на очигледните начини на користење на предметите, туку можеле да откриваат нови можности преку експериментирање.

Уште позначајно откритие било забележано кај шест од вкупно 13 агенти. Тие самостојно утврдиле дека можат да фрлат одреден блок на поголемо растојание доколку го ослободат додека се наоѓаат во воздух, за време на скок.

Оваа техника не била однапред предвидена како посебна вештина што агентите требало да ја научат. Според истражувачите, станувало збор за неочекувано својство на симулираната физика што било откриено преку повторени обиди и слободно истражување.

Фактот што речиси половина од агентите дошле до ова сознание покажал дека одредени корисни стратегии можат да се појават и без директна инструкција. Во овој случај, вештачката интелигенција не само што ги користела постојните правила на виртуелниот свет, туку открила и практична последица што самите дизајнери претходно не ја забележале.

Ваквите резултати се важни бидејќи укажуваат на можноста агентите да стекнуваат знаење што не е експлицитно вградено во нивната почетна обука. Кога системот има простор да испробува различни постапки, може да открие комбинации што би останале незабележани при строго контролирано извршување задачи.

Сепак, тоа не значи дека агентите самостојно измислиле нови физички закони или стекнале човечко разбирање за светот. Тие идентификувале корисни обрасци во рамките на правилата на конкретната симулација, а вредноста на таквото знаење зависи од тоа дали може да се примени и во други ситуации.

Токму ова прашање било проверено во следната фаза од експериментот. Откако агентите поминале 30 часа во слободно истражување, истражувачите им поставиле конкретни задачи за да ја проценат нивната способност за практично дејствување.

Еден од предизвиците бил да пренесат што е можно повеќе предмети до највисокиот карпест врв на островот. За успешно извршување на задачата било потребно да се користат различни способности поврзани со движењето, ориентацијата и манипулирањето со објектите.

Резултатите на агентите што претходно го истражувале островот биле споредени со резултатите на идентични агенти што немале такво искуство. На овој начин научниците сакале да утврдат дали слободната игра навистина придонела за подобро решавање на новите задачи.

Според објавените наоди, агентите што имале можност претходно да експериментираат во виртуелниот свет генерално постигнувале подобри резултати. Нивната предност се поврзувала со искуството стекнато при самостојното истражување на околината.

Овој резултат е значаен бидејќи покажува дека активностите без непосредна практична цел можат да имаат вредност во подоцнежни ситуации. Вештините што изгледале како случајни откритија за време на играта можеле да помогнат при исполнување конкретни задачи.

За научниците, тоа претставува можен доказ дека учењето не мора секогаш да биде организирано околу однапред дефиниран резултат. Во одредени случаи, дозволувањето на системот сам да истражува може да создаде поширока основа од способности што подоцна ќе станат корисни.

Истражувањето, опишано во труд објавен на научната платформа arXiv, се надоврзува на пошироките напори за развој на автономни агенти со вештачка интелигенција. Овие системи се разликуваат од обичните дигитални асистенти по тоа што можат да преземаат повеќе последователни активности во определена средина.

Додека класичниот разговорен модел најчесто одговара на прашања или создава содржина, автономниот агент може да истражува околина, да избира активности и да ги приспособува своите постапки според резултатите. Ваквиот пристап е особено интересен за идниот развој на роботиката.

Роботите што работат во реалниот свет се соочуваат со голем број ситуации што не можат однапред целосно да се предвидат. Предметите можат да бидат поставени на необични места, препреките можат да се менуваат, а околината може да содржи карактеристики што не биле присутни за време на обуката.

Доколку роботот располага само со однапред научени постапки, неговата способност да се приспособи може да биде ограничена. Но ако претходно стекнал пошироко искуство преку истражување, можеби ќе биде подобро подготвен да пронајде решение кога ќе се соочи со нов проблем.

Токму затоа истражувачите сметаат дека слободното експериментирање во виртуелни светови би можело да стане корисна дополнителна фаза во развојот на идните интелигентни системи. Наместо секоја вештина да се обучува одделно, агентите би можеле да создаваат сопствена база на искуства преку различни активности.

Виртуелните средини имаат посебна предност за вакви експерименти бидејќи овозможуваат безбедно испробување постапки што во реалниот свет би биле опасни, скапи или тешко изводливи. Агентот може да погреши, да падне од карпа или да изгуби предмет без да предизвика вистинска материјална штета.

Истовремено, симулациите овозможуваат повторување на истите услови и споредување на различни стратегии. Научниците можат да анализираат како агентите учат, кои активности ги повторуваат и дали одредени откритија навистина им помагаат во подоцнежните задачи.

Но постои и важна разлика меѓу виртуелниот и физичкиот свет. Во компјутерска симулација агентот може да искористи механизам како повторно појавување по пад, додека вистински робот не располага со таква можност.

Затоа не секоја стратегија што функционира во игра може директно да се пренесе во реалноста. Еден од предизвиците за идните истражувања ќе биде да се утврди кои способности стекнати во виртуелна средина можат да бидат корисни и при управување со физички машини.

Интересен аспект на експериментот е и начинот на кој биле поставени почетните инструкции за агентите. Истражувачите не ги оставиле системите без никаква насока, туку им доделиле определени карактеристики што требало да го обликуваат нивното однесување.

Кај агентот Еко, на пример, почетниот опис вклучувал особина што го претставувала како природно љубопитен. Оваа карактеристика била дел од основните инструкции што го насочувале кон истражување на околината и испробување различни активности.

Во рамките на проектот, ваквиот почетен опис бил претставен како своевидна „датотека на душата“. Иако изразот звучи необично, тој не означува вистинска свест или личност, туку збир од програмски инструкции што влијаат врз начинот на кој агентот се однесува.

Ова е важен детал бидејќи покажува дека самостојното истражување не се појавило целосно независно од дизајнот на системот. Истражувачите создале средина и почетни услови што ја поттикнувале љубопитноста, а агентите потоа ги развивале своите активности во рамките на тие можности.

Со други зборови, научниците не докажале дека вештачката интелигенција има природна човечка желба за игра. Тие покажале дека системите што се поттикнати да истражуваат можат да развијат разновидни стратегии и да стекнат искуство што подоцна се покажува корисно.

Оваа разлика е особено важна во време кога напредокот на вештачката интелигенција често се опишува со термини што потсетуваат на човечкото однесување. Кога агентот создава игра, покажува љубопитност или гради симболичен предмет, таквите активности можат да изгледаат човечки, но не претставуваат доказ за човечки чувства или свест.

Сепак, истражувањето покажува дека не е неопходно машината да поседува човечко искуство за да користи стратегии што наликуваат на човечкото учење. Доволно е да има можност да истражува, да ги забележува последиците од постапките и да ги користи стекнатите информации во следните активности.

Ваквиот пристап може да има значење и за развојот на системи што треба да функционираат во непредвидливи околности. Наместо да бидат обучени само за тесен список задачи, идните агенти би можеле да стекнуваат пошироки практични способности преку продолжено истражување на различни виртуелни средини.

На пример, систем што самостојно научил како се движат предметите, како се совладуваат препреки и како се комбинираат различни активности би можел полесно да се приспособи на нов предизвик. Сепак, ваквите можности допрва треба да се проверат во посложени симулации и реални услови.

Експериментот има и одредени ограничувања. Во него учествувале само 13 агенти, а истражувањето било спроведено во конкретна виртуелна средина со сопствени правила и можности.

Поради тоа, резултатите не можат автоматски да се применат на сите системи за вештачка интелигенција. Потребни се дополнителни испитувања за да се утврди колку ефикасно ваквиот пристап функционира со различни модели, задачи и видови околини.

Исто така, фактот што трудот е објавен на платформата arXiv значи дека е јавно достапен како научен ракопис, но самото објавување на оваа платформа не подразбира дека истражувањето веќе поминало низ формална независна рецензија во научно списание. Неговите заклучоци затоа треба да се разгледуваат како резултати што заслужуваат дополнителна проверка.

И покрај тоа, идејата зад експериментот е значајна бидејќи го преиспитува начинот на кој се развиваат интелигентните системи. Наместо секогаш да им се кажува што треба да направат, можеби во одредени ситуации е покорисно да им се дозволи самите да откријат како функционира светот во кој се наоѓаат.

Истражувачите ја поврзуваат оваа можност со начинот на кој луѓето стекнуваат способности во текот на детството. Голем дел од раните искуства немаат непосредна практична цел, но подоцна стануваат основа за решавање сложени проблеми.

Дете што гради кула од коцки, фрла топка или се обидува да премине преку препрека не учи само една конкретна задача. Преку повторувањето и експериментирањето постепено стекнува пошироко разбирање за физичката околина и можностите за дејствување.

Научниците претпоставуваат дека сличен принцип, применет во дигитална форма, би можел да помогне во создавањето пофлексибилни агенти. Тоа не значи дека вештачката интелигенција ќе има детство во човечка смисла, туку дека одреден период на слободно истражување би можел да има важна улога во нејзината обука.

Ваквата идеја претставува интересна промена во размислувањето за машинското учење. Наместо напредокот секогаш да се мери преку непосредно извршување задачи, дел од развојот би можел да се насочи кон стекнување општо искуство што ќе биде корисно во иднина.

Највпечатливиот дел од експериментот можеби не е тоа што агентите успеале да пренесуваат предмети или да откријат необични техники на движење. Поважно е што дел од тие способности се појавиле без истражувачите однапред да ги определат како конкретни цели.

Со тоа експериментот покажува дека во доволно богата виртуелна средина можат да се појават неочекувани начини на однесување. Некои од нив изгледаат како игра, други како решавање практични проблеми, а трети откриваат својства на симулацијата што не биле очигледни ниту за нејзините создавачи.

За иднината на роботиката и автономните системи, ваквите сознанија би можеле да бидат важни. Машините што треба да работат во променлив свет можеби ќе имаат потреба не само од инструкции, туку и од можност да стекнуваат искуство преку самостојно истражување.

На крајот, експериментот со 13-те агенти на пуст остров отвора пошироко прашање за природата на учењето. Дали секоја корисна способност мора да биде резултат на однапред поставена задача или понекогаш најважните откритија се случуваат токму кога нема конкретна цел?

Истражувачите од MIT сугерираат дека одговорот можеби се наоѓа некаде помеѓу двата пристапа. Одредени способности најдобро се развиваат преку насочена обука, додека за други можеби е потребен период на слободно експериментирање што потсетува на детството.

И токму тоа е најинтересната порака од необичниот експеримент: за вештачката интелигенција да стане подобра во решавањето проблеми, можеби понекогаш треба да ѝ се дозволи прво да истражува, да греши и да си игра, без однапред да знае за што еден ден ќе ѝ послужи стекнатото знаење.