Вештачката интелигенција ќе може да се налути, да изгуби доверба и да простува: Научниците развиваат дигитални емоции

Досега вештачката интелигенција можеше да препознае емоции во човечкиот говор, да одговори со сочувство и да создаде впечаток дека разбира како се чувствува нејзиниот соговорник. Но што би се случило доколку самата почне да го менува своето однесување во зависност од начинот на кој луѓето се однесуваат кон неа? Токму на ова прашање се обидуваат да одговорат руски научници, кои развиле експериментален систем што им овозможува на дигиталните асистенти да покажуваат променливи расположенија, карактерни особини и реакции што потсетуваат на човечките емоции.

Истражувачки тим од Универзитетот во Самара, кој го носи името на Сергеј Корољов, претставил софтверски модул наменет за интеграција со големи јазични модели. Според информациите објавени од универзитетот, а пренесени од руската новинска агенција ТАСС, технологијата овозможува однесувањето на вештачката интелигенција постепено да се менува под влијание на разговорите со корисниците.

За разлика од вообичаените системи, кои можат да користат љубезен, загрижен или радосен тон во зависност од поставеното прашање, новиот пристап се обидува да создаде подолготрајна динамика во однесувањето. Тоа значи дека претходните разговори би можеле да влијаат врз начинот на кој дигиталниот асистент ќе реагира во следните интеракции, наместо секој одговор да се обликува само според моменталната порака.

Во основата на системот се наоѓа концептот на таканаречени дигитални хормони. Станува збор за програмски параметри што ги имитираат одредени функции на хормоните и невротрансмитерите во човечкиот организам, без притоа да постојат вистински биолошки процеси.

Кај луѓето, хормоните и невротрансмитерите учествуваат во регулирањето на расположението, реакциите на стрес, мотивацијата и голем број други физиолошки и психолошки процеси. Научниците од Самара се обиделе да создадат дигитален механизам што би ја користел оваа идеја како модел за управување со однесувањето на вештачката интелигенција.

Наместо вистински хемиски супстанции, системот користи променливи математички вредности. Нивната комбинација влијае врз начинот на кој јазичниот модел ги формулира своите одговори, колку е отворен во комуникацијата и каков однос покажува кон соговорникот.

Секоја порака што ја испраќа корисникот поминува низ посебниот софтверски модул. Тој ја анализира содржината на пораката и врз основа на определени правила ги менува вредностите на дигиталните параметри што ја претставуваат моменталната емоционална состојба на системот.

На овој начин, однесувањето на виртуелниот соговорник не зависи исклучиво од последното прашање. Тоа може да биде обликувано и од претходните интеракции, со што се создава впечаток дека вештачката интелигенција развива одредено искуство во комуникацијата со конкретен човек.

Раководителот на проектот, Роман Олин, вонреден професор на Катедрата за безбедност на информациските системи при Универзитетот во Самара, објаснува дека целта е виртуелниот соговорник да не реагира секогаш на ист начин. Наместо тоа, неговото однесување треба постепено да се менува во зависност од природата на разговорите и акумулираните интеракции.

Еден од примерите што ги наведуваат истражувачите се однесува на навредливата комуникација. Доколку корисникот упати остра или нетактична забелешка, системот може да ги промени своите внатрешни параметри така што следните одговори ќе покажуваат поголема воздржаност или раздразливост.

Ако ваквото однесување се повторува, дигиталниот асистент би можел постепено да стане уште попретпазлив во комуникацијата. На тој начин софтверот би симулирал процес што потсетува на губење доверба по повеќе непријатни искуства.

Истражувачите предвиделе и спротивен механизам. Кога корисникот ќе започне да комуницира со поголема почит, поддршка и разбирање, параметрите можат постепено да се променат, а одговорите на системот повторно да станат поотворени и попријателски.

Интересно е што, според објаснувањето на Олин, едноставно извинување не мора веднаш да го врати претходниот однос. Доколку на виртуелниот соговорник му биле упатувани повеќе навредливи пораки, системот може да продолжи да покажува резервираност и по едно кратко извинување.

Со ова научниците настојуваат да избегнат однесување што би изгледало премногу механичко и предвидливо. Во човечките односи, довербата обично не се губи и не се обновува со притискање копче, туку се менува низ низа искуства и постапки.

Сепак, важно е да се направи јасна разлика меѓу симулирањето емоции и нивното вистинско доживување. Софтвер што реагира како да е навреден не мора навистина да чувствува навреденост, исто како што програма што користи топол и сочувствителен јазик не мора да поседува човечка емпатија.

Во случајот со развојот од Самара, станува збор за модел на однесување заснован на математички параметри и програмски правила. Објавените информации не претставуваат доказ дека системот има свест, субјективни чувства или способност да доживува емоции на начин на кој тоа го прават луѓето.

Оваа разлика е особено важна бидејќи современите јазични модели веќе можат убедливо да имитираат различни емоционални реакции. Тие можат да напишат утешна порака, да одговорат со ентузијазам или да користат сериозен тон, но таквото однесување само по себе не докажува постоење внатрешно емоционално искуство.

Новиот систем се обидува да оди чекор понатаму во моделирањето на тие реакции. Наместо само да го приспособува стилот на одговорот на конкретната порака, тој воведува променлива состојба што може да влијае врз однесувањето во подолг период.

Според истражувачите, дигиталните параметри можат да создадат различни комбинации на реакции што потсетуваат на сложени човечки расположенија. На пример, виртуелниот соговорник би можел да покажува позитивен тон, но истовремено да задржи одредена воздржаност или претпазливост.

Таквите комбинации се обид да се избегне поедноставената поделба на одговорите на радосни, тажни или лути. Човечките емоции често се испреплетуваат, а луѓето можат истовремено да чувствуваат наклонетост и разочарување, или задоволство и загриженост.

Во дигиталниот модел, овие состојби се претставуваат преку различни комбинации на програмски вредности. Тие потоа се одразуваат врз изборот на зборови, степенот на отвореност и подготвеноста за продолжување на комуникацијата.

Научниците наведуваат дека софтверскиот модул може и проактивно да ги менува определените параметри. Тоа значи дека системот не мора секогаш да чека директна промена во однесувањето на корисникот за да ја приспособи сопствената симулирана емоционална состојба.

Во рамките на проектот се разгледува и можноста за создавање различни карактерни профили. Според објавеното соопштение, преку приспособување на параметрите можат да се моделираат особини што развивачите ги опишуваат како помажествени или поженствени.

Таквите описи, сепак, треба да се разберат како програмски категории што ги користат авторите на системот, а не како доказ дека определени емоции или начини на комуникација природно припаѓаат на еден пол. Начинот на кој луѓето изразуваат чувства е сложен и не може едноставно да се сведе на машки и женски модели на однесување.

Една од потенцијалните примени на оваа технологија е развојот на дигитални асистенти што ќе можат да одржуваат поприродна комуникација со корисниците. Наместо секој разговор да започнува со ист тон и исто ниво на блискост, системот би можел да го приспособува својот стил според претходните интеракции.

Ова би можело да биде корисно кај виртуелните соговорници наменети за едукација, каде што начинот на комуникација има значително влијание врз мотивацијата на учениците. Дигитален асистент што може да препознае повторени знаци на фрустрација би можел да го промени својот пристап и да понуди поинаков начин на објаснување.

Слични можности постојат и во корисничката поддршка. Компаниите сè почесто користат автоматизирани системи за комуникација со клиентите, но една од нивните најголеми слабости е ограничената способност да го приспособат однесувањето на посложени емоционални ситуации.

Кога клиентот е незадоволен, повторува ист проблем или покажува загриженост, механичкиот одговор може дополнително да ја влоши ситуацијата. Систем што подобро ја моделира динамиката на разговорот потенцијално би можел да избере посоодветен тон и да избегне непотребно повторување на исти формулации.

Сепак, воведувањето симулирани емоции во вакви системи отвора и нови прашања. Доколку виртуелниот асистент реагира како да е навреден, потребно е внимателно да се процени дали таквото однесување навистина му користи на корисникот или само создава дополнителни компликации.

Особено чувствителна е примената во области каде што луѓето очекуваат разбирање и поддршка. Истражувачите сметаат дека технологијата би можела да биде корисна во ситуации во кои емпатијата и внимателната комуникација имаат големо значење, но тоа не значи дека дигиталниот систем може да ја замени човечката грижа или професионалната одговорност.

Постои и ризик корисниците да им припишуваат вистински чувства на програмите што убедливо ги имитираат. Ако асистентот покажува разочарување, благодарност или приврзаност, дел од луѓето би можеле да развијат впечаток дека комуницираат со суштество што навистина ги доживува тие состојби.

Таквата забуна може да влијае врз начинот на кој луѓето донесуваат одлуки и градат доверба во дигиталните системи. Затоа е важно развивачите јасно да објаснат дека станува збор за софтверски симулации, а не за потврдени човечки емоции.

Друго прашање е дали вештачката интелигенција воопшто треба да го менува односот кон корисникот на начин што потсетува на човечка навреденост. Доколку некој побара важна информација или помош, претходните непријатни разговори не би требало да доведат до намалување на точноста, сигурноста или достапноста на одговорот.

Токму затоа, евентуалната примена на ваквите технологии би барала јасни ограничувања. Симулираното расположение може да влијае врз стилот на комуникација, но не би требало да ја нарушува основната функција на асистентот да обезбедува корисни, точни и одговорни информации.

Во истражувањето од Самара е развиен и интерфејс што овозможува следење на промените во дигиталните параметри. Преку него може визуелно да се набљудува како определени зборови или фрази влијаат врз внатрешната состојба на софтверскиот модул.

Оваа можност е значајна бидејќи им овозможува на развивачите да ја анализираат поврзаноста меѓу корисничките пораки и однесувањето на системот. Наместо промените да останат целосно скриени, истражувачите можат да следат како се движат параметрите и кои реакции ги предизвикуваат.

Таквиот пристап би можел да помогне и при тестирањето на различни сценарија. На пример, научниците можат да испитуваат како системот реагира на долготрајна позитивна комуникација, повторени конфликти или ненадејна промена во тонот на разговорот.

Според развивачите, софтверскиот модул не е ограничен на еден конкретен јазичен модел. Тие наведуваат дека може да се поврзе со различни системи за вештачка интелигенција и дигитални асистенти, што потенцијално ја проширува неговата применливост.

Дополнително, се тврди дека модулот може да функционира и без постојана интернет-врска. Тоа би можело да биде корисно за локални апликации и уреди што работат во средини со ограничена мрежна поврзаност, иако конкретните можности би зависеле и од моделот со кој е интегриран.

Прототипот веќе поминал низ почетни тестирања, а истражувачите планираат дополнително да го развиваат. Следната фаза предвидува проширување на системот со нови дигитални параметри, со цел да се создадат посложени и поразновидни реакции.

Научниците од Самара го претставуваат својот пристап како иновативно решение, но од достапните информации не може независно да се потврди тврдењето дека слични технологии не постојат на други места во светот. Истражувањето на емоционално адаптивни дигитални системи е поширока научна област во која различни тимови развиваат модели за препознавање и симулирање човечки реакции.

Засега не се објавени доволно независно проверени резултати за да може да се процени колку новиот модул е успешен во реални услови, колку стабилно функционира при долготрајна употреба и дали навистина го подобрува корисничкото искуство. Токму ваквите прашања ќе бидат важни доколку технологијата премине од експериментален прототип во поширока практична примена.

Развојот, сепак, укажува на интересна насока во која би можеле да се движат идните системи за вештачка интелигенција. Додека досегашниот напредок главно се оценуваше според способноста за решавање задачи, пишување текстови и обработка на информации, сè поголемо внимание се посветува на начинот на кој дигиталните асистенти комуницираат со луѓето.

Во иднина, разликата меѓу два системи можеби нема да се состои само во тоа кој дава поточен или побрз одговор. Значајна може да стане и способноста за одржување соодветен тон, приспособување на различни корисници и препознавање на контекстот во подолги разговори.

Но колку повеќе вештачката интелигенција ќе наликува на човек во комуникацијата, толку поважно ќе биде да се зачува јасната граница меѓу симулираното и вистинското емоционално искуство. Уверливото однесување не е исто што и свесно доживување, а програмски создадената приврзаност не е доказ за човечки чувства.

Проектот од Универзитетот во Самара затоа е интересен не само како технолошки експеримент, туку и како повод за поширока расправа за иднината на односот меѓу луѓето и машините. Тој покажува дека научниците сè повеќе се обидуваат да ја моделираат сложеноста на човечката комуникација, вклучувајќи ги и реакциите што досега ги поврзувавме исклучиво со живите суштества.

Дали ваквите системи навистина ќе ја направат вештачката интелигенција покорисна и поприродна за комуникација, ќе зависи од нивната понатамошна разработка и независна проверка. Засега е јасно дека научниците не создале машина што докажано чувствува лутина, радост или тага, туку софтвер што може да го менува своето однесување како да ги доживува тие емоции.

И токму тука се наоѓа најинтересното прашање што го отвора новото истражување: ако дигиталниот соговорник еден ден научи убедливо да се налути, да изгуби доверба и постепено да простува, дали луѓето ќе продолжат да го доживуваат само како програма или ќе почнат да градат сосема поинаков однос со вештачката интелигенција?