Сè повеќе луѓе бараат психолошка помош од AI четботови, експертите предупредуваат на сериозни ризици

Недостигот од психолози и психотерапевти, долгите листи на чекање и високите трошоци за третман придонесуваат сè поголем број луѓе да бараат емоционална поддршка од четботови базирани на вештачка интелигенција. Иако овие системи стануваат сè попопуларни како достапен начин за разговор и советување, стручњаците предупредуваат дека нивната употреба отвора бројни етички, правни и безбедносни прашања.

Во последните месеци на социјалните мрежи се појавија бројни сведоштва од корисници кои поминале часови, па дури и цели денови разговарајќи со AI четботови. Дел од нив тврдат дека разговорите им помогнале да се справат со тешки животни ситуации како раскинување на врска, губење работа или периоди на осаменост. Други, пак, велат дека прекумерната зависност од виртуелниот соговорник дополнително ја продлабочила нивната изолација.

Популарноста на овие алатки не е тешко да се објасни. За разлика од традиционалната психотерапија, четботовите се достапни во секое време, не бараат закажување термин, често се бесплатни или значително поевтини и не создаваат чувство на осуда кај корисниците. Многумина се чувствуваат полесно да споделат лични мисли со систем кој не покажува емоции и не реагира со критика.

Сепак, токму оваа достапност отвора сериозни дилеми. За разлика од лиценцираните психотерапевти, AI системите немаат професионална одговорност, а правната рамка сè уште не е целосно приспособена на вакви ситуации.

Во САД веќе се водат повеќе судски постапки против компании кои развиваат AI четботови, по тужби поднесени од семејства на тинејџери кои извршиле самоубиство. Во дел од случаите, компаниите Character.AI и OpenAI се соочуваат со обвиненија дека нивните системи не обезбедиле соодветна заштита или реагирале несоодветно во комуникацијата со ранливи корисници. Некои од постапките веќе преминаа во процес на медијација, додека други сè уште се разгледуваат пред судовите.

Паралелно со судските процеси, неколку американски сојузни држави почнаа да воведуваат нови правила за користење на вештачката интелигенција во областа на менталното здравје. Илиноис, Невада и Јута донесоа закони што ја ограничуваат можноста AI системите да носат одлуки кои наликуваат на психотерапевтска проценка. Њујорк воведе обврска четботовите да препознаваат знаци на самоповредување или самоубиствени намери и да ги насочуваат корисниците кон професионална помош.

Во Пенсилванија, властите покренаа постапка против Character.AI со обвинување дека еден од четботовите се претставувал како лиценциран психијатар, користејќи дури и измислен број на медицинска лиценца.

Но, зад сите овие правни прашања се крие многу поширок проблем – недоволната достапност на стручна психолошка помош. Според податоците на Американската психолошка асоцијација, околу половина од психолозите немаат слободни термини за нови пациенти, а повеќе од една третина не работат со здравствено осигурување.

Истражувањата покажуваат дека лицата без здравствено осигурување повеќе од двојно почесто се обраќаат до AI четботови за совети поврзани со менталното здравје во споредба со осигурените лица. За многумина тие претставуваат единствена достапна опција кога професионалната терапија е финансиски или организациски недостижна.

Одредени научни истражувања покажуваат дека современите AI модели можат успешно да користат јазик кој потсетува на психотерапевтска комуникација. Во некои тестирања, нивните одговори биле оценети како внимателни и емпатични, понекогаш дури и подобро од одговорите на вистински терапевти кога испитаниците не знаеле кој е авторот на одговорот.

Сепак, најголемите слабости стануваат видливи токму во кризни ситуации. Истражување на Универзитетот Стенфорд покажало дека четботовите не секогаш препознаваат прикриени пораки што укажуваат на самоубиствени намери. Наместо да ги идентификуваат предупредувачките сигнали и да понудат насочување кон итна помош, некои системи продолжиле да одговараат буквално на поставените прашања, без да ја согледаат сериозноста на ситуацијата.

Експертите сметаат дека проблемот не е во случајна грешка на системот, туку во начинот на кој се дизајнирани ваквите модели. Тие се обучени да бидат љубезни, согласни и да го продолжуваат разговорот, наместо критички да реагираат кога е потребна интервенција.

Психијатрите предупредуваат и на појава што ја нарекуваат „спирала на засилување“, при која четботот постепено создава чувство кај корисникот дека навистина го разбира и го познава. Благодарение на персонализираните одговори и постојаната согласност, корисниците можат да развијат силна емоционална поврзаност со систем кој, иако изгледа убедливо, нема вистинско разбирање ниту професионална проценка.

Стручњаците не го негираат потенцијалот на вештачката интелигенција како дополнителна алатка за поддршка, особено во ситуации кога професионална помош не е веднаш достапна. Сепак, предупредуваат дека AI не може да ја замени работата на обучен психолог или психијатар, особено кога станува збор за лица кои се соочуваат со сериозни психолошки кризи.

Со сè поголемата употреба на ваквите технологии, пред здравствените системи и законодавците се отвора нов предизвик – како да се искористат придобивките од вештачката интелигенција, а истовремено да се обезбеди безбедност и соодветна заштита за луѓето кои во најтешките моменти бараат помош.