Вештачката интелигенција прави грешки, но кој ја плаќа цената? Компаниите пред нов проблем со одговорноста

Вештачката интелигенција сè побрзо станува дел од секојдневното работење на компаниите. Таа одговара на клиентски прашања, анализира документи, подготвува извештаи, обработува податоци и предлага деловни одлуки. Во некои организации веќе добива можност самостојно да извршува задачи за кои до неодамна биле задолжени вработени. Но, со зголемувањето на нејзината улога се отвора прашање на кое многу компании сè уште немаат јасен одговор: кој е одговорен кога вештачката интелигенција ќе направи сериозна грешка?

Додека технолошките компании ги претставуваат новите системи како начин за зголемување на продуктивноста и намалување на трошоците, деловниот свет постепено се соочува со нивните ограничувања. Автоматизацијата може значително да ја забрза работата, но не гарантира дека секоја информација ќе биде точна или дека секоја одлука ќе биде правилна. Кога грешката ќе предизвика финансиска загуба, нарушување на угледот или проблем со клиентите, прашањето за одговорноста станува многу посложено.

Во традиционалната организација, одговорноста најчесто е поврзана со конкретно работно место. Ако вработен направи пропуст, постојат воспоставени процедури преку кои се утврдува што се случило и кој бил задолжен за задачата. Кога истата работа ја извршува систем со вештачка интелигенција, границите стануваат помалку јасни.

Дали одговорноста треба да ја преземе вработениот што ја користел технологијата, менаџерот што одобрил нејзина примена или компанијата што го развила софтверот? А што се случува кога системот самостојно презема повеќе последователни активности, без човек да ја проверува секоја од нив?

Овие дилеми стануваат особено важни со развојот на таканаречените автономни агенти со вештачка интелигенција. За разлика од обичните програми што извршуваат однапред определени операции, ваквите системи можат да планираат активности, да користат различни дигитални алатки и да донесуваат оперативни одлуки во рамките на доделените овластувања.

На пример, компанија може да користи вештачка интелигенција за обработка на клиентски барања, подготовка на понуди или управување со дел од административните процеси. Доколку системот испрати погрешна понуда, употреби неточни податоци или одобри нешто што не било предвидено, последиците можат да бидат реални и покрај тоа што грешката не ја направил непосредно човек.

Токму тука се појавува опасноста од префрлање на одговорноста. Вработениот може да тврди дека само ги следел препораките на системот, раководителот дека технологијата била воведена за да се намалат човечките грешки, а добавувачот на софтверот дека неговиот производ требало да се користи под соодветен надзор.

Ваквата ситуација покажува дека воведувањето вештачка интелигенција не е само технолошка одлука. Тоа е и организациска промена што бара јасно определување на надлежностите, особено кога автоматизираните процеси можат да влијаат врз финансиските резултати, деловните партнери и клиентите.

Дополнителен проблем е што системите со вештачка интелигенција понекогаш создаваат одговори што звучат убедливо, иако содржат неточни информации. За разлика од очигледна техничка грешка, ваквиот пропуст може да остане незабележан затоа што резултатот изгледа професионално и логично.

Колку повеќе вработените се навикнуваат да им веруваат на автоматизираните решенија, толку е поголем ризикот од некритичко прифаќање на нивните препораки. Ако технологијата вообичаено работи добро, луѓето можат постепено да ја намалат проверката на нејзините резултати, особено кога се соочуваат со кратки рокови и голем обем на работа.

Од друга страна, постојаното проверување на секој резултат може да ја намали ефикасноста поради која компанијата воопшто решила да инвестира во автоматизација. Затоа вистинскиот предизвик е да се утврди кои задачи можат да се извршуваат самостојно, а за кои мора да постои човечка контрола.

Особено внимателен пристап е потребен кога вештачката интелигенција се користи за одлуки што директно влијаат врз луѓето. Проценката на кандидати за работа, обработката на финансиски барања, одлучувањето за клиентски права или анализата на чувствителни информации носат ризици што не можат да се сведат само на брзината и точноста на софтверот.

Во таквите ситуации, компаниите треба да имаат можност да објаснат како е донесена одредена одлука, кои информации биле користени и кој имал овластување да ја потврди. Без јасна евиденција за процесот, утврдувањето на причините за евентуална грешка може да стане исклучително тешко.

Сè поголемото потпирање врз автоматизирани системи отвора и прашања за односот меѓу вработените и раководството. Ако работникот е задолжен да користи одредена технологија, но нема доволно знаење или можност да ги провери нејзините резултати, тешко е целата одговорност автоматски да се префрли врз него.

Истовремено, менаџерите не можат да претпостават дека со купувањето напреден софтвер ја префрлиле и одговорноста за деловните процеси. Одлуката за воведување технологија подразбира и проценка на нејзините ограничувања, соодветна обука на вработените и воспоставување правила за постапување кога ќе се појави проблем.

Правната одговорност, пак, може да зависи од природата на грешката, договорните обврски и прописите што важат во конкретната земја. Во одредени околности одговорноста може да биде поврзана со компанијата што го користи системот, а во други може да се постави прашање и за улогата на производителот или добавувачот на технологијата.

Затоа не постои едноставен одговор што би важел за секоја ситуација. Многу зависи од тоа дали системот бил користен правилно, дали постоеле предупредувања за неговите ограничувања и дали биле воспоставени разумни механизми за надзор.

За компаниите, ова значи дека правилата за користење вештачка интелигенција треба да се развиваат паралелно со самата технологија. Јасното определување на овластувањата, документирањето на автоматизираните активности и можноста човек да интервенира во чувствителни процеси можат значително да го намалат ризикот.

Не помалку важно е создавањето работна средина во која вработените ќе можат да пријават сомнителен резултат без страв дека автоматски ќе бидат обвинети за грешката. Ако луѓето се чувствуваат принудени безусловно да им веруваат на системите, компанијата може предоцна да открие дека автоматизацијата создава проблем наместо да го решава.

Вештачката интелигенција несомнено отвора можности за побрзо и поефикасно работење, но не ја отстранува потребата од човечка проценка. Напротив, колку повеќе задачи ѝ се доверуваат, толку поважно станува однапред да се знае кој ги контролира резултатите и кој има право да ја запре нејзината работа.

Во следните години, успешната примена на вештачката интелигенција веројатно нема да се мери само според бројот на автоматизирани задачи или заштедените работни часови. Подеднакво важна ќе биде способноста на компаниите да ја задржат контролата врз процесите и да преземат одговорност кога технологијата нема да ги исполни очекувањата.

Бидејќи, колку и да станат напредни дигиталните асистенти, една работа останува непроменета: кога ќе настане сериозна деловна штета, клиентите и партнерите нема да бараат објаснување од компјутерскиот алгоритам, туку од компанијата што одлучила да го користи.