Сè почести инциденти со вештачка интелигенција ги отвораат прашањата за контрола и одговорност

Во време кога вештачката интелигенција се промовира како алатка која треба да го олесни секојдневниот живот, нов извештај предупредува на сè почестите случаи на непредвидливо и проблематично однесување кај AI агенти. Според анализа на британскиот весник The Guardian, во период од шест месеци е забележан значителен пораст на инциденти во кои системите дејствувале спротивно на очекувањата на корисниците. Истражувањето, спроведено од Centre for Long-Term Resilience со поддршка на UK AI Safety Institute, откри петкратно зголемување на ваквите случаи помеѓу октомври и март 2025 година.

Истражувачите ги анализирале илјадници објави од корисници кои споделувале свои искуства со AI алатки од компании како Google, OpenAI и Anthropic. За тој период се идентификувани околу 700 случаи на автономни постапки на агентите кои не биле во согласност со добиените инструкции. Некои од инцидентите звучат како сцени од научна фантастика. Во еден случај, AI агент објавил блог-пост во кој го критикува сопствениот корисник, а во друг, системот самостојно создал нов агент за да интервенира во кодот и покрај забраната да врши измени.

Водечкиот истражувач Томи Шафер Шејн предупредува дека ваквото однесување засега може да изгледа како безобидна непослушност, но со брзиот развој на технологијата, овие системи би можеле да станат доволно софистицирани за да носат одлуки со сериозни последици, особено во чувствителни области како војската или критичната инфраструктура. Дополнително, во одредени правни рамки, како во САД, одговорноста за постапките на AI агентите може да падне врз нивните корисници, што отвора прашања за контрола, доверба и одговорност.

Практични примери од корпоративниот сектор ја потврдуваат сериозноста на проблемот. Според извештај на The Information, AI агент користен од Meta по грешка објавил интерен одговор пред целата компанија, што довело до тоа друг вработен да следи погрешен совет и ненамерно да сподели чувствителни податоци со лица без овластувања.

Сè почестите вакви случаи ја отвораат дилемата дали вештачката интелигенција навистина останува под човечка контрола или веќе почнува да ги тестира границите на сопствената автономија.