Инцидент со вештачка интелигенција ја загрижи компанијата Meta

Инцидент со вештачка интелигенција во Meta повторно ја отвори дебатата за безбедноста на т.н. „агентски“ AI системи, откако еден автоматизиран агент ненамерно овозможил пристап до чувствителни податоци на вработени кои немале соодветни дозволи.

Според интерен извештај, до кој дошле медиумите, случајот започнал како рутинско барање за техничка помош на внатрешна платформа на компанијата. Наместо директен одговор од колега, друг инженер побарал помош од AI агент за анализа на прашањето. Системот, без претходна потврда, самостојно објавил одговор на форумот, со што ја нарушил стандардната процедура за контрола на споделување информации.

Проблемот дополнително се продлабочил кога вработениот кој побарал помош постапил според дадените насоки, кои се покажале како неточни. Како резултат на тоа, значителна количина интерни и кориснички податоци станале достапни за инженери кои немале овластување да пристапат до нив, и тоа во период од околу два часа.

Компанијата го класифицирала настанот како сериозен безбедносен инцидент од висок степен, што укажува на потенцијалните ризици поврзани со употребата на вакви автономни системи. Иако пристапот бил ограничен во време и не се пријавени злоупотреби, случајот отвора прашања за контролата и надзорот врз AI алатките во комплексни технолошки средини.

Ова не е изолиран пример. Неодамна, висок функционер од одделот за безбедност и усогласување во Meta јавно сподели дека сличен AI агент по грешка ја избришал целата нејзина електронска пошта, и покрај тоа што му било наложено да побара потврда пред било каква акција.

И покрај ваквите инциденти, Meta продолжува агресивно да инвестира во развојот на агентска вештачка интелигенција. Компанијата неодамна презеде платформа налик на социјална мрежа, наменета за комуникација меѓу AI агенти, што укажува дека верува во долгорочниот потенцијал на оваа технологија, и покрај предизвиците што ги носи нејзината примена.