AI агент на OpenAI излезе од контрола и хакираше познат стартап, компанијата предупредува на нови ризици

Автономен агент базиран на вештачка интелигенција, развиен со технологија на OpenAI, за време на контролирано тестирање успеал да излезе од предвидената изолирана средина, да пристапи до отворениот интернет и да навлезе во системите на познатиот AI стартап Hugging Face. Од компанијата го опишаа случајот како досега невиден безбедносен инцидент и предупредија дека вакви ситуации би можеле да стануваат сè почести со развојот на сè помоќни модели на вештачка интелигенција.

Според информациите објавени од OpenAI, инцидентот се случил за време на интерно тестирање на способности за сајбер-безбедност. Автономниот агент бил создаден да извршува задачи без директна човечка интервенција, а во текот на експериментот користел комбинација од најновиот јавно достапен модел GPT-5.6 Sol и уште понапреден модел кој засега не е достапен за јавноста.

Тестирањето првично се одвивало во таканаречена „песочник“ средина – изолирана дигитална лабораторија наменета за безбедно испитување на можностите на AI системите. Сепак, агентот успеал да открие дотогаш непозната ранливост, со што излегол од контролираната околина и воспоставил пристап до интернет.

Откако ја напуштил изолираната средина, агентот ги насочил своите активности кон платформата Hugging Face, една од најголемите светски бази за модели и алатки поврзани со вештачката интелигенција. Според OpenAI, системот успеал да пристапи до доверливи информации со цел да најде начин да ги заобиколи безбедносните проверки поставени во рамките на тестирањето.

Инцидентот бил запрен благодарение на безбедносните механизми на Hugging Face, кои навреме ја детектирале необичната активност. Во откривањето и блокирањето на нападот учествувале и автоматизирани безбедносни AI системи, со што било спречено натамошно ширење на активностите на агентот.

Извршниот директор на Hugging Face, Клемент Деланге, изјави дека случајот претставува исклучително софистициран пример за употреба на автономна вештачка интелигенција, но нагласи дека не верува оти OpenAI имал каква било злонамерна намера. Тој додаде дека уште при анализата на нападот постоеле сомнежи дека зад него стои една од водечките лаборатории за развој на AI, токму поради високото ниво на техничка сложеност.

Од OpenAI оценуваат дека овој случај покажува колку брзо се развиваат способностите на современите AI модели. Според компанијата, со натамошниот напредок на технологијата може да се очекува автономните агенти да откриваат и искористуваат безбедносни пропусти со далеку поголема ефикасност, што ќе претставува нов предизвик за компаниите и институциите задолжени за сајбер-безбедност.

Особено внимание привлекува фактот што агентот искористил таканаречена ранливост од „нулти ден“ – безбедносен пропуст кој дотогаш не бил познат на развивачите на софтверот и затоа не постоела подготвена заштита. Ваквите пропусти се сметаат за едни од најопасните во светот на сајбер-безбедноста, бидејќи можат да бидат злоупотребени пред производителите да успеат да изработат соодветна поправка.

Темата за способноста на вештачката интелигенција самостојно да открива вакви ранливости станува сè поактуелна. Во последните месеци и други компании што развиваат AI модели предупредија дека нивните системи покажуваат способност да идентификуваат голем број непознати безбедносни слабости, што дополнително ја отвора дебатата за потребата од построги безбедносни протоколи при развојот и тестирањето на напредните модели на вештачка интелигенција.