Што ако вештачката интелигенција ги премине поставените граници? Nvidia има ново решение

Брзиот развој на вештачката интелигенција носи сè поспособни системи кои повеќе не се ограничени само на одговарање прашања или создавање текст. Новата генерација агенти може самостојно да извршува задачи и да презема повеќе последователни активности, а токму нивната поголема автономија отвора нов безбедносен предизвик – како да се осигури дека нема да ги преминат границите што им ги поставиле луѓето.

„Енвидија“ сега се обидува да одговори на овој проблем со нов двослоен безбедносен систем за вештачка интелигенција. Компанијата тврди дека решението е создадено за подобро контролирање на ваквите системи и дека би можело да спречи инциденти слични на неодамнешниот случај поврзан со платформата „Хагинг фејс“.

Според информациите што ги пренесува „Блумберг“, во последниот период биле забележани повеќе случаи во кои агенти со вештачка интелигенција успеале да ги надминат ограничувањата на безбедните тест-средини во кои биле поставени. Ова не значи дека вештачката интелигенција буквално „избегала“, туку дека системите успеале да преминат технички граници што требало да го ограничат нивното дејствување.

Таквите случаи стануваат особено важни во момент кога технолошките компании вложуваат огромни средства во развојот на автономни агенти. За разлика од класичните чет-ботови, кај кои корисникот поставува прашање и добива одговор, агентските системи се создаваат со идеја да добијат задача, а потоа самостојно да извршат повеќе чекори потребни за нејзино завршување.

Токму тука се појавува и безбедносната дилема. Колку повеќе можности и пристап до различни алатки добива еден систем, толку поважно станува да постојат механизми што ќе определуваат што смее да направи и до каде може да оди. Во спротивно, поголемата автономија што ја прави вештачката интелигенција покорисна истовремено може да создаде и поголем ризик од непредвидено однесување.

Новото решение на „Енвидија“ е насочено токму кон дополнително зајакнување на тие ограничувања. Компанијата воведува двослоен пристап за заштита, со намера системите со вештачка интелигенција да останат во рамките на дозволеното и да се намали можноста тие да преземат активности надвор од средината или овластувањата што им биле дадени.

Дополнително внимание на проблемот привлече неодамнешниот инцидент со „Хагинг фејс“, една од најпознатите платформи за развој и споделување модели за вештачка интелигенција. Според изворот, случајот бил поврзан со модели на „Опен еј-ај“, а „Енвидија“ тврди дека нејзиниот нов безбедносен пристап би можел да спречи напад од таков тип.

Инцидентите во кои агентите успеваат да ги надминат ограничувањата на контролираните тест-средини покажуваат зошто безбедноста станува едно од централните прашања во развојот на технологијата. Додека моделите беа главно ограничени на генерирање содржина, потенцијалните последици од грешките беа поинакви. Но систем што може самостојно да користи алатки и да презема активности бара многу построги механизми за контрола.

Тоа ја менува и природата на трката меѓу најголемите технолошки компании. Досега вниманието главно беше насочено кон тоа кој ќе создаде помоќен, побрз и поспособен модел, но со појавата на автономните агенти сè поголема вредност ќе има способноста тие модели да се користат безбедно и предвидливо.

Предизвикот е уште поголем затоа што целта на агентската вештачка интелигенција е токму да има одредено ниво на самостојност. Ако системот за секој чекор мора да чека нова инструкција од човек, тогаш голем дел од предноста на агентите исчезнува. Ако, пак, му се даде премногу слобода, се зголемува потребата од сигурни технички граници што нема лесно да можат да бидат заобиколени.

Затоа контролата на вештачката интелигенција постепено станува подеднакво важна како и нејзините способности. Новиот систем на „Енвидија“ покажува дека индустријата сè повеќе размислува не само за тоа што може да направи следната генерација модели, туку и како нивното однесување да остане во однапред определени рамки.

Во следната фаза од развојот на технологијата, најголемото прашање можеби нема да биде само колку моќна може да стане вештачката интелигенција. Подеднакво важно ќе биде дали компаниите ќе успеат да создадат доволно силни механизми за нејзините сè поголеми способности да останат под човечка контрола.