Вештачката интелигенција станува опасно моќна: Блокирани обиди за нејзина злоупотреба за биолошко оружје

Вештачката интелигенција станува сè помоќна алатка за научниците и истражувачите, но со нејзиниот напредок растат и стравувањата дека истата технологија би можела да биде злоупотребена за опасни цели. Компанијата Anthropic, која стои зад системот Claude, соопшти дека спречила повеќе обиди за користење на нејзината технологија во истражувања кои потенцијално би можеле да придонесат за развој на биолошко оружје.

Според најновиот извештај на компанијата, од декември 2025 година биле блокирани десетици случаи на потенцијално злонамерна употреба на нејзините модели. Меѓу нив, Anthropic издвојува и неколку случаи поврзани со таканаречена биолошка злоупотреба, односно ситуации во кои моќните алатки на вештачката интелигенција би можеле да бидат искористени на начин што претставува безбедносен ризик.

Компанијата наведува пет конкретни случаи во кои нејзините модели биле користени за активности што, според проценката на Anthropic, би можеле да поддржат истражувања поврзани со развој на биолошко оружје. Станува збор за предупредување дека современите системи со вештачка интелигенција можат да имаат примена и надвор од првичната намена, особено кога станува збор за области во кои научните информации можат да имаат и мирнодопска и опасна примена.

Еден од примерите се однесува на истражувач надвор од Соединетите Американски Држави кој, според Anthropic, пристапил до Claude од регион каде што услугата официјално не е поддржана. Истражувањето било поврзано со високо патоген птичји грип и со прашања од областа на вирусологијата.

Anthropic нагласува дека ваквото истражување не мора само по себе да биде злонамерно. Проучувањето на вирусите и нивното однесување може да има големо значење за јавното здравје, бидејќи научниците преку него можат подобро да ги разберат потенцијалните пандемиски закани и да се подготват за идни епидемии.

Проблемот лежи во таканаречената двојна употреба на научното знаење. Истите информации кои можат да помогнат во спречување на пандемии, во погрешен контекст би можеле да бидат злоупотребени за создавање или унапредување на опасни биолошки агенси. Токму оваа граница меѓу корисната научна примена и потенцијалната злоупотреба станува едно од најсериозните прашања во развојот на напредната вештачка интелигенција.

Компанијата соопшти дека ги блокирала сметките поврзани со идентификуваните случаи. Истовремено, Anthropic внимава да не донесува заклучоци за мотивите на сите корисници. Во извештајот се посочува дека компанијата не може да утврди дали лицата кои ги користеле системите имале намера да предизвикаат штета.

Ова е важно и од поширока перспектива. Самото користење на вештачка интелигенција за научно истражување не значи дека станува збор за криминална активност. Универзитети, лаборатории и истражувачки центри ширум светот користат современи модели за анализа на научни податоци, истражување на болести и развој на нови медицински решенија.

Сепак, со зголемувањето на способностите на моделите се зголемува и потребата од посилни механизми за спречување злоупотреба. Особено чувствителни се областите поврзани со биологијата, сајбер-безбедноста и други технологии со потенцијал за сериозна штета.

Темата доби дополнително внимание и по јавните предупредувања на Џејкоб Коксон, поранешен истражувач во Anthropic и OpenAI. Тој изрази загриженост дека идните системи би можеле да достигнат способности кои ќе создадат нови и тешко предвидливи безбедносни ризици, вклучително и можност за злоупотреба во критични области.

Неговите предупредувања доаѓаат во време кога во Соединетите Американски Држави расте дебатата за тоа како треба да се регулира развојот на најмоќните системи со вештачка интелигенција. Дел од политичарите и експертите бараат построг надзор, додека технолошкиот сектор предупредува дека правилата мора да овозможат и понатамошен развој на корисни технологии.

Главното прашање повеќе не е само колку моќна може да стане вештачката интелигенција, туку и како ќе се спречи нејзината злоупотреба. Ако технологијата може да помогне во откривање болести, забрзување на научни истражувања и заштита на човечкото здравје, истите способности мора да бидат заштитени од оние кои би можеле да ги користат за тероризам или за развој на оружје за масовно уништување.

Случаите што ги објавува Anthropic покажуваат дека ова не е само теоретско прашање за далечната иднина. Компаниите кои развиваат напредна вештачка интелигенција веќе се соочуваат со потребата да препознаваат ризично однесување и да поставуваат граници околу одредени видови употреба.

Во следните години, токму рамнотежата меѓу научниот напредок и безбедноста ќе биде еден од најголемите предизвици за технолошкиот сектор и владите. Вештачката интелигенција може да биде моќен сојузник во решавањето на глобалните проблеми, но колку што станува поспособна, толку поважно станува да не биде претворена во алатка за создавање нови закани.