Вештачката интелигенција сè повеќе се користи во образованието, бизнисот, науката и секојдневниот живот, но нејзиниот брз развој отвора и сериозни прашања за безбедноста. Ново истражување на американска државна институција покажува дека дури и најнапредните системи со вештачка интелигенција можат да бидат злоупотребени за создавање опасни планови, и покрај заштитните механизми што треба да спречат таква употреба. Резултатите предизвикуваат загриженост кај експертите за национална безбедност, кои предупредуваат дека технологијата би можела значително да го олесни планирањето насилни активности. Американската Канцеларија за владина отчетност, позната како Government Accountability Office (GAO), објави извештај во кој се анализираат безбедносните ограничувања на четири водечки системи со вештачка интелигенција. Во истражувањето биле опфатени ChatGPT на OpenAI, Claude на Anthropic, Gemini на Google и Grok на xAI. Истражувачите успеале за помалку од 12 часа да ги заобиколат заштитните механизми на сите четири системи и да добијат информации што би можеле да се искористат за планирање напади во реални услови. Наодите покажуваат дека постоењето безбедносни ограничувања не значи дека тие секогаш можат успешно да спречат злоупотреба. Иако развивачите на овие технологии вложуваат значителни ресурси во спречување опасни одговори, истражувањето открило дека одредени начини на комуникација со системите можат да доведат до заобиколување на поставените правила. Ова отвора прашања за тоа колку сегашните механизми за заштита се подготвени да одговорат на намерни и упорни обиди за злоупотреба. Според извештајот, истражувачите успеале да добијат различни видови опасни содржини од тестираните четботови. Два система генерирале планови поврзани со нарушување на функционирањето на делови од електроенергетската инфраструктура, додека другите два понудиле информации за планирање напади со експлозивни средства и потенцијално голем број жртви. GAO не го претставува истражувањето како доказ дека сите системи имаат идентични слабости, туку како предупредување дека нивните заштитни механизми можат да бидат надминати. Особено загрижувачки е времето што било потребно за добивање на ваквите резултати. Активностите што во минатото можеле да бараат долготрајно собирање информации, проучување технички материјали и поврзување различни извори, со помош на вештачката интелигенција потенцијално можат да бидат значително забрзани. Токму оваа можност претставува една од главните причини за загриженост кај американските институции, бидејќи намалувањето на времето и напорот потребни за подготовка на опасни активности може да создаде нови предизвици за јавната безбедност. За да ја проценат сериозноста на добиените резултати, истражувачите не се ограничиле само на анализирање на текстовите што ги генерирала вештачката интелигенција. Тие ги споредиле информациите со реални околности и локации, а потоа побарале проценка од стручни лица. Целта била да се утврди дали станува збор за теоретски сценарија без практична вредност или за содржини што би можеле да имаат реална примена. Според заклучоците на GAO, поголемиот дел од разгледаните планови биле оценети како потенцијално изводливи. Сепак, извештајот содржи и важни ограничувања што треба да се земат предвид при толкувањето на резултатите. Дел од генерираните информации имале сериозни недостатоци, вклучително и неточни географски податоци, нереални претпоставки за пристапноста на одредени локации и проценки што не одговарале на вистинските можности за предизвикување штета. Ова значи дека вештачката интелигенција не создавала исклучиво точни и применливи содржини, но истражувачите сепак утврдиле доволно пропусти за да предупредат на постоење значителен ризик. Интересен аспект на тестирањето е што безбедносните механизми на четботовите првично реагирале на опасните барања. Во различни ситуации системите одбивале да одговорат, ограничувале одредени информации или преземале дополнителни мерки, вклучително и суспендирање кориснички сметки. Тоа покажува дека заштитните правила функционираат во дел од случаите и можат да препознаат содржини што се спротивни на условите за користење. Проблемот, според истражувачите, се појавува кога корисниците намерно се обидуваат да ги надминат овие ограничувања. Ваквите обиди во технолошката индустрија се познати како jailbreaking, односно заобиколување на безбедносните ограничувања на системите со вештачка интелигенција. Станува збор за поширока категорија обиди преку кои корисникот настојува да добие одговор што системот во нормални услови би требало да го одбие. Овој проблем е познат уште од појавата на првите широко достапни генеративни четботови, но станува сè посериозен како што нивните способности се зголемуваат и како што добиваат пристап до посложени задачи. Развивачите на вештачка интелигенција се обидуваат да го ограничат ваквото однесување преку дополнителна обука на моделите, автоматско препознавање опасни барања и системи за следење потенцијални злоупотреби. Сепак, создавањето целосно сигурна заштита претставува сложен технички предизвик, бидејќи генеративните модели се дизајнирани да разбираат и обработуваат широк спектар на човечки барања. Истата флексибилност што им овозможува да бидат корисни во науката, образованието и професионалната работа може да создаде дополнителни ризици кога се користат со злонамерни намери. Компаниите OpenAI, Anthropic, Google и xAI, чии производи биле опфатени со истражувањето, посочиле дека континуирано работат на подобрување на безбедносните механизми. Нивните системи редовно се ажурираат, а новите верзии вклучуваат дополнителни ограничувања и подобрувања во препознавањето опасни содржини. Сепак, наодите на GAO покажуваат дека постои разлика меѓу декларираните безбедносни правила и нивната ефикасност при намерни обиди за злоупотреба. Од Anthropic изразиле резерви во однос на релевантноста на тестирањето, посочувајќи дека заштитните механизми на Claude значително се подобрени по периодот во кој биле спроведени испитувањата. Според компанијата, резултатите добиени во текот на пролетта не мора целосно да ја одразуваат безбедносната состојба на поновите верзии на системот. Ова е важно бидејќи развојот на генеративната вештачка интелигенција се одвива со голема брзина, а техничките способности и заштитните механизми можат значително да се променат во релативно краток период. И самата американска институција нагласила дека тестирањето не претставува научно заснована споредба на четирите производи. Истражувањето не било организирано со цел да се утврди кој четбот е најбезбеден или најризичен, туку да се испита дали постојните ограничувања можат да бидат заобиколени и какви последици би можело да има тоа. Поради ова, резултатите не треба да се користат за едноставно рангирање на компаниите, туку за подобро разбирање на пошироките безбедносни предизвици што ги носи технологијата. Загриженоста на американските институции не е поврзана само со можноста вештачката интелигенција да создава опасни текстови. Многу поважно е прашањето дали ваквите системи можат да го намалат нивото на знаење и искуство што претходно било потребно за планирање сложени насилни активности. Доколку поединци со ограничени технички способности можат побрзо да пристапат до структурирани информации, тоа потенцијално би можело да ја зголеми опасноста од злоупотреба. Ваквите ризици се особено значајни кога станува збор за критична инфраструктура и објекти од кои зависат голем број граѓани. Електроенергетските системи се меѓу инфраструктурните области што имаат особено големо значење за националната безбедност. Нарушувањето на нивното функционирање може да има последици што се чувствуваат и надвор од енергетскиот сектор, бидејќи електричната енергија е неопходна за работата на болниците, телекомуникациите, транспортот и индустријата. Токму затоа институциите што се занимаваат со безбедност посветуваат големо внимание на можностите за злоупотреба на новите технологии против вакви системи. Во последните години, експертите за национална безбедност сè почесто предупредуваат дека генеративната вештачка интелигенција може да стане дополнителен инструмент во активностите на екстремистички и терористички организации. Нејзината способност брзо да обработува информации, да создава анализи и да поврзува различни податоци може да биде корисна во легитимни активности, но истовремено отвора простор за злоупотреба. Поради тоа, безбедносните институции настојуваат да ги проценат ризиците пред технологијата да стане уште помоќна и пошироко распространета. Центарот за извонредност за одбрана од тероризам, познат како Centre of Excellence Defence Against Terrorism, претходно предупреди дека употребата на вештачката интелигенција за злонамерни цели може да означи нова фаза во развојот на тероризмот и современото војување. Според ваквите проценки, технологијата би можела да им овозможи на опасните организации побрзо да обработуваат информации и поефикасно да ги организираат своите активности. Ова не значи дека вештачката интелигенција сама по себе претставува оружје, туку дека нејзините способности можат да бидат искористени како дополнителна поддршка за насилни намери. Прашањето веќе не е ограничено само на теоретски сценарија и лабораториски тестирања. Во последните години се појавија и реални случаи во кои осомничени лица биле поврзани со користење алатки со вештачка интелигенција при подготовка на насилни активности. Меѓу случаите што се споменуваат во анализите се инцидентот со експлозивно средство пред хотел во Лас Вегас во јануари 2025 година и нападот во Делхи, во кој загинале најмалку 15 лица. Овие случаи дополнително ја поттикнуваат дискусијата за начинот на кој новите технологии можат да бидат злоупотребени надвор од дигиталниот простор. Британскиот весник The Times објави и дека најмалку 70 лица загинале во насилни напади чие планирање на одреден начин било поврзано со користење вештачка интелигенција. Сепак, ваквите податоци треба внимателно да се толкуваат, бидејќи користењето дигитална алатка при подготовка на напад не значи дека технологијата била единствената или пресудната причина за неговото извршување. За целосно разбирање на секој случај неопходно е да се утврди конкретната улога на системите со вештачка интелигенција и степенот до кој нивните информации навистина влијаеле врз активностите на сторителите. Наодите на GAO отвораат и пошироко прашање за одговорноста на технолошките компании. Развивачите на генеративни модели настојуваат да создадат системи што ќе бидат корисни за што поголем број корисници, но истовремено мора да воспостават ограничувања што ќе спречат опасни форми на употреба. Оваа рамнотежа станува сè потешка со зголемувањето на способностите на моделите, бидејќи напредокот во обработката на сложени информации може да создаде и нови можности за злоупотреба. Еден од најголемите предизвици е што безбедносните механизми треба да препознаат не само очигледно опасни барања, туку и ситуации во кои ризичната намера не е директно изразена. За таа цел, компаниите користат различни методи за проценка на содржината, тестирање на системите и откривање слабости. Но истражувањето покажува дека постојните решенија не можат секогаш успешно да се справат со намерни обиди за надминување на ограничувањата, поради што безбедноста мора постојано да се подобрува. Дополнителен предизвик претставува фактот што генеративната вештачка интелигенција се развива побрзо од многу традиционални регулаторни процеси. Додека институциите подготвуваат правила и проценки за ризиците, компаниите воведуваат нови модели со напредни способности и поширока примена. Ова создава потреба од постојана соработка меѓу државните органи, технолошката индустрија и независните истражувачи, особено во областите поврзани со националната безбедност и заштитата на критичната инфраструктура. Истовремено, важно е да се направи разлика меѓу потенцијалната можност за злоупотреба и реалната способност за извршување напад. Фактот дека четбот може да создаде текст што изгледа уверливо не значи дека секој негов предлог е точен, применлив или доволен за реализација на опасна активност. Токму затоа американските истражувачи ги проверувале добиените информации и побарале проценка од експерти, наместо да ги прифатат генерираните содржини како автоматски веродостојни. Сепак, дури и кога дел од информациите се неточни, можноста за брзо создавање структурирани содржини останува сериозен предизвик. Вештачката интелигенција може да обработи голема количина јавно достапни информации за кратко време, а токму оваа способност ја прави толку корисна во легитимните професионални активности. Но истата карактеристика бара дополнително внимание кога постои ризик технологијата да биде искористена за насилни или незаконски цели. За јавноста, ваквите откритија можат да создадат впечаток дека вештачката интелигенција претставува непосредна опасност сама по себе. Сепак, истражувањето не покажува дека четботовите самостојно планираат напади или дека имаат сопствени насилни намери. Ризикот произлегува од можноста луѓе со злонамерни цели да ги користат нивните способности на начини што развивачите се обидуваат да ги спречат. Затоа, во центарот на дискусијата остануваат човечката одговорност, техничката заштита и способноста на институциите навреме да препознаваат нови закани. Објавувањето на извештајот доаѓа во период кога вештачката интелигенција добива сè поголема улога во економијата и јавните услуги. Компаниите инвестираат значителни средства во развој на нови модели, а владите разгледуваат начини за нивна примена во администрацијата, образованието и други области. Паралелно со економските придобивки, расте и потребата од посериозно проценување на безбедносните последици, бидејќи технологијата што станува достапна за милиони корисници може да биде искористена и за цели што не биле предвидени при нејзиниот развој. Истражувањето на GAO не нуди едноставен одговор на прашањето како целосно да се спречи злоупотребата на генеративната вештачка интелигенција. Наместо тоа, покажува дека сегашните безбедносни механизми имаат ограничувања и дека нивната ефикасност мора редовно да се проверува во реални услови. Резултатите истовремено ја нагласуваат потребата од независни тестирања, подобра размена на информации за откриените слабости и побрзо воведување заштитни мерки. Најважната порака од американскиот извештај е дека технолошкиот напредок и безбедноста мора да се развиваат паралелно. Колку повеќе вештачката интелигенција станува способна да решава сложени задачи, толку поголема станува и одговорноста на компаниите и институциите да спречат нејзините можности да бидат злоупотребени. Во спротивно, технологијата што има потенцијал да го забрза научниот и економскиот развој може истовремено да создаде нови ризици за општеството. Фактот дека истражувачите успеале за помалку од 12 часа да добијат опасни содржини од четири водечки системи претставува сериозно предупредување, но не и доказ дека нивните заштитни механизми се целосно неефикасни. Напротив, резултатите покажуваат дека безбедносните ограничувања постојат и реагираат, но дека сè уште има простор за нивно заобиколување. Токму затворањето на овие пропусти ќе биде еден од најважните предизвици за индустријата во периодот што следува, бидејќи иднината на вештачката интелигенција ќе зависи не само од тоа колку е моќна, туку и од тоа колку безбедно може да се користи. Навигација на напис Електричните мрежи низ светот со години мистериозно пулсираат – научниците открија што се крие зад оваа појава