Google AI под лупа: неточни одговори и „халуцинации“ предизвикуваат загриженост кај експертите

Паметните функции за пребарување базирани на вештачка интелигенција на Google сè почесто се наоѓаат под лупа поради проблемот со неточни информации, иако технологијата постојано се подобрува. Иако најновите модели постигнуваат високо ниво на точност, огромниот обем на дневни пребарувања значи дека и мал процент на грешки може да се претвори во милиони неточни одговори секоја минута.

Според најновите анализи, приближно еден од десет одговори генерирани од системите за вештачка интелигенција во Google Search може да содржи некаква форма на неточност. Дури и со пријавена точност од околу 91 отсто кај најновите модели, како што е Gemini 3, статистиката станува проблематична кога се зема предвид дека Google обработува трилиони пребарувања годишно. Во таков обем, дури и мала стапка на грешка може да резултира со десетици милиони неточни одговори на дневно ниво.

Дополнителен предизвик претставува тоа што системот понекогаш дава различни одговори на исто прашање во краток временски интервал, што укажува на недоследност во обработката на податоците. Внатрешни тестирања покажуваат дека моделите, кога работат независно од пребарувачките извори, можат значително почесто да генерираат неточни или непотврдени информации, што дополнително ја нагласува сложеноста на проблемот со таканаречените „халуцинации“ на вештачката интелигенција.

Сериозен предизвик претставува и несогласувањето меѓу генерираните одговори и линковите што се прикажуваат како извори. Во одредени случаи, системот прикажува референци кои не ги потврдуваат дадените информации, што создава конфузија кај корисниците и ја намалува довербата во резултатите. Истражувањата покажуваат дека овој проблем е присутен и кај постарите и кај поновите верзии на моделите, па дури и со зголемени проценти на несогласување кај поновите системи.

Покрај тоа, експертите предупредуваат дека вештачката интелигенција може да биде подложна на манипулации, особено кога неточни информации се објавуваат на интернет и потоа се вклучуваат во нејзините одговори. Ова отвора дополнителни прашања за сигурноста на автоматски генерираните резултати, особено во контекст на брзо ширење на содржини без проверка.

И покрај технолошкиот напредок, компаниите сепак нагласуваат дека ваквите алатки не треба да се сметаат како единствен извор на вистина, туку како помошни системи. Корисниците се охрабруваат да проверуваат информации од повеќе извори, особено кога станува збор за важни одлуки или чувствителни теми, бидејќи дури и најнапредните модели сè уште не се имуни на грешки во заклучувањето и интерпретацијата на податоците.