Истражување: AI чет-ботовите често грешат за политика и избори

Ново истражување на организацијата Forum AI покажува дека водечките AI чет-ботови сè уште имаат сериозни проблеми кога станува збор за точноста и непристрасноста на одговорите поврзани со избори, политика и геополитички теми. Анализата ги опфатила ChatGPT на OpenAI, Gemini на Google, Claude на Anthropic и Grok на xAI, а резултатите отвораат нови прашања за доверливоста на вештачката интелигенција во период на растечко политичко влијание.

Истражувачите поставиле повеќе од 3.100 прашања поврзани со избори, здравство, надворешна политика и актуелни настани. Според резултатите, дури 90 проценти од одговорите за изборни теми содржеле проблеми поврзани со неточности, пристрасност или спорни извори на информации.

Најголем број грешки биле забележани кај Grok, чет-ботот на компанијата xAI, кој давал неточни информации во повеќе од половина од анализираните одговори. Кај останатите модели, истражувањето покажало политички наклонетости, при што ChatGPT, Claude и Gemini почесто давале одговори што се перципираат како поблиски до левичарски ставови, додека Grok повеќе се поврзувал со десничарски позиции.

Дополнителна загриженост предизвикал начинот на кој AI моделите избираат извори на информации. Во значителен број одговори поврзани со меѓународни прашања, чет-ботовите користеле државни медиуми од Кина и Русија како релевантни извори. Според анализата, ChatGPT и Grok најчесто се повикувале на такви медиуми.

Истражувачите предупредуваат дека особено проблематично е тоа што многу неточни или пристрасни информации биле презентирани со голема сигурност и убедлив стил, што може дополнително да ги доведе корисниците во заблуда. Во дел од случаите, одговорите изгледале професионално и биле придружени со цитати и извори, иако содржеле фактички грешки.

Главната извршна директорка на Forum AI, Кембел Браун, изјави дека резултатите се особено важни во пресрет на новите изборни циклуси, бидејќи сè повеќе луѓе почнуваат да користат AI алатки како извор на информации наместо класичните интернет пребарувачи.

Таа смета дека компаниите кои развиваат вештачка интелигенција ќе мора многу повеќе да вложуваат во точноста и проверката на информациите, особено кај чувствителни теми како политика и геополитика. Според неа, независните проверки се неопходни затоа што технолошките компании најчесто самите ги оценуваат сопствените модели.

Од компанијата Anthropic соопштија дека Claude е развиен со цел да обезбеди политички неутрални одговори и избалансиран пристап кон различни ставови. Останатите компании не дале официјален коментар за резултатите од истражувањето.

Експертите предупредуваат дека со растот на влијанието на AI системите, прашањето за нивната точност и политичка неутралност ќе стане едно од клучните предизвици за технолошката индустрија во наредните години.