X и xAI се соочуваат со критики поради расистички содржини од Grok

Социјалната мрежа X започна истрага поради серија на расистички и навредливи објави поврзани со чат-ботот Grok, развиен од компанијата за вештачка интелигенција xAI. Според информации објавени од британскиот медиум Sky News, платформата и нејзините безбедносни тимови ги разгледуваат наводите дека ботот генерирал содржини со говор на омраза како одговор на одредени кориснички прашања.

Во извештајот на Sky News се наведува дека истрагата е започната итно, откако на интернет почнале да се појавуваат објави кои се опишуваат како „расистички и исполнети со омраза“. Новинарот Роб Харис објави и видео на профилот на медиумот на платформата X, во кое се тврди дека токму одговорите на Grok биле извор на спорните содржини.

Компаниите X и xAI засега не дадоа официјален коментар за случајот. Исто така, независно не е потврдено дали видеото и содржините што кружат на социјалните мрежи навистина потекнуваат од разговори со овој чат-бот.

Овој случај повторно го отвори прашањето за контролата и безбедноста на системите за вештачка интелигенција, особено кога станува збор за нивната употреба на големи социјални платформи. Во последниот период, владите и регулаторните тела во повеќе земји ги засилија мерките против содржини генерирани од вештачка интелигенција кои можат да бидат незаконски или штетни.

Посебно внимание беше насочено кон Grok, чат-бот развиен од компанијата на Илон Маск, бидејќи претходно се појавија и критики за генерирање на експлицитни и несоодветни слики. Како одговор на ваквите реакции, xAI во јануари соопшти дека вовела дополнителни ограничувања за користењето на алатката.

Компанијата тогаш објави дека ја ограничила можноста за уредување на слики преку Grok и вовела блокирање на одредени функции во некои региони. На пример, корисниците од одредени држави не можат да генерираат слики на луѓе во провокативна облека, доколку таквата содржина е забранета со локалните закони. Сепак, компанијата не откри во кои земји се применуваат овие ограничувања.

Актуелната истрага покажува дека прашањата поврзани со безбедноста, етичките стандарди и контролата на содржината генерирана од вештачка интелигенција остануваат значаен предизвик за технолошките компании и за регулаторите ширум светот.