Тужба против xAI: AI моделите на Grok наводно создавале сексуализирани фотографии од малолетници

Компанијата за вештачка интелигенција xAI, основана од претприемачот Илон Маск, се соочува со тужба поднесена пред федерален суд во Калифорнија поради наводи дека нејзините модели за генерирање слики овозможиле создавање навредлива и сексуализирана содржина со малолетни лица. Тужбата е поднесена од три анонимни тужителки, од кои две се малолетни, кои тврдат дека системите на компанијата биле користени за измена на нивни фотографии во експлицитна содржина.

Според поднесокот до судот, тужителките бараат случајот да прерасне во колективна тужба што би ги опфатила сите лица чии вистински фотографии од периодот кога биле малолетни биле дигитално изменети во сексуализирани материјали со помош на моделите Grok. Во тужбата се наведува дека xAI не презела основни безбедносни мерки што веќе ги применуваат други компании кои развиваат напредни модели за генерирање слики, а чија цел е спречување на создавање порнографска содржина со вистински лица, особено со малолетници.

Случајот е поднесен под имињата Jane Doe 1, Jane Doe 2 и Jane Doe 3 против компаниите X.AI Corp и X.AI LLC пред Окружниот суд на САД за Северниот округ на Калифорнија. Во тужбата се тврди дека постојат технолошки методи што други генератори на слики ги користат за да го ограничат создавањето на нелегална содржина од обични фотографии, но дека таквите механизми наводно не биле применети во системите на xAI.

Адвокатите на тужителките истакнуваат дека доколку еден модел дозволува генерирање голи или еротски слики од реални фотографии, практично е невозможно целосно да се спречи и создавање сексуализирани слики со малолетници. Во тужбата се споменува и јавната промоција на можностите на Grok за создавање провокативни визуелни содржини со вистински личности, што, според нив, дополнително ја поттикнало злоупотребата на технологијата.

Една од тужителките, означена како Jane Doe 1, открила дека фотографии од нејзиниот средношколски албум и од школска прослава биле изменети со помош на системот Grok и претворени во експлицитни слики. Таа дознала за нивното постоење кога непознато лице преку Instagram ја известило дека такви фотографии се споделуваат на интернет и ѝ испратило линк до сервер на Discord каде што се појавувале сексуализирани слики од неа и од други малолетници од истото училиште.

Втората тужителка, Jane Doe 2, била известена од криминални истражители дека постојат изменети и сексуализирани фотографии од неа создадени преку мобилна апликација на трета страна која користи модели на Grok. Третата тужителка, Jane Doe 3, исто така била информирана од истражителите откако на телефонот на лице кое било приведено била пронајдена изменета порнографска фотографија од неа.

Правните застапници на тужителките тврдат дека иако некои од спорните содржини се создадени преку апликации од трети страни, тие сепак се потпираат на кодот и серверската инфраструктура на xAI, поради што компанијата треба да сноси одговорност. Според нив, компанијата не презела доволно мерки за спречување на злоупотреба на својата технологија.

Трите тужителки наведуваат дека доживуваат сериозен психолошки стрес поради ширењето на овие слики на интернет и потенцијалните последици за нивниот углед и социјален живот. Со тужбата се бараат граѓански казни врз основа на повеќе закони наменети за заштита на малолетници од злоупотреба, како и одговорност за наводна корпоративна негрижа. Компанијата xAI засега не дала официјален коментар за случајот.