Британска пратеничка ја тужи xAI поради сексуализирани дипфејк слики создадени од Grok

Британската пратеничка Џес Асато покрена правна постапка против компанијата xAI на Илон Маск, обвинувајќи дека платформата за вештачка интелигенција Grok била искористена за создавање лажни сексуализирани слики од неа, што отвори нова дебата за одговорноста на развивачите на AI системи.

Во изјава објавена во средата, Асато наведе дека содржините генерирани преку Grok претставуваат „дипфејк порнографија и сексуализирани материјали“ кои, според неа, им нанеле штета на илјадници жени и деца. Таа додаде дека проблемот не е случаен нуспроизвод на злоупотреба од корисници, туку резултат на свесни дизајнерски одлуки на компанијата.

Според нејзината канцеларија, по нејзините јавни критики кон Grok во јануари, на интернет почнале да се појавуваат лажни слики кои ја прикажуваат во компромитирачки ситуации, вклучително и видеоматеријал кој прикажува насилни и сексуализирани сценарија. Асато тврди дека тоа претставува сериозно нарушување на нејзината приватност и злоупотреба на нејзиниот идентитет.

xAI засега не даде официјален коментар за случајот. Компанијата претходно воведе ограничувања во јануари, со кои се блокираше генерирање слики на луѓе во провокативна облека во одредени јурисдикции каде тоа е забрането, но истражувања покажаа дека системот и понатаму можел да произведува сексуализирани содржини и покрај новите ограничувања.

Во тужбата поднесена пред Високиот суд во Англија, Асато се повикува на прекршување на законите за заштита на податоци и злоупотреба на приватни информации. Таа бара компензација, официјално признание дека се случило незаконско постапување, како и судска забрана за понатамошни прекршувања.

Случајот веќе привлекува пошироко внимание бидејќи отвора прашања за правната одговорност при дизајнот на системи за вештачка интелигенција, особено во однос на создавање длабоко фалсификувани (deepfake) содржини без согласност на засегнатите лица.

Во меѓувреме, xAI е под зголемен регулаторен надзор во неколку земји поради слични обвинувања, а случајот во Лондон се смета за еден од првите обиди правно да се тестира одговорноста за самата архитектура на AI системите, а не само за нивната употреба.