Технолошките гиганти не успеваат да спречат злоупотреба на AI апликации за експлицитни слики

Мобилните продавници на Apple и Google сè уште нудат апликации што овозможуваат создавање ксплицитни слики без согласност, и покрај официјалните правила што го забрануваат таквиот тип содржина. Ова го покажува нов извештај на Tech Transparency Project, кој предупредува на сериозни пропусти во контролата на дигиталните платформи.

Истражувачите утврдиле дека со едноставно пребарување на поими поврзани со „разоблекување“ на фотографии, корисниците можат лесно да дојдат до апликации што користат вештачка интелигенција за манипулација на слики. Таквите алатки овозможуваат измена на фотографии на јавни личности или приватни лица, создавајќи лажни, но убедливи визуелни содржини.

Според анализата, апликациите идентификувани во двете продавници се преземени стотици милиони пати и генерирале значителни приходи. Дел од нив нудат и платени претплати, што дополнително ја зголемува нивната распространетост и комерцијален потенцијал.

Иако и двете компании формално забрануваат содржини што ги објективизираат луѓето или симулираат нивно соблекување, извештајот укажува дека спроведувањето на правилата е недоследно. Истражувачите посочуваат дека не само што ваквите апликации се достапни, туку во одредени случаи се појавуваат и како препораки преку автоматските сугестии при пребарување, што дополнително ја зголемува нивната видливост.

По објавувањето на наодите, дел од спорните апликации биле отстранети, а други ги измениле своите политики. Сепак, истражувачите предупредуваат дека нови апликации со слична функционалност брзо се појавуваат, што укажува на системски проблем во контролата на ваквите содржини.

Од Google соопштија дека дел од апликациите веќе се суспендирани и дека се спроведува дополнителна проверка, додека Apple наведе дека отстранила повеќе апликации и контактирала со одредени развивачи за да ги усогласат своите производи со правилата.

Експертите оценуваат дека проблемот не лежи само во самите апликации, туку и во начинот на кој функционираат алгоритмите за пребарување и рангирање, кои често фаворизираат содржини што привлекуваат внимание, без оглед на нивната етичка спорност.

Во меѓувреме, притисокот од регулаторите расте. Во САД веќе е усвоен закон што го криминализира објавувањето на интимни содржини без согласност, додека во Велика Британија се подготвуваат мерки што би можеле да доведат до одговорност и за раководителите на технолошките компании доколку не реагираат соодветно.

Случајот отвора пошироко прашање за одговорноста на големите технолошки платформи во ерата на вештачката интелигенција, каде границата меѓу иновацијата и злоупотребата станува сè потешка за контрола.