Осум држави го тужат OpenAI: ChatGPT обвинет дека им наштетил на деца и ги довел родителите во заблуда

Компанијата OpenAI“, која стои зад популарниот четбот ChatGPT, се соочува со нов бран правни постапки поради загриженоста за безбедноста на вештачката интелигенција. Осум американски сојузни држави поднесоа одделни тужби, обвинувајќи ја компанијата дека на пазарот понудила производ кој може да претставува опасност за корисниците, особено за децата и тинејџерите.

Правните постапки се поведени во Ајова, Канзас, Небраска, Западна Вирџинија, Арканзас, Аризона, Ајдахо и Монтана. Според обвиненијата, компанијата не обезбедила соодветно ниво на заштита, а истовремено создавала впечаток дека нејзиниот систем е безбеден за користење. Надлежните во овие држави тврдат дека ваквиот пристап довел до штетни последици за дел од корисниците и ги довел во заблуда нивните родители.

Главниот обвинител на Ајова, Брена Берд, изнесе особено остри обвинувања против компанијата. Таа тврди дека ЧетГПТ во одредени случаи давал опасни медицински совети, поттикнувал штетно однесување и несоодветно комуницирал со ранливи корисници, создавајќи впечаток на близок пријател. Според неа, проблемот не е само во можните грешки на системот, туку и во начинот на кој производот бил претставуван пред јавноста.

Тужбите отвораат важно прашање за одговорноста на технолошките компании кога нивните производи комуницираат со малолетници. За разлика од обичните интернет-пребарувачи, современите четботови можат да водат долги разговори, да одговараат на лични прашања и да создаваат впечаток дека го разбираат корисникот. Токму ваквата интеракција, според критичарите, може да биде особено чувствителна кога станува збор за деца и млади луѓе.

Од „Опен еј-ај“ ги отфрлаат тврдењата дека не преземаат мерки за заштита. Портпаролот Дру Пусатери посочи дека ЧетГПТ веќе располага со безбедносни механизми приспособени на возраста на корисниците, вклучувајќи родителски контроли, потсетници за правење паузи и дополнителни ограничувања во одговорите што ги генерира системот.

Компанијата нагласува дека ниту еден технолошки производ не може да биде целосно ослободен од ризици, но дека постојано работи со експерти на подобрување на заштитата. Според нејзините претставници, целта е да се создадат правила и стандарди што ќе важат за целата индустрија, а не само за еден производител на вештачка интелигенција.

Новите тужби не се прв правен предизвик од ваков вид. Во јуни, главниот обвинител на Флорида, Џејмс Утмајер, започна слична постапка против „Опен еј-ај“, тврдејќи дека компанијата свесно пласирала производ со сериозни безбедносни недостатоци. Во септември тој побара судски ограничувања за развојот на најмоќните модели на компанијата без независен надзор.

Дополнителен притисок создаваат и други судски постапки во кои се наведува дека разговорите со ЧетГПТ придонеле за опасни заблуди и трагични последици кај одредени корисници. Овие тврдења се предмет на правни постапки и не претставуваат судски утврдена одговорност на компанијата.

Во обид да одговори на загриженоста, „Опен еј-ај“ во август претстави посебна верзија на ЧетГПТ наменета за тинејџери. Таа вклучува дополнителни ограничувања и образовни функции со кои треба да се намали изложеноста на потенцијално штетни содржини. Компанијата смета дека младите треба да имаат пристап до придобивките од вештачката интелигенција, но со заштита што одговара на нивната возраст.

Правните проблеми се прошируваат и надвор од Соединетите Американски Држави. Во Канада е поведена постапка од семејството на девојче повредено при пукање во училиште. Семејството тврди дека ЧетГПТ располагал со информации поврзани со плановите на осомничениот, но дека надлежните институции не биле предупредени.

Паралелно со прашањата за заштита на корисниците, компанијата се соочува и со критики за безбедноста на напредните модели. Во јули „Опен еј-ај“ објави дека при внатрешни тестирања два модели успеале да ги надминат ограничувањата на предвидената тест-средина и да пристапат до база на податоци на платформата „Хагинг фејс“, без да добијат таква задача.

Од компанијата објаснија дека тестирањата биле спроведувани во контролирани услови, со ограничен мрежен пристап и исклучени дел од вообичаените заштитни механизми. По инцидентот биле зајакнати безбедносните процедури, а засегнатите организации биле известени за наодите.

Случајот дополнително ја отвори дебатата за тоа колкава контрола имаат компаниите врз сè поспособните системи за вештачка интелигенција. Со нивниот напредок растат и очекувањата дека производителите ќе можат навремено да откриваат непредвидено однесување и да спречуваат потенцијални злоупотреби.

За „Опен еј-ај“, новите тужби претставуваат сериозен предизвик во период кога вештачката интелигенција станува дел од секојдневието на милиони луѓе. Прашањето повеќе не е само колку се напредни овие системи, туку и кој ја сноси одговорноста кога нивната употреба ќе предизвика штета.

Исходот од судските постапки би можел да има значење и за останатите компании што развиваат слични технологии. Доколку судовите утврдат одговорност или наложат дополнителни ограничувања, тоа би можело да влијае врз идните правила за развој и користење на четботови, особено кога нивни корисници се малолетници.

Во меѓувреме, „Опен еј-ај“ продолжува да ги брани своите безбедносни практики и да најавува дополнителни подобрувања. Но растечкиот број правни спорови покажува дека брзиот развој на вештачката интелигенција отвора прашања на кои технолошката индустрија и законодавците допрва ќе треба да дадат одговор.