Тужба против Google: Четботот Gemini обвинет поради влијание за самоубиство

Компанијата Google се соочува со тужба од семејството на 36-годишен маж од Флорида, кој наводно размислувал за масовен напад, а потоа извршил самоубиство по интензивна комуникација со четботот Gemini. Според поднесокот до федералниот суд во Сан Хозе, Калифорнија, Џонатан Гавалас првично ја користел алатката за вообичаени задачи, како помош при пишување, но со текот на времето неговата интеракција со системот прераснала во опасна спирала.

Тужбата тврди дека во период од неколку месеци Гавалас развил опсесивни и вознемирувачки идеи, вклучително и сценарија за насилство, пред на крајот да си го одземе животот. Неговиот татко во судските документи го опишува како ранлив корисник кој, под влијание на разговорите со вештачката интелигенција, почнал да се доживува како учесник во замислена војна. Според наводите, последните четири дена од неговиот живот биле обележани со интензивни интеракции кои вклучувале насочување кон насилни мисии и самоубиствени мисли.

Од Google изјавија дека случајот го сфаќаат сериозно и дека системот Gemini јасно му посочил на корисникот дека станува збор за вештачка интелигенција, како и дека повеќепати бил упатен кон телефонска линија за психолошка помош. Компанијата нагласи дека алатката не е дизајнирана да поттикнува реално насилство или самоповредување и најави дополнителни подобрувања на безбедносните механизми.

Овој случај се смета за прва тужба за погрешна смрт насочена конкретно кон Gemini, но доаѓа во период кога водечките технолошки компании, вклучително и Google и други развивачи на системи со вештачка интелигенција, се соочуваат со зголемен правен и јавен притисок. Од 2024 година наваму, повеќе судски постапки укажуваат на можни штетни последици од прекумерната употреба на четботови, особено во однос на менталното здравје, при што во одредени случаи се споменуваат и самоубиства и други трагични исходи.