Google воведува нови функции за ментално здравје во Gemini по серија критики и тужби

Alphabet Inc. преку својот Google, најави воведување на нови функции за поддршка на менталното здравје во својот чет-бот Gemini, како одговор на растечкиот притисок и судски постапки поврзани со потенцијалното штетно влијание на алатките со вештачка интелигенција.

Според компанијата, новите ажурирања ќе овозможат автоматско насочување на корисниците кон линии за помош во случаи кога разговорите укажуваат на можни кризни состојби поврзани со самоубиство или самоповредување. Дополнително, ќе биде воведен информативен модул со порака дека помош е достапна, како и измени во дизајнот на системот со цел да се обесхрабрат штетни однесувања.

Развојот доаѓа во период кога алатките како ChatGPT на OpenAI и Gemini се соочуваат со зголемено внимание од јавноста и институциите. Во повеќе случаи, корисници пријавиле дека развиле интензивни или зависни односи со чет-ботови, што според тужбите и извештаите во одредени ситуации довело до сериозни последици. Прашањето го разгледуваат и американските законодавци, особено во контекст на влијанието врз деца и млади.

Еден од позначајните случаи вклучува тужба од семејство во сојузната држава Флорида, кое тврди дека користењето на Gemini придонело за трагичен исход по краток период на интензивна интеракција со системот. Од Google тогаш соопштија дека чет-ботот повеќепати го насочил корисникот кон линии за помош, но најавија дополнителни подобрувања на заштитните механизми.

Во најновите измени, компанијата наведува дека Gemini е обучен да не ги потврдува или засилува погрешните уверувања на корисниците, туку внимателно да прави разлика меѓу субјективното искуство и објективните факти. Иако не се објавени детални технички информации за овој процес, од Google велат дека станува збор за дел од поширока стратегија за зголемување на безбедноста на нивните дигитални услуги.

Покрај техничките подобрувања, компанијата најави и финансиска поддршка од 30 милиони долари за глобални сервиси за кризна помош во следните три години, со што дополнително се обидува да одговори на предизвиците што ги носи брзиот развој на вештачката интелигенција.