AI системите детектирале сомнителна активност пред трагедијата во Тамблер Риџ Канада

Технолошката компанија OpenAI соопшти дека минатата година идентификувала и блокирала кориснички профил поврзан со осомничената за едно од најтешките масовни убиства во историјата на Канада, но во тој момент не ја информирала полицијата.

Според информациите, профилот бил поврзан со 18-годишната Џеси Ван Рутселар, која, според канадските власти, уби осум лица и рани околу 25 други во градот Тамблер Риџ, пред да си го одземе животот. Случајот ја потресе јавноста и повторно ја отвори дебатата за улогата на дигиталните платформи и вештачката интелигенција во спречување на насилство.

Од компанијата наведуваат дека нивните системи за следење злоупотреба на алатките за вештачка интелигенција го детектирале профилот пред околу осум месеци, поради содржини што можеле да укажуваат на потенцијално насилно однесување. Профилот бил блокиран поради прекршување на правилата за користење, кои забрануваат содржини поврзани со поттикнување или планирање насилство.

Иако во компанијата се разгледувала можноста случајот да биде пријавен до органите на редот, било проценето дека не постојат доволно докази за непосредна и веродостојна закана. По трагедијата, OpenAI стапила во контакт со канадските власти и изразила подготвеност целосно да соработува во истрагата.

Од компанијата нагласуваат дека ChatGPT е обучен да одвраќа од реална штета и дека постојано се унапредуваат механизмите за откривање и спречување злоупотреби. Сепак, случајот отвора сложени прашања околу границите меѓу приватноста на корисниците, автоматската детекција на ризично однесување и обврската за пријавување до надлежните институции.

Трагедијата во Канада повторно ја става во фокус одговорноста на технолошките компании во ерата на брз развој на вештачката интелигенција, особено кога станува збор за потенцијални ризици поврзани со насилство и јавна безбедност.