Канадската влада бара конкретни безбедносни мерки од OpenAI по инцидентот со ChatGPT

Канадската влада очекува компанијата OpenAI Inc. да претстави конкретни мерки за безбедност откако одлучи да не ја извести полицијата за тинејџер од Британска Колумбија кој на ChatGPT играл сценарија на насилство. Лицето, 18-годишниот Џеси Ван Рутселаар, е единствениот осомничен за еден од најтешките масовни напади во историјата на Канада.

Еван Соломон, министер за вештачка интелигенција, изјави по средбата со високи претставници на OpenAI во вторникот дека Канадјаните очекуваат компаниите за AI навремено и одговорно да ги пријавуваат веродостојните предупредувања за можна насилна активност. Тој истакна дека владата е разочарана што засега не биле презентирани значајни нови безбедносни мерки, и додаде дека компанијата потврди дека соработува со полицијата и дека наскоро ќе предложи конкретни решенија прилагодени на канадскиот контекст.

Соломон ги повика извршните лица на OpenAI во Отава по откритието дека сметката на Ван Рутселаар на ChatGPT била означена уште во јуни 2025 година од системите за откривање злоупотреба, вклучувајќи потенцијални насилни активности. Компанијата размислувала за пријавување на сметката на полицијата, но заклучила дека не постои веродостојна или непосредна закана и ја забранила сметката.

Полицијата го именуваше Ван Рутселаар како осомничен за убиството на шест деца и двајца возрасни во отдалечениот град Тамблер Ридж, Британска Колумбија, претходниот месец. Се верува дека 18-годишникот се самоубил по нападот.

Соломон истакна дека на средбата учествувале министри од областа на јавната безбедност, правдата и културата, иако не ги именуваше официјалните лица од OpenAI. Според извештај на Wall Street Journal, Ван Рутселаар неколку дена на ChatGPT опишувал сценарија за вооружено насилство, што предизвикало дебата меѓу околу дванаесет вработени во компанијата, од кои некои предложиле да се контактира полицијата.

Соломон истакна дека само внатрешната проверка не е доволна кога станува збор за јавната безбедност. Владата и OpenAI дискутирале за тоа како се идентификуваат ризиците, како случаите се пренесуваат од автоматизирана детекција до човечки преглед и како се постапува со пријави, особено кога се вклучени млади лица. Дополнително, владата ја разгледува можноста за воведување пошироки мерки кои ќе обезбедат јасни стандарди и одговорност за AI системите кои функционираат во Канада.