Нови правила во ChatGPT: Родителите ќе добиваат предупредувања за опасно однесување

OpenAI воведува нови безбедносни мерки за заштита на малолетните корисници на ChatGPT, со кои родителите ќе бидат известувани доколку нивните деца ги прекршат правилата на платформата поврзани со закани за насилство или насилно однесување. Компанијата оценува дека ваквите известувања ќе им овозможат на семејствата побрзо да реагираат во ситуации што би можеле да претставуваат сериозен ризик.

Новата функција е наменета за семејствата кои веќе ги поврзале родителските и тинејџерските сметки преку системот за родителска контрола. Доколку сметката на малолетен корисник биде суспендирана поради прекршување на правилата за насилство, родителот или старателот автоматски ќе добие известување за преземената мерка.

Според OpenAI, по приемот на известувањето родителите ќе можат да пристапат до дополнителни информации во кои ќе биде наведено дека профилот е деактивиран поради прекршување на условите за користење поврзани со насилни закани или други опасни активности. Целта е родителите навреме да бидат информирани и, доколку е потребно, да преземат соодветни чекори.

Оваа надградба е продолжение на системот за родителски контроли што компанијата го воведе минатата година. Со него родителите можат да го ограничат времето во кое нивните деца го користат ChatGPT, да го намалат прикажувањето чувствителна содржина и да добијат предупредување доколку системот препознае знаци што би можеле да укажуваат на ризик од самоповредување.

Во развојот на новата функција OpenAI соработувал со компанијата Moonshot, специјализирана за следење и спречување на онлајн насилство. Основачот на компанијата, Видја Рамалингам, истакнува дека навременото информирање на родителите е важен чекор што може да помогне семејствата побрзо да препознаат потенцијални проблеми и навремено да побараат стручна помош.

Одлуката за дополнително зајакнување на безбедносните механизми следува по критиките упатени кон OpenAI по трагичниот случај со масовното пукање во Тамблер Риџ во канадската провинција Британска Колумбија во 2025 година. Тогаш беше објавено дека осомничениот претходно го користел ChatGPT, а компанијата не ги известила надлежните институции откако ја блокирала неговата сметка поради прекршување на правилата. По реакциите на канадските власти, извршниот директор Сем Алтман јавно призна дека бил направен пропуст и најави дополнително унапредување на безбедносните процедури.

Покрај новиот систем за известување, OpenAI воведува и дополнителни алатки насочени кон едукацијата и здравите дигитални навики кај младите. Родителите преку контролните поставки ќе можат директно да го активираат „Режимот за учење“, во кој ChatGPT наместо веднаш да го понуди конечниот одговор, ќе ги насочува учениците со објаснувања, прашања и совети што ќе им помогнат полесно да го совладаат материјалот.

Компанијата најави и почести потсетници за тинејџерите кои поминуваат подолг период во разговор со ChatGPT. Овие известувања ќе ги охрабруваат корисниците да направат пауза и да развиваат поздрав однос кон користењето на дигиталните технологии.

Со новите мерки OpenAI се обидува да воспостави подобар баланс меѓу придобивките од вештачката интелигенција и безбедноста на младите корисници. Компанијата оценува дека заштитата на малолетниците бара постојано унапредување на безбедносните механизми и поактивна вклученост на родителите, особено во време кога алатките базирани на вештачка интелигенција стануваат сè почест дел од секојдневниот живот и образованието.