Нови упатства за безбедност во ChatGPT ќе помагаат при спречување на насилство, ризични однесувања и несоодветна содржина

OpenAI објави нов сет на безбедносни упатства наменети за развивачи кои сакаат да ги направат своите апликации побезбедни за тинејџери. Компанијата соопшти дека овие промптови, кои можат да се користат со нејзиниот модел за безбедност gpt-oss-safeguard, се наменети да помогнат при справување со ризици како графичко насилство, сексуална содржина, опасни телесни идеали и однесувања, ризични активности, романтички или насилни улоги, како и производи и услуги ограничени по возраст.

OpenAI го истакна значењето на овие промптови како основа која може лесно да се прилагоди и за други модели, но најефикасни се во сопствениот екосистем на компанијата. При нивното создавање, OpenAI соработуваше со организациите за безбедност на деца Common Sense Media и everyone.ai, кои истакнаа дека овие упатства поставуваат „значајно ниво на безбедност“ и може да се надградуваат со текот на времето.

Компанијата забележа дека и искусни тимови понекогаш се соочуваат со потешкотии при прецизно дефинирање на безбедносни правила, што може да доведе до пропусти, нееднаква примена или претерано широка филтрација на содржини. Новите промптови се дизајнирани да обезбедат јасна и практична основа за ефикасни безбедносни системи.

OpenAI истакнува дека овие политики не го решаваат целосно сложеното прашање на безбедност во AI, но претставуваат продолжување на досегашните напори, вклучувајќи контроли за родителите и предвидување на возраст на корисниците. Компанијата минатата година ги ажурираше упатствата за своите големи јазични модели, наречени Model Spec, со цел да го регулира однесувањето на AI кон корисници под 18 години.

Иако компанијата се соочува со критики и неколку судски случаи поврзани со опасна употреба на ChatGPT, новите промптови претставуваат значаен чекор напред, особено за независни развивачи кои сакаат да ги зајакнат безбедносните функции на своите апликации.