OpenAI претстави план за заштита на децата во ерата на вештачката интелигенција

Компанијата OpenAI претстави нова стратегија за зајакнување на заштитата на децата на интернет во услови на брз развој на вештачката интелигенција. Документот, наречен „Child Safety Blueprint“, има за цел да овозможи побрзо откривање, поефикасно пријавување и подобра истрага на случаи поврзани со злоупотреба на деца со помош на AI технологии.

Иницијативата доаѓа во време кога глобално расте загриженоста за злоупотребата на новите алатки, особено во контекст на генерирање лажни експлицитни содржини и манипулативна комуникација. Податоците на Internet Watch Foundation покажуваат дека само во првата половина на 2025 година биле регистрирани над 8.000 случаи на AI-генерирана злоупотреба на деца, што претставува значително зголемување во однос на претходната година.

Паралелно со тоа, компанијата се соочува и со засилен притисок од институции и јавноста, особено по случаи во кои млади лица наводно развиле сериозни психолошки проблеми по интеракција со чат-ботови. Во California беа поднесени и тужби против компанијата од страна на организации како Social Media Victims Law Center, кои тврдат дека одредени AI производи биле пуштени во употреба без доволна подготвеност и безбедносни механизми.

Новиот план е развиен во соработка со National Center for Missing and Exploited Children и Attorney General Alliance, како и со поддршка од државни обвинители од повеќе американски сојузни држави. Фокусот е ставен на ажурирање на законската рамка за да ги опфати и содржините генерирани со вештачка интелигенција, подобрување на механизмите за пријавување до надлежните органи и вградување на превентивни заштити директно во AI системите.

Од компанијата посочуваат дека ваквиот пристап треба да овозможи побрзо идентификување на ризиците и поефикасно дејствување од страна на истражните органи. Иницијативата се надоврзува на претходните мерки, меѓу кои се и построги правила за интеракција со корисници под 18 години, со цел спречување на штетна или несоодветна содржина.

Со овој потег, OpenAI се обидува да одговори на сè поголемите предизвици што ги носи вештачката интелигенција, поставувајќи стандарди за побезбедна дигитална средина за најмладите корисници.