Вештачката интелигенција излегува од контрола? OpenAI размислува да го забави развојот

Трката за развој на сè помоќна вештачка интелигенција би можела да забави. „Опен еј-ај“, компанијата зад „ЧетГПТ“, размислува за можноста да го намали темпото на развој на своите најнапредни системи, додека извршниот директор Сем Алтман сè погласно повикува на поголема координација меѓу водечките компании во индустријата.

Овој потег доаѓа во период кога развојот на вештачката интелигенција се одвива со огромна брзина, а технолошките компании вложуваат милијарди долари во изградба на нови модели, компјутерска инфраструктура и системи со сè поголеми способности. Наместо натпреварот да се води исклучиво околу тоа кој прв ќе создаде помоќна технологија, во индустријата сè почесто се поставува прашањето дали развојот може да се одвива со доволно безбедносни механизми.

Според информациите објавени од „Блумберг“, Алтман смета дека би било корисно водечките компании во секторот да постигнат одредено ниво на координација. Идејата е развојот на најмоќните системи да не се претвори во неконтролирана трка во која компаниите би биле под притисок постојано да забрзуваат, дури и кога постојат сериозни прашања околу безбедноста.

Загриженоста не доаѓа само од јавноста и регулаторите. И дел од луѓето кои работат директно на развојот на овие технологии предупредуваат дека трката кон таканаречената суперинтелигенција носи ризици што тешко можат целосно да се предвидат.

Суперинтелигенцијата вообичаено се користи како термин за системи со способности што би можеле значително да ги надминат човечките перформанси во широк спектар интелектуални задачи. Иако таквата технологија може да донесе големи придобивки во науката, медицината, инженерството и економијата, нејзиниот потенцијален развој отвора и сериозни прашања за контрола, злоупотреба и безбедност.

Токму затоа идејата за забавување на развојот не треба да се толкува како откажување од напредокот. Наместо тоа, станува збор за можноста компаниите да посветат повеќе време на тестирање, процена на ризиците и поставување заштитни механизми пред да пуштат уште помоќни системи во широка употреба.

„Опен еј-ај“ во последните години е еден од главните двигатели на брзиот развој на генеративната вештачка интелигенција. По огромната популарност на „ЧетГПТ“, компанијата инвестираше значителни ресурси во развој на модели што можат да извршуваат сè посложени задачи, од пишување и програмирање до анализа на податоци и решавање комплексни проблеми.

Но токму зголемувањето на способностите на моделите го прави прашањето за безбедноста сè поважно. Моќната вештачка интелигенција може да биде исклучително корисна, но истите способности можат да бидат искористени и на штетен начин доколку системите бидат злоупотребени или доколку нивното однесување не може доволно добро да се контролира.

Дополнителен проблем е тоа што „Опен еј-ај“ не е единствениот играч во оваа трка. Компании како „Гугл“, „Антропик“ и други технолошки гиганти исто така развиваат напредни модели и инвестираат огромни средства во инфраструктурата потребна за нивното тренирање.

Во таква средина, едностраното забавување може да биде тешко. Ако една компанија го намали темпото, а конкурентите продолжат со истиот интензитет, се појавува страв дека може да заостанат технолошки. Токму поради тоа Алтман смета дека координацијата меѓу најголемите компании би можела да има поголем ефект од одлуката на само еден производител.

Идејата отвора и поширока дебата за тоа кој треба да ја контролира иднината на вештачката интелигенција. Доколку најмоќните системи станат значително поспособни, прашањето повеќе нема да биде само што можат да направат, туку и под кои услови смеат да бидат развивани и користени.

За технолошката индустрија ова може да биде пресвртна точка. Наместо максималната брзина да биде единствен показател за успех, безбедноста, транспарентноста и контролата би можеле да станат подеднакво важни критериуми.

Сепак, останува неизвесно дали конкурентите ќе бидат подготвени доброволно да забават. Во момент кога вештачката интелигенција станува една од најважните технолошки и економски области во светот, секоја компанија има силен мотив да продолжи да инвестира и да се обидува да биде чекор пред останатите.

Затоа најголемото прашање можеби не е дали вештачката интелигенција ќе продолжи да напредува, туку дали човештвото ќе успее да воспостави доволно силни правила и механизми за нејзиниот развој да остане под контрола. Повикот за забавување од страна на „Опен еј-ај“ покажува дека дури и компаниите што се на самиот врв на оваа технолошка трка стануваат сè посвесни дека следната фаза од развојот може да носи ризици што не смеат да се потценат.