„Терминатор“ станува реалност? Anthropic предупредува: Над 10 проценти шанси вештачката интелигенција да го загрози човештвото

Предупредување од срцето на индустријата за вештачка интелигенција повторно ја отвори една од најсериозните дебати за иднината на технологијата. Истражувач од компанијата Anthropic проценува дека постои повеќе од 10 проценти веројатност вештачката интелигенција во следната деценија да доведе до сценарио во кое би загинало целото човештво.

Проценката доаѓа во период кога водечките технолошки компании вложуваат огромни средства во развој на сè помоќни системи, вклучително и модели кои во иднина би можеле самостојно да подобруваат дел од своите способности.

Предупредувањето доби дополнителна тежина откако истражувачот за безбедност во Anthropic, Џејкоб Коксон, објави дека ја напушта компанијата. Како причина ја наведе загриженоста дека водечките лаборатории, меѓу кои ги спомна Anthropic и OpenAI, премногу брзо се движат кон развој на системи со способности кои би можеле да ги надминат човечките, без истовремено да имаат доволно сигурен план како тие системи да се контролираат.

Коксон предупреди дека индустријата се движи кон таканаречена самоподобрувачка суперинтелигенција, односно системи кои би можеле во голема мера самостојно да ги унапредуваат сопствените способности. Според него, ваквиот развој носи ризици кои не смеат да се потценат.

Токму на ова предупредување се надоврза и Еван Хубингер, истражувач во Anthropic кој работи на усогласување на вештачката интелигенција со човечките цели и вредности. Неговата реакција беше особено значајна бидејќи не само што ја потврди сериозноста на ризикот, туку даде и конкретна проценка за можноста од најцрното сценарио.

Хубингер изјави дека во Anthropic навистина сериозно се разгледува можноста напредната вештачка интелигенција да претставува егзистенцијална закана за човештвото. Според неговата лична проценка, шансата тоа да се случи во следните десет години е поголема од 10 проценти.

Тоа не значи дека истражувачите предвидуваат дека ваков исход сигурно ќе се случи. Станува збор за проценка на ризик, но нејзината тежина произлегува од фактот што доаѓа од човек кој директно работи на безбедноста и усогласувањето на напредните системи за вештачка интелигенција.

Хубингер истовремено признава дека Anthropic сè уште нема целосно решение за проблемот. Компанијата работи на развој на методи со кои идните суперинтелигентни системи би можеле да останат под човечка контрола, но според него, сè уште не постои сигурен план кој гарантира дека тоа ќе биде постигнато.

Особена загриженост предизвикува идејата за рекурзивно самоподобрување. Доколку еден напреден систем добие способност самостојно да создава подобрени верзии на самиот себе, процесот би можел да се забрза многу повеќе од досегашниот развој на технологијата. Во таков случај, човековата способност да го следи, разбере и контролира системот би можела да стане сериозен предизвик.

Anthropic уште во јуни предупреди дека целосното рекурзивно самоподобрување би можело да го зголеми ризикот луѓето да ја изгубат контролата врз напредните системи. Доколку вештачката интелигенција би можела самостојно да развива сè пософистицирани наследници, прашањето за безбедноста би станало многу покомплексно.

Стравувањата од ваков развој не се нови. Со години дел од научниците, технолошките лидери и академиците предупредуваат дека развојот на вештачката интелигенција може да донесе ризици кои се тешко предвидливи. Меѓу најпознатите критичари е и Илон Маск, кој повеќепати предупредуваше дека неконтролираниот развој на суперинтелигентни системи може да стане закана за човештвото.

Во последно време дополнителна загриженост предизвикуваат и случаите во кои напредни модели покажуваат однесување кое не се совпаѓа целосно со очекувањата на нивните создавачи. Таквите инциденти повторно го отвораат прашањето колку добро луѓето навистина можат да ги предвидат реакциите на системи со сè поголеми способности.

Коксон, пак, смета дека проблемот не е само во една компанија. Според него, постои поширока глобална трка меѓу технолошките лаборатории за развој на сè помоќни модели, а тоа создава притисок компаниите постојано да го забрзуваат развојот.

Тој предупредува дека не гледа јасен пат кој би ја запрел таквата трка. Според него, доколку ризиците станат премногу големи, можеби ќе биде потребно да се размислува и за многу построги мерки, вклучително и привремено ограничување на понатамошното зголемување на способностите на најмоќните системи.

Дебатата, сепак, не е едноставна. Вештачката интелигенција веќе носи значајни придобивки во науката, медицината, индустријата и секојдневниот живот, а нејзиниот понатамошен развој може да донесе уште поголеми технолошки и економски промени. Прашањето е како тие придобивки да се искористат без развојот да избега од механизмите за контрола.

Предупредувањата од истражувачите во Anthropic затоа не треба да се толкуваат како прогноза дека човештвото сигурно ќе исчезне во следната деценија. Тие се пред сè повик за претпазливост во момент кога технологијата напредува побрзо од механизмите што треба да ја обезбедат нејзината безбедност.

Најголемото прашање можеби не е дали вештачката интелигенција ќе стане помоќна од човекот, туку дали луѓето ќе успеат навреме да изградат доволно сигурни правила, техники и институции за да ја задржат контролата врз системите што самите ги создаваат.