Anthropic и американската војска: граници на користење на AI во вооружени системи

Извршниот директор и коосновач на Anthropic, Dario Amodei, изјави дека компанијата нема јасна слика за тоа како нејзиниот модел на вештачка интелигенција би можел да бил користен во контроверзна воена операција во Иран, во која според проценките загинале околу 120 деца во напад врз основно училиште.

Во интервју за Bloomberg, Amodei нагласи дека компанијата не располага со информации за конкретната употреба на нивниот модел Claude во операцијата, за која се тврди дека се случила на 28 февруари во градот Минаб, првиот ден од американските операции во Иран. Тој го опиша нападот како „ужасен настан“, но истовремено истакна дека не постојат докази дека користењето на AI алатките на компанијата ги прекршило нејзините политики.

Според него, клучниот принцип што го следи Anthropic е дека конечната одлука секогаш мора да ја донесе човек, а не алгоритам. „Не знам каква улога имал Claude или кој било друг систем, но ако нешто докажува колку е важен тој принцип, тогаш ова е токму тоа“, изјави тој.

Американската војска, која не ја презеде одговорноста за конкретниот напад, најави дека го истражува случајот. Настанот повторно ја отвори дебатата за улогата на вештачката интелигенција во воените операции и ризикот од забрзување на процесите на одлучување на бојното поле.

Додека дел од експертите сметаат дека AI може да ја зголеми прецизноста и да спаси животи со подобро таргетирање, критичарите предупредуваат дека автоматизацијата на одлуките за напади може да доведе до побрзи, но и посмртоносни грешки, со значително поголем број цивилни жртви.

Експерти од организации кои се занимаваат со ризиците од воена примена на вештачка интелигенција предупредуваат дека човечката контрола во такви системи може да стане само формалност, доколку процесите се забрзаат до ниво каде операторите само ги потврдуваат препораките на алгоритмите.

Изјавите на Amodei доаѓаат во време кога технолошките компании сè повеќе соработуваат со Пентагон, кој интензивно ја забрзува интеграцијата на AI технологии во воените системи. Во исто време, компанијата Anthropic е во правен спор со американската администрација, откако беше означена како потенцијален ризик во синџирот на снабдување поради ограничувањата што ги поставува околу употребата на своите технологии во автономно оружје и масовен надзор.

Овој случај дополнително го нагласува растечкиот јаз меѓу брзиот развој на вештачката интелигенција и ограничената контрола врз нејзината примена во реални, чувствителни ситуации, особено во воен контекст.