OpenAI блокираше мрежа на сметки поврзани со измами и операции за влијание

OpenAI соопшти дека блокирала повеќе кориснички сметки поврзани со кинески органи за спроведување на законот, романтични измами и координирани операции за влијание, откривајќи детали за злоупотреба на технологијата ChatGPT. Според компанијата, дел од овие профили ја користеле алатката заедно со социјални мрежи и други дигитални платформи за да извршуваат сајбер измами, претставувајќи се како агенции за запознавање, адвокатски канцеларии или дури како американски службени лица.

Во извештајот се наведува дека мала група сметки, за кои постои сомневање дека потекнуваат од Кина, барале информации за американски државјани, онлајн форуми и локации на федерални објекти, како и насоки за користење софтвер за замена на лица на фотографии. Истите профили испраќале пораки на англиски јазик до функционери на сојузни држави во САД и аналитичари од бизнис и финансискиот сектор, нудејќи им платени консултации.

Компанијата откри и дека суспендирала сметка поврзана со лице асоцирано со кинеските служби за спроведување на законот, која наводно била вклучена во тајна кампања за нарушување на угледот на јапонската премиерка Sanae Takaichi.

Дополнително, група профили ја користеле платформата за организирање љубовна измама насочена кон мажи во Индонезија, при што, според проценките, месечно биле измамувани стотици жртви. Преку генерирани реклами и промотивни текстови за лажна услуга за запознавање, корисниците биле наведувани да се приклучат на платформата и потоа да извршуваат задачи што барале значителни парични уплати.

Во други случаи, сметки користеле модели на OpenAI за да се претставуваат како вистински адвокати и американски истражни органи, таргетирајќи лица кои веќе биле жртви на измами. Од компанијата велат дека продолжуваат да ги зајакнуваат механизмите за откривање и спречување на вакви злоупотреби.