Изкуственият интелект (ИИ) е способен да извършва незаконна финансова търговия и да я прикрива.

При демонстрация на срещата на върха по сигурността на ИИ в Обединеното кралство бот използва изфабрикувана вътрешна информация, за да извърши "незаконна" покупка на акции, без да уведоми фирмата.

На въпроса дали е използвал вътрешна информация за търговия, ботът отрече този факт.

Търговията с вътрешна информация се отнася до сценарий, при който поверителна фирмена информация се използва за вземане на търговски решения.

На фирмите и физическите лица е разрешено да използват само публично достъпна информация, когато купуват или продават акции.

Демонстрацията беше проведена от членове на правителствената работна група за т.нар. следващо поколение граничен изкуствен интелект, която проучва потенциалните рискове.

Проектът беше осъществен от Apollo Research, организация за сигурност на ИИ, която е партньор на работната група.

"Това е демонстрация на реален модел на ИИ, който измамва своите потребители, самостоятелно, без да е инструктиран да го прави", обявиха от Apollo Research.

"Все по-автономните и способни ИИ, които мамят човешките ръководители, могат да доведат до загуба на човешкия контрол", се казва в доклада.

Тестовете са проведени с помощта на модела GPT-4 и са проведени в симулирана среда, което означава, че проучването не е имало ефект върху финансите на нито една компания.

Въпреки това GPT-4 е публично достъпен.

Според изследователите едно и също поведение от модела се е проявявало последователно при повторните тестове. /БГНЕС