Нарастващите способности, поведение и резултати на системите с изкуствен интелект в тестове подават „мигащи предупредителни сигнали“, които би трябвало да подтикнат политиците към действие, заяви водещият изследовател Стюарт Ръсел в Париж.

По време на конференция, организирана от културната и научна агенция на ООН ЮНЕСКО и Международна асоциация за безопасен и етичен ИИ, Ръсел призова участниците да „си представят, чисто хипотетично, че светът е ангажиран с разработването на нещо като AGI (изкуствен общ интелект) и че сме въвели тестове и да си представят, ако тези системи започнат да се провалят на всички тестове и да се държат опасно“.

„Със сигурност бихме реагирали на тези големи мигащи предупредителни сигнали и задействани клаксони и бихме предприели стъпки за овладяване на тази технология“, добави той, цитиран от АФП.

Кога мислите ни спират да бъдат наши? Изкуственият интелект и кризата на независимата журналистика

Роденият във Великобритания Стюарт Ръсел, професор в Калифорнийски университет в Бъркли, очерта проблеми като автономни ИИ „агенти“, които се изплъзват или планират да се изплъзнат от човешкия контрол. Някои дори са му изпращали имейли без човешка подканa, за да обявят, че са придобили съзнание или че заслужават права.

Той открои и случаи на т.нар. „психоза, предизвикана от ИИ“, при които разговори с чатботове насърчават хората да действат ирационално или да си навредят, като предупреди, че корпоративната и геополитическата надпревара за създаване на все по-мощни системи рискува да изостри тези проблеми.

Ръсел обаче не бе изцяло песимистичен и заяви, че има "усещането, че махалото се връща“ към по-сериозно отношение на правителствата и технологичните компании към безопасността на ИИ след глобалната среща на върха за технологията в Индия миналата седмица.

Големи разработчици като OpenAI и Anthropic настояват, че подхождат отговорно към безопасността, публикувайки подробна информация за възможностите, тестовете и потенциалните рискове при всяко пускане на нова версия на моделите си.

На миналогодишното издание на срещата на върха, също в Париж, активисти за безопасност обаче изразиха съжаление, че опасенията им са били изтласкани на заден план за сметка на възможните икономически ползи.

Т.нар. „средни сили“ извън САЩ и Китай са по-отворени към по-строго регулиране на ИИ, посочи Ръсел, като даде за пример регулациите на Европейски съюз. Ръководители на водещи компании, разработващи технологията, сред които Google и Anthropic, дори загатнаха идеята за пауза в надпреварата, ако успеят да убедят конкурентите си.

Обикновените избиратели междувременно не са ентусиазирани от перспективата да бъдат заменени на работното място от „имитационни хора“, създавани от големите корпорации, отбеляза Ръсел.

„Наша задача е да информираме и мобилизираме това обществено мнение… така че нашите политически представители да разберат, че ние, хората, имаме право да бъдем защитени“, добави той.

По думите му изкуственият интелект трябва да бъде използван за справяне с „огромната част от човешкото страдание, което произтича от провали на колективните действия на човечеството“. | БГНЕС