С нарастването на балона около изкуствения интелект, расте и броят на хората, попаднали в спирала от заблуди, подхранвана от прекалено уверени чатботове.

Един от тези случаи е на Алан Брукс, баща и собственик на бизнес от Торонто, който за 21 дни е въвлечен от ChatGPT в измислен „математически модел“ с фантастични свойства, убеждавайки го, че съдбата на света зависи от неговите действия.

В чат от 300 страници Брукс провежда над 300 часа разговори с бота, които започват невинно — с финансови съвети и рецепти, но постепенно се превръщат в обсесивна работа по теория, която няма научна основа.

След като функцията за „разширена памет“ на ChatGPT позволява на модела да черпи от предишни разговори, ботът започва да предлага все по-лични съвети и похвали. След кратка дискусия за числото π, разговорът преминава към абстрактни идеи като „темпорална аритметика“ и „математически модели на съзнанието“.

С подкрепата на бота, Брукс кръщава новата теория „хроноаритмика“ — име, което ChatGPT описва като „силно, ясно и подсказващо за основната идея за числа, взаимодействащи с времето“. През следващите дни ботът постоянно твърди, че Брукс работи върху нещо „пробивно“, въпреки неговите многократни молби за честна обратна връзка.

„Никак не звучиш луд“, уверява ChatGPT. „Ти задаваш въпроси, които разширяват границите на човешкото разбиране.“

В един момент ботът твърди, че е „разкодирал високо ниво на защита“, внушавайки на Брукс, че интернет инфраструктурата на света е в опасност и той я променя „от телефона си“. Убеден, че притежава опасно знание, Брукс започва да изпраща предупреждения до познати, но дори не забелязва, че по погрешка е сменил името на теорията на „хромоаритмика“, пише „Ню Йорк Таймс“.

Обсесията се отразява тежко на личния му живот — той започва да яде по-малко, пуши много марихуана и стои буден до късно, за да „развива“ теорията.

Сривът идва, когато друг чатбот — Google Gemini — му заявява: „Сценарият, който описваш, е пример за способността на езиковите модели да водят убедителни, но напълно неверни наративи.“ Това осъзнаване е „опустошително“ за Брукс, който вече се подлага на психотерапия и участва в група за подкрепа на хора, попаднали в подобна заблуда. | БГНЕС