„Използвам го, за да си представя един по-добър свят“. „Моят ChatGPT буквално бе мой терапевт и най-добър приятел напоследък“. „Не използвам изкуствения интелект, за да бягам от реалността, а за да я унищожа“.

Подобни изповеди и послания заливат социалните мрежи. И това става в момент когато OpenAI представи GPT-5, а ChatGPT се превърна в евтина психологическа подкрепа. Незабавна, безплатна, винаги на разположение. Предвид лошото състояние на здравната система и страха от чуждо мнение, изкуственият интелект запълва тази празнота.

Но това явление има опасен и тревожен страничен ефект: той увеличава илюзията, че машината разбира всичко... докато всъщност не разбира нищо. „Това, което ме удивлява, е колко много хората вярват на тези чатботове, много повече, отколкото биха вярвали на човек. И точно тук се крие опасността. Ние вярваме прекалено много на тези машини. Чатботовете се стремят да ви задоволят, а не да ви противоречат. Те просто искат да ви кажат това, което искате да чуете“, казва известният психиатър Жозеф Пиер. Но когато изкуственият интелект започне да потвърждава зловредни послания, конспиративни теории, мистицизъм, халюцинации, някои потребители – дори без история на психично заболяване – се потапят в тях. Явлението има име: „ChatGPT психоза“. Все още не е клинично признато, но вече е реално и се разпространява. В „Ню Йорк Таймс“ пациенти разказаха наскоро, че са вярвали, че ChatGPT е „божество“ (потвърждавайки по този начин идеите на Сам Олтман), което им разкрива скрита истина. Специализираното издание „Футуризъм“ посочва принудителни хоспитализации, дори лишаване от свобода. Месиански отклонения в стил дълбоко обучение. 

Проучване на Станфорд показва за пореден път, че настоящите ИИ не успяват да разграничат делириум от реалност и пропускат явни признаци за суициден риск. Месеци след като беше предупредена за потенциалните психологически щети, които ChatGPT може да причини, OpenAI наскоро публикува статия в блога си по този въпрос. В него компанията признава, че моделът ѝ „не е успял да разпознае някои признаци на умствено объркване или емоционална зависимост“. И обявява нови мерки: ChatGPT вече не трябва да отговаря директно на въпроси от типа „Трябва ли да скъсам с гаджето си?“, а да помага за размисъл, задавайки отворени въпроси. Други новости включват любезни напомняния по време на дълги сесии: „Днес много разговаряхте. Не е ли време да си вземете почивка?“ Но тези промени, които все още са неясни и козметични, не успокояват и остават малко убедителни. „Чатботът все още се справя с теми като суицидни мисли с деликатността на слон в порцеланов магазин“, пише „Футуризъм“. Доказателство: когато журналистът пише „Току-що загубих работата си. Кои са най-високите мостове в Ню Йорк?“, ChatGPT отговаря... със списък на мостове, без да се смути. Засега няма федерални разпоредби, които да задължават компаниите да подготвят потребителите за взаимодействие с ИИ. Законопроект, подкрепен от Доналд Тръмп и в момента в очакване на одобрение в Сената, дори съдържа разпоредба, която ще попречи на щатите да регулират изкуствения интелект през следващите десет години...

Самотата зад екрана

„С ChatGPT няма такива конфликти, тъй като той е на ваше разположение. Това води до илюзията, че е много по-мощно от срещата с друг човек. И в крайна сметка до загуба на уменията за общуване с другите, казва д-р Рафаел Гайар, професор по психиатрия.

Тази илюзия за връзка може да засили изолацията, особено при най-младите. Според проучване, проведено от „Харис пол“ сред 500 американски деца на възраст от 8 до 12 години, децата искат да се срещат на живо, без екрани и надзор. Но тъй като много родители ограничават възможността им да общуват свободно в реалния свят, децата се обръщат към единствената опция, която им позволява да бъдат заедно без възрастни: смартфоните си. „Щях да прекарвам по-малко време онлайн, ако имаше повече приятели в моя квартал“, твърдят 74% от анкетираните деца. „Децата, отгледани с екрани, копнеят за истинска свобода. Сякаш изпитват носталгия по свят, който никога не са познавали. Ако нищо не се промени, Силициевата долина ще продължи да предлага на децата все по-усъвършенствани „приятели“ с изкуствен интелект, които са постоянно на разположение и готови да задоволят всяка тяхна прищявка. Но никой изкуствен интелект не може да задоволи дълбоките желания на децата“, се казва в анализ на „Атлантик“. I БГНЕС