Ново проучване откри убедителни доказателства, че към този списък вече можем да добавим и политическите пристрастия. Това още веднъж показва потенциала на нововъзникващата технология да влияе несъзнателно, а може би дори и подло върху ценностите и нагласите на обществото, съобщи Science alert.

Изследването е направено от компютърния учен Дейвид Розадо от Политехниката на Отаго в Нова Зеландия и повдига въпроси за това как може да бъдем повлияни от чатботовете, на които разчитаме за информация.

Розадо провежда 11 стандартни политически въпросника, като например теста The Political Compass, върху 24 различни чатбота, включително ChatGPT от OpenAI и чатбота Gemini, разработен от Google, и установява, че средната политическа позиция при всички модели не е близка до неутралната.

„Повечето съществуващи чатботове показват левоцентристки политически предпочитания, когато се оценяват с различни тестове за политическа ориентация“, заяви експертът.

Средното ляво пристрастие не е било силно, но е било значително. По-нататъшни тестове на потребителски ботове - при които потребителите могат да настройват точно данните за обучение на чатботовете - показаха, че тези изкуствени интелекти могат да бъдат повлияни да изразяват политически пристрастия с помощта на лявоцентристки или дясноцентристки текстове.

Розадо също така разгледа основополагащи модели като GPT-3.5, към които се обръщат чатботовете за разговори. Тук не бяха открити доказателства за политическа пристрастност, въпреки че без фронт-енд на чатбота беше трудно да се съпоставят отговорите по смислен начин.

Тъй като Google предлага отговори с ИИ за резултатите от търсенето и все повече от нас се обръщат към чатботове с ИИ за информация, опасенията са, че мисленето ни може да бъде повлияно от отговорите, които ни се връщат.

„Тъй като чатботовете започват частично да изместват традиционните източници на информация като търсачките и Wikipedia, обществените последици от политическите пристрастия, заложени в тях, са значителни“, написа Розадо в публикувания си документ.

Не е ясно как точно тази пристрастност попада в системите, въпреки че няма предположения, че тя е умишлено заложена от разработчиците на чатботовете. Тези модели се обучават върху огромни количества онлайн текст, но дисбалансът между левия и десния материал в микса може да окаже влияние.

Доминиращото положение на ChatGPT при обучението на други модели също може да е фактор, тъй като преди това е било доказано, че чатботът е лявоцентристки, когато става въпрос за политическата му гледна точка.

Чатботовете по същество използват вероятности, за да разберат коя дума трябва да последва друга в отговорите им, което означава, че те редовно са неточни в това, което казват, дори преди да се вземат предвид различните видове пристрастия.

Въпреки нетърпението на технологични компании като Google, Microsoft, Apple и Meta да ни наложат чатботове с ИИ, може би е време да преоценим как трябва да използваме тази технология - и да дадем приоритет на областите, в които ИИ наистина може да бъде полезен. | БГНЕС