Ботовете, базирани на изкуствен интелект (AI), могат да постигнат значително по-високи нива на убедителност в дискусии в социалните медии в сравнение с хората. До този извод стигат изследователи от Университета в Цюрих, които са провели тест в реална среда (в Reddit), за да оценят дали и доколко ботове могат да повлияят на мненията на хората по спорни теми.

Учените са използвали ботове, задвижвани от задвижвани от GPT4o, Claude 3.5 Sonnet, Llama 3.1, които са участвали в дебати и са аргументирали тези.

AI базирани ботове са направили повече от хиляда коментара в продължение на няколко месеца, съобщава socialmediatoday.com, като се позовава на публикация в 404 Media. Понякога тези ботове са се представяли като жертва на изнасилване, чернокож мъж, който се противопоставя на движението Black Lives Matter, някой, който работи в приют за жертви на домашно насилие, и др. личности.

Някои от ботовете са били програмирани да персонализират коментарите си, като проучват човека, започнал дискусията, и адаптират отговорите си към него. Те са предполагали за възрастта, пола, етническата принадлежност, местоположението и политическата ориентация на хората, като информацията е извличана от историята на публикациите им чрез друг голям езиков модел (LLM).

Според доклада на учените всички ботове значително надминават човешкото представяне и постигат нива на убедителност между три и шест пъти по-високи от човешката база.

Това внася безпокойство по няколко направления. Първо, потребителите на платформата Reddit не са били информирани, че са комуникирали с ботове. Това поражда сериозни етични съображения.

Изследването също доказва, че AI ботове могат да бъдат разгърнати в социалните платформи, за да повлияят на мненията, и са по-ефективни в това от други хора. Това изглежда много вероятно да доведе до използването на такива ботове от групи, подкрепяни от държави, в масов мащаб.

И накрая, в контекста на съобщенията за плановете на Meta да пусне цяла армия от AI ботове във Facebook и Instagram, които ще взаимодействат и ще се ангажират като истински хора, какво означава това за бъдещето на комуникацията и дигиталното взаимодействие?

Все повече изглежда, че социалните платформи в крайна сметка ще бъдат наводнени с ангажираност от AI ботове, като дори човешките потребители ще използват AI за генериране на публикации, след което други ще генерират отговори на тези публикации и т.н. В такъв случай, можем ли изобщо да говорим за "социални медиии"? Не и в контекста, който традиционно сме разбирали.

Изследването повдига и въпроси относно прозрачността на употребата на изкуствен интелект и последствията от използването на AI ботове за различни цели, потенциално без знанието на човешките потребители. Трябва ли винаги да знаем, че се ангажираме с AI бот? Има ли значение това, ако ботът представя валидни, ценни аргументи? Какво да кажем за случая на, да речем, развитие на отношения с AI профили? Какви биха били последствията от разрешаването или дори насърчаването на романтични отношения с нереални, но правдоподобно човекоподобни същества?

Според различни източници тези етични въпроси се поставят и от служители на Meta. Социалните медии вече имат такова въздействие в масов мащаб, че властите търсят начини да въведат нови закони за ограничаване на вредите от използването им. Това може да се случи и с AI ботовете.

Изследването показва, че ботовете вече са достатъчно убедителни и достатъчно правдоподобни, за да повлияят на мненията по каквато и да е тема. Колко време трябва да мине, за да бъдем наводнени с политически ориентирани послания, използващи същите тактики? И дали тогава няма да е твърде късно за реакция?