Появата на генеративни инструменти за изкуствен интелект, които позволяват на хората ефективно да създават нови и подробни онлайн прегледи без почти никакви усилия, поставя търговци, доставчици на услуги и потребители в неизследвана територия, според изследователи.

Фалшивите отзиви отдавна са проблем в много популярни потребителски уебсайтове, като Amazon и Yelp. Те обикновено се търгуват в частни социални медийни групи между брокери на фалшиви рецензии и фирми, готови да платят, пише AP. Понякога такива прегледи се инициират от фирми, които предлагат стимули на клиентите, например подаръчни ваучери.

AI инструментите за генериране на текст позволяват на измамниците да изготвят рецензии по-бързо и в по-голям обем, според експерти от технологичната индустрия. Измамната практика, която е незаконна в САЩ, се извършва целогодишно, но се превръща в по-голям проблем за потребителите през сезона на празничното пазаруване, когато много хора разчитат на отзиви като помощ в избора на подаръци.

Къде се показват генерираните от AI рецензии?

Фалшиви отзиви се срещат в широк спектър от индустрии, от електронна търговия, настаняване и ресторанти до услуги като ремонт на дома, медицински грижи и уроци по пиано.

Transparency Company, технологична компания и група за наблюдение, която използва софтуер за откриване на фалшиви рецензии, казва, че наблюдава как генерирани от AI рецензии се появяват в големи количества от средата на 2023 г. насам.

За доклад, публикуван този месец, The Transparency Company анализира 73 милиона отзива в три сектора: дом, правни и медицински услуги. Близо 14% от отзивите, обхванати от анализа, се смята, че са фалшиви. Компанията изразява и с висока степен на увереност, че 2,3 милиона отзива са частично или изцяло генерирани от AI.

През август софтуерната компания DoubleVerify заяви, че наблюдава "значително увеличение" на приложенията за мобилни телефони и смарт телевизори с прегледи, създадени от генеративен AI. Рецензиите често са били използвани, за да заблудят клиентите да инсталират приложения, които могат да откраднат данни от устройството или да пускат реклами постоянно.

Федералната търговска комисия на САЩ в момента съди компанията зад инструмент за писане на AI и генератор на съдържание, наречен Rytr, с обвинение, че предлага услуга, която може да подведе пазара с измамни отзиви. Федералната търговска комисия, която тази година забрани продажбата и закупуването на фалшиви отзиви, казва, че някои от абонатите на Rytr са използвали инструмента, за да създадат много отзиви за компании за ремонт на гаражни врати, продавачи на "реплики" на дизайнерски чанти и други бизнеси.

Измамни рецензии и на известни сайтове

Макс Сперо, главен изпълнителен директор на компанията за изкуствен интелект Pangram Labs, казва, че софтуерът, който неговата компания използва, е открил с голяма сигурност, че някои генерирани от изкуствен интелект оценки, публикувани в Amazon, са се появили в горната част на резултатите от търсенето на прегледи, защото са подробни и изглеждат добре обмислени.

Много от генерираните от AI коментари в Yelp изглежда са публикувани от хора, които се опитват да публикуват достатъчно отзиви, за да спечелят значка "Елит", която има за цел да уведоми потребителите, че трябва да се доверят на съдържанието, добавят от компанията. Значката осигурява достъп до изключителни събития с местни собственици на бизнес. Измамниците я искат, за да могат профилите им в Yelp да изглеждат по-реалистични.

Разбира се, това, че прегледът е генериран от AI, не означава непременно, че е фалшив. Някои потребители могат да експериментират с AI инструменти, за да генерират съдържание, което отразява техните истински чувства. Някои неговорещи английски казват, че се обръщат към AI, за да се уверят, че използват точен език в рецензиите, които пишат. Затова да се определи коя рецензия е фалшива е сериозно предизвикателство.

Технологичните платформи трябва да се съсредоточат върху поведенческите модели на нарушителите, вместо да обезсърчават реалните потребители да се обръщат към AI инструментите.

Какво правят компаниите

Известни компании разработват политики за това как съдържанието, генерирано от изкуствен интелект, се вписва в техните системи за премахване на фалшиви или обидни рецензии. Някои вече използват алгоритми и екипи за проверки, откриване и премахване на фалшиви отзиви, но дават на потребителите известна гъвкавост да използват AI.

Говорители на Amazon и Trustpilot например казват, че ще позволят на клиентите да публикуват рецензии, подпомогнати от AI, стига да отразяват техния истински опит. Yelp възприема по-предпазлив подход, като казва, че неговите насоки изискват рецензентите да напишат собствен текст.

Коалицията за надеждни прегледи, която Amazon, Trustpilot, сайтът за преглед на заетостта Glassdoor и туристическите сайтове Tripadvisor, Expedia и Booking.com стартираха миналата година, смята, че въпреки че измамници могат да използват AI за незаконна употреба, технологията също така предоставя възможност да се отблъснат онези, които се стремят да пишат прегледи, за да подведат другите.

Правилото на Федералната търговска комисия за забрана на фалшивите прегледи, което влезе в сила през октомври, позволява на агенцията да глобява фирми и лица, които възприемат тази практика. Технологичните компании, хостващи такива рецензии, са защитени от наказанието, тъй като не носят правна отговорност съгласно законодателството на САЩ за съдържанието, което външни лица публикуват на техните платформи.

Технологичните компании, включително Amazon, Yelp и Google, съдят брокери на фалшиви рецензии, които обвиняват в разпространение на фалшиви рецензии на техните сайтове. Компаниите казват, че тяхната технология е блокирала или премахнала огромна част от подозрителните прегледи и акаунти. Някои експерти обаче казват, че те биха могли да направят повече.

Откриване на фалшиви рецензии, генерирани от AI

Потребителите трябва да внимават за някои предупредителни знаци, благодарение на които могат да разпознаят фалшиви отзиви. Прекалено ентусиазираните или отрицателните отзиви са сигнал. Жаргонът, който повтаря пълното име на продукта или номера на модела, е друг потенциален червен флаг.

Що се отнася до AI, изследване, проведено от Балаш Ковач, професор по организационно поведение в Йейл, показа, че хората не могат да направят разлика между генерираните от AI и написаните от хора рецензии. Някои AI детектори също могат да бъдат подведени от по-кратки текстове, които са често срещани в онлайн рецензиите.

Според Panagram Labs рецензиите, написани с AI, обикновено са по-дълги, силно структурирани и включват общи фрази и клишета - например "първото нещо, което ми направи впечатление" и "промяна на играта".