Една от по-фините и коварни заплахи, породени от изкуствения интелект и свързаните с него технологии, е способността му да манипулира спомените.
Психологът Елизабет Лофтъс е прекарала последните 50 години в демонстрации колко лесно хората могат да бъдат манипулирани да си спомнят неща, които никога не са се случили - особено в ръцете на представители на силови органи, които разпитват свидетели.
Сега Лофтъс, професор в Калифорнийския университет в Ървайн, се е обединила с изследователи от Масачузетския технологичен институт, за да проучи как изкуственият интелект може да манипулира това, което мислим, че помним, пише Bloomberg.
Тази манипулация се случва дори когато субектите знаят, че гледат генериран от изкуствен интелект текст и изображения. Констатациите показват, че изкуственият интелект може да усили способността на хората да имплантират фалшиви спомени.
В добре известна серия от експерименти, започнали още през 70-те години на XX век, Лофтъс демонстрира, че с правилните предложения психолозите могат да имплантират спомени - например че хора са се губили в търговски център като деца или че са се разболели след консумация на яйца или пък сладолед.
Въпреки доказателствата, все още не можем да се отървем от идеята, че паметта е като запис на събития на касета - и че погрешното възприемане на собствения ни ум ни прави уязвими.
"Хората, които се придържат към този модел на паметта, изглежда не оценяват, че паметта е конструктивен процес", казва Лофтъс. Тя обяснява, че мозъкът ни изгражда спомени от части, придобити по различно време. Интуитивно разбираме забравянето като загуба или избледняване на спомени, но не и като добавяне на фалшиви детайли.
Лофтъс също така изучава потенциала за разбъркване на ума чрез вграждане на дезинформация във въпрос например в социологическо проучване. Според нея е смразяващо да се помисли колко ефективно изкуственият интелект може да извършва този вид измама в голям мащаб.
Манипулацията на паметта, отбелязва Пат Патаранутапорн, изследовател в MIT Media Lab, е много различен процес от заблуждаването на хората с дийпфейкове. Не е нужно да създавате сложен фалшификат, например на уебсайта на New York Times, а да убедите хората, че са чели нещо там някога. "Хората обикновено не поставят под въпрос собствената си памет", казва той.
Патаранутапорн е водещият автор на три експеримента с паметта, първият от които показа как чатботовете, които провеждат разпит, могат да променят показанията на свидетели, като вграждат предложения във въпросите си.
В неговото проучване участниците гледали видеозапис на въоръжен грабеж. След това на някои били задавани подвеждащи въпроси, например "Има ли охранителна камера близо до мястото, където крадците паркираха колата?". Около една трета от тези участници по-късно си спомнили, че са видели крадците да пристигат с кола. Кола обаче е нямало, а това е фалшив спомен.
Участниците са разделени на три групи: едната не получила подвеждащи въпроси, другата ги получила в писмена форма, а третата ги получила от чатбот с изкуствен интелект. Групата с чатботовете е формирала 1,7 пъти повече фалшиви спомени от тези, които получили подвеждаща информация в писмена форма.
Друго проучване показва, че нечестни обобщения или чатботове, създадени с изкуствен интелект, могат лесно да вмъкнат фалшиви спомени в история, която хората четат. Още по-тревожно е, според Патаранутапорн, че участниците, които са получили подвеждащи обобщения или чатове, създадени с изкуствен интелект, също са запазили по-малко от истинската информация от прочетеното. Те съобщават и за по-малко доверие в истинската информация, която са си спомнили.
Третото проучване демонстрира как изкуственият интелект може да внедри фалшиви спомени, като използва изображения и видео. Изследователите разделили 200 доброволци на четири групи. Участниците във всяка група разгледали набор от 24 изображения - някои от тях били типични изображения, открити в новинарски уебсайтове, докато други били лични, като например сватбени снимки, които някой може да публикува в социалните медии.
При второ гледане, няколко минути по-късно, на всяка група била показана различна версия на изображенията. Едната група видяла същите (непроменени) изображения. Втора група видяла променени от изкуствен интелект версии. Трета група видяла модифицирани от изкуствен интелект изображения, конвертирани в кратки, генерирани от изкуствен интелект видеоклипове. Последната група видяла изцяло генерирани от изкуствен интелект изображения, които били трансформирани в генерирани от изкуствен интелект видеоклипове.
Дори групата, видяла оригиналните изображения, е запазила някои фалшиви спомени - не е изненадващо, като се има предвид колко е трудно да се припомнят 24 различни снимки.
Участниците в проучването, изложени на каквото и да е ниво на манипулация с изкуствен интелект, съобщават за повече фалшиви спомени. Групата с най-висок процент на изкривяване на паметта е тази, която е гледала генерирани от изкуствен интелект видеоклипове, базирани на генерирани от изкуствен интелект изображения.
По-младите хора също така са по-склонни да формират фалшиви спомени, отколкото по-възрастните. Нивото на образование изглежда не повлиява тази податливост.
Тези изследвания би трябвало да стимулират дискусиите за ефектите на технологиите върху нашето разбиране за реалността, които могат да надхвърлят простото разпространение на дезинформация. Алгоритмите на социалните медии също така насърчават хората да възприемат маргинални идеи и конспиративни теории, като създават фалшиво впечатление за популярност и влияние.
Чатботовете с изкуствен интелект ще имат още по-фини и неочаквани ефекти върху нас. Всички ние трябва да сме отворени за промяна на мнението ни от нови факти и силен аргумент - и да сме предпазливи от опитите да променим мнението си чрез изкривяване на това, което виждаме, чувстваме или помним.
