С нарастването на възможностите на AI системите и все по-човешкия начин, по който комуникират, за хората става все по-трудно да разпознават кога изкуственият интелект си измисля информация.
Скот Гилъм пише за MarTech как по време на конференция за изкуствен интелект попада на дискусия за т.нар. "халюцинации" на AI — ситуации, в които моделите генерират невярна или измислена информация, представена като факти. Според Луис Ластрас, директор по езикови и мултимодални технологии в IBM, халюцинациите не са просто случаен бъг, а част от начина, по който моделите функционират и се обучават.
AI системите често добавят информация, която не е била поискана в запитването, защото смятат, че тя би била полезна. Именно това прави грешките толкова трудни за разпознаване - те са поднесени уверено и логично.
Човешката психология работи в полза на AI
Проблемът не е само в технологиите. Хората са биологично предразположени да вярват на комуникатори, които звучат уверено, интелигентно и полезно. В статията се цитира проучване на Elon University сред 500 потребители на AI, според което близо 70% от участниците смятат, че AI моделите са поне толкова умни, колкото самите тях, а 26% вярват, че са "много по-умни".
Отделно, публикация на The Wall Street Journal обяснява, че хората естествено възприемат езиковата плавност като знак за интелигентност и надеждност. Така AI системите печелят доверие не защото винаги са точни, а защото звучат убедително.
Колкото по-човешки звучи AI, толкова повече му вярваме
Според автора това създава опасна комбинация: AI става все по-добър в имитирането на човешка комуникация, а хората са еволюционно програмирани да се доверяват на "полезни" събеседници.
Така малките неточности, допълнителните детайли и измислените факти лесно остават незабелязани. AI не просто отговаря, а създава усещане за компетентност и увереност, което кара потребителите да приемат информацията, без да направят допълнителна проверка.
Доверието се превръща в ключов фактор в AI ерата
Темата за доверието в AI епохата става все по-важна. Навлизането на генеративния изкуствен интелект води до създаването на огромно количество съдържание, но не и непременно до повече достоверност. В среда, залята от автоматично генерирани текстове и послания, именно доверието и прозрачността се превръщат в основен конкурентен фактор за брандовете.
Подобни дискусии се водят активно и в Reddit общности, където потребители коментират, че хората започват да се доверяват повече на AI обобщенията, защото са "по-бързи и удобни", в сравнение с традиционното търсене в уебсайтове. Други обаче предупреждават, че удобството често измества критичното мислене.
Скептицизмът остава най-важният инструмент
С развитието на AI ще става все по-трудно да се поддържа необходимата критична дистанция към информацията, генерирана от машините. Решението обаче не е отказ от технологията, а по-внимателна проверка на фактите и осъзнаване на собствените ни когнитивни склонности.
Според статията най-добрият антидот срещу AI халюцинациите остава нещо изключително човешко - здравословният скептицизъм.
