Компанията OpenAI, създателят на ChatGPT, казва, че е разбрала защо големите езикови модели възнаграждават чатботовете за предположения.
Според компанията големите езикови модели (LLM), използвани за обучение на чатботовете, "халюцинират" и правят предположения, вместо да признаят, че не знаят нещо, заради грешка в двоичната класификация, съобщава Euronews.
LLM категоризират новите наблюдения в една от две категории. Причината халюцинациите да продължават е, че LLM са "оптимизирани да се явяват добре на тестове, а предположенията, когато е несигурно, подобряват представянето на тестовете", посочват от OpenAI.
Изследователите сравняват поведението на чатботовете с това на студенти по време на изпити с избираем отговор. Те често блъфират, защото подаването на отговор би получило повече точки, отколкото да оставят въпрос без отговор.
Големите езикови модели работят със схеми с точки, като са възнаграждавани с точка за верен отговор и нула точки, когато не дават отговор.
Документът идва няколко седмици, след като OpenAI пусна GPT-5, моделът, който компанията твърди, че е "устойчив на халюцинации" и дава с 46% по-малко неверни твърдения от предшественика си GPT-4o.
Неотдавнашно проучване на американската компания NewsGuard обаче установи, че моделите на ChatGPT като цяло разпространяват неверни твърдения в 40% от отговорите си.
Документът на OpenAI установява също, че докато някои неща, като правопис и граматика, следват много ясни правила и структура, има други теми или видове данни, които ще бъдат трудни или дори невъзможни за идентифициране от изкуствен интелект.
Едно от ключовите открития на изследователите е, че моделите никога няма да бъдат 100% точни, защото "някои въпроси от реалния свят са по своята същност неотговорими".
За да ограничат халюцинациите, потребителите биха могли да инструктират LLM да отговори с "Не знам", ако не знае отговора, и да промени съществуващата система от точки за видовете отговори, които дава, казват от OpenAI.
Ако искате да се подготвите за задълбочено разбиране на ролята на AI технологиите в маркетинга в социалните мрежи, вижте повече за обучението AI in Digital Marketing Masterclass, което ще се проведе на 15 октомври 2025 г., тук: https://masterclass.eurodea.com/ai-in-digital-marketing-masterclass-15-10-2025/
