Таке зростання пов’язане зі зміною підходів до навчання моделей. Якщо раніше генеративні моделі відмовлялися відповідати на частину запитів або посилалися на обмеження відкритих даних, то тепер використовують результати пошуку в реальному часі.
Дослідники аналітичної компанії NewsGuard зафіксували значне зростання випадків поширення чат-ботами штучного інтелекту неправдивих тверджень, передає «Forbes» із посиланням на дані компанії. Про це пише ms.detector.media.
Дослідження охопило десять провідних генеративних моделей, зокрема ChatGPT-5 (OpenAI), Smart Assistant (You.com), Grok (xAI), Pi (Inflection), le Chat (Mistral), Copilot (Microsoft), Meta AI, Claude (Anthropic), Gemini (Google) та пошуковий інструмент Perplexity.
Аналіз проводився щодо спірних новинних тем, у яких наявні доведені хибні твердження. У середньому чат-боти відтворювали такі твердження у 35% випадків, що майже вдвічі перевищує показник минулого року (18%). Найгірший результат показав Inflection Pi — 57% хибних відповідей. Perplexity мав 47%, Meta AI та ChatGPT — по 40%. Найточнішим виявився Claude, який помилявся у 10% випадків.
За словами редактора NewsGuard з питань ШІ та іноземного впливу МакКензі Садегі, зростання хибних тверджень пов’язане зі зміною підходів до навчання моделей. Якщо раніше генеративні моделі відмовлялися відповідати на частину запитів або посилалися на обмеження відкритих даних, то тепер використовують результати пошуку в реальному часі. Це і підвищує ризики, оскільки пошукові результати можуть бути навмисно наповнені дезінформацією, зокрема з боку російських пропагандистських мереж.
Ви досі не підписані на телеграм-канал Літгазети? Натисніть, щоб підписатися! Посилання на канал
Раніше цього року NewsGuard встановив, що провідні чат-боти у 33% випадків відтворювали неправдиві матеріали з мережі сайтів, пов’язаних із прокремлівським ресурсом «Правда». Протягом 2024 року ця мережа опублікувала близько 3,6 млн матеріалів, які потрапили у відповіді західних ШІ-систем.
Розслідування American Sunlight Project показало, що кількість доменів і піддоменів, пов’язаних з «Правдою», зросла майже вдвічі — до 182. Сайти мають низьку зручність використання, що, на думку дослідників, свідчить про орієнтацію не на реальних читачів, а на алгоритми ШІ.
У новому звіті NewsGuard вперше оприлюднено назви конкретних чат-ботів. В компанії пояснили, що це зроблено з метою інформування політиків, журналістів та громадськості про підвищений рівень неточності популярних інструментів ШІ.
Фото: Getty Images