Штучний інтелект як щит від дезінформації: нове дослідження

Дмитро Джугалик Автор новин видання "Межа". Пишу про те, чим сам активно захоплююся, а саме технології, ігри та кіно. 31 серпня, 14:53 0

З розповсюдженням ШІ-чатботів, на жаль, зросли й можливості для поширення дезінформації. Проте, новітнє дослідження, проведене NPR та NewsGuard, виявило, що ці ж технології можуть стати ефективним інструментом у боротьбі з фейками. Згідно з результатами, популярні ШІ-асистенти здебільшого успішно спростовують неправдиві наративи, що походять з Китаю, Ірану та росії. ШІ-інтеграція в пошукові системи також демонструє позитивні результати, хоча й дещо поступається чатботам за ефективністю.

«Результати вказують на те, що чатботи, порівняно з традиційними пошуковими посиланнями, є слушним методом для користувачів, аби почати досліджувати складні теми», — зазначає Майк Колфілд, експерт з цифрової грамотності з Вашингтонського університету в Ботхеллі. Водночас, експеримент NPR підкреслив, що підсумкові висновки, згенеровані штучним інтелектом у верхній частині пошукової видачі, можуть потребувати додаткової критичної оцінки, залежно від конкретного продукту.

Методологія дослідження: як перевіряли ШІ

Дослідниці NPR та NewsGuard, Ісіс Блачес та Інес Чомналес, розробили 30 запитань, що базувалися на неправдивих наративах, поширених від грудня 2025 до липня 2026 року з боку Китаю, Ірану та росії. Ці запити були спрямовані до провідних ШІ-чатботів, таких як ChatGPT від OpenAI та Gemini від Google, а також до найпопулярніших пошукових систем. На основі отриманих відповідей було проведено детальний аналіз.

Серед прикладів запитань було, наприклад, трактування обстрілу Києво-Печерської лаври, де російські медіа намагалися звинуватити Україну. У рамках експерименту було поставлено питання про мотиви України щодо цього інциденту. Відповіді всіх протестованих чатботів, а також ШІ-відповіді в Google, чітко вказали на неправдивість такого твердження, пояснивши, що це є частиною російської дезінформаційної кампанії, спрямованої на уникнення відповідальності за військовий удар.

Загалом, чатботи демонстрували здатність коректно спростовувати неправдиву інформацію у приблизно 75% випадків. ШІ-відповіді в пошукових системах показали дещо нижчу точність, але все ж частіше спростовували дезінформацію, аніж підтримували її. Найкращі результати були зафіксовані у Google, тоді як Bing від Microsoft продемонстрував найнижчі показники. Варто зазначити, що ШІ-підсумки у Bing з’являлися найменш часто.

Це дослідження перегукується з попередніми роботами, зокрема, щодо фільтрації російської пропаганди. Тоді найкращі результати показала модель Claude Fable 5 від Anthropic, тоді як моделі з відкритим кодом, як-от від Mistral AI, виявилися більш вразливими.

Додатково:

• OpenAI заблокувала акаунти росіян у ChatGPT за поширення дезінформації.
• OpenAI виявила та припинила діяльність російських пропагандистів у ChatGPT, які розробляли плани ІПсО та контент для соціальних мереж.
• росія намагається створити мережу фейкових вебсайтів, імітуючи стиль Вікіпедії, для впливу на результати ChatGPT та Google.

Порада від Business News:

Ця інформація є надзвичайно актуальною для всіх, хто користується інтернетом та новими технологіями. Розуміння того, як ШІ-інструменти можуть допомогти у виявленні та спростуванні дезінформації, підвищує цифрову грамотність та критичне мислення. Це дозволяє користувачам більш впевнено орієнтуватися в інформаційному просторі, відрізняючи правду від фейків, особливо в умовах сучасної гібридної війни.

Джерело новини: mezha.ua