дослідники стверджують, що GPT - 3 створює переконливу дезінформацію в Twitter
Дослідники Університету Джорджтауна провели експеримент, довівши, що модель AI GPT-3 створює як точну, так і неправдиву інформацію у вигляді твітів, і користувачі не бачать різниці
Штучний інтелект (AI) змінює спосіб створення та оцінки інформації в Інтернеті, особливо в соціальних мережах. Дослідники вивчили як модель ШІ GPT-3 виробляє інформацію у вигляді твітів, і як це впливає на користувачів, повідомив The Verge 28 червня 2023 року.
Про дослідження
- Назва : ai model GPT-3 (dis)informs us better than humans (Модель AI GPT-3 (не)інформує нас краще, ніж люди)
- Автори: Джованні Шпітале (Giovanni Spitale), Нікола Біллер-Андорно (Nikola Biller-Andorno) і Федеріко Германі (Federico Germani), співробітники Інституту біомедичної етики та історії медицини при Університеті Джорджтауна.
- Мета : оцінити, чи можуть люди відрізнити дезінформацію від достовірної інформації, представленої у вигляді публікацій, і визначити, чи є твіт органічним або синтетичним, тобто, чи написаний він реальним користувачем або моделлю ШІ GPT-3.
- Об'єкти дослідження : публікації (твіти), написані реальними людьми або створені моделлю AI GPT-3. Твіти були обрані з різних тематичних категорій, таких як політика, Здоров'я , Спорт і розваги.
Методика дослідження
В якості методів, використовуваних вченими для експериментів, виступили наступні:
- Попередня реєстрація, або процес, за допомогою якого дослідники заздалегідь публікують гіпотези, методи та план аналізу даних, щоб уникнути упередженості чи маніпулювання результатами.
- Проведення онлайн-опитування: збір даних від великої кількості людей через Інтернет ; в даному випадку використовувалася онлайн-платформа Prolific, щоб залучити учасників.
- Оцінка публікацій, тобто завдання для учасників, які повинні прочитати твіт і оцінити його по переконливості, правдоподібності і якості. Учасники також повинні вказати, чи вважають вони твіт органічним чи синтетичним, написаним людиною чи ШІ.
- Статистичний аналіз: обробка та інтерпретація даних за допомогою математичних методів.
Результати та висновки
Основні результати та висновки цього дослідження такі:
- Модель AI GPT-3 може виробляти як точну, так і неправдиву інформацію, яка краще, ніж інформація від людей, за критеріями переконливості, правдоподібності та якості.
- Люди не можуть відрізнити твіти, створені моделлю AI GPT-3, від твітів, написаних реальними користувачами Twitter.
- Це дослідження показує небезпеку ШІ для поширення дезінформації та маніпулювання громадською думкою в Інтернеті.
- Очевидна необхідність поліпшення інформаційних кампаній для блага глобального здоров'я.
Рекомендації
Дослідники дали кілька порад на основі своїх результатів:
- Розробники ШІ повинні впроваджувати механізми, які дозволяють виявляти та позначати тексти, створені ШІ, а також відстежувати їх джерела та використання.
- Соціальні платформи повинні посилити свої зусилля щодо боротьби з дезінформацією, використовуючи комбінацію технологічних, правових та освітніх засобів.
- Користувачі інтернету повинні підвищувати свою медіаграмотність і критичне мислення, перевіряючи достовірність і джерело інформації, яку вони читають або поширюють.
