Діджитал Світ Орвелла став ближче: ШІ змушує людей пам'ятати речі, яких не було, – дослідження
Американські вчені із Каліфорнійського університету в Ірвайні та Массачусетського технологічного інституту виявили, що штучний інтелект (ШІ) може легко маніпулювати людською пам'яттю.
Related video
Дослідники провели ряд експериментів, які показали, що маніпуляції ефективні навіть тоді, коли люди знають, що вони дивляться на текст і зображення, згенеровані штучним інтелектом, повідомляє Bloomberg.
Як зазначає Пет Патаранутапорн з Медіа-лабораторії Массачусетського технологічного інституту, маніпуляція пам’яттю зовсім не потребує створення складних фейків. Достатньо просто переконати людей, що вони щось читали чи бачили в минулому.
"Люди зазвичай не ставлять під сумнів власну пам’ять", — зазначив дослідник.
Патаранутапорн був провідним автором трьох експериментів з пам'яттю. Перший з них показав, що під час слідства чат-боти можуть змінювати свідчення свідків, просто вбудовуючи ложну інформацію у свої запитання.
У цьому експерименті люди переглядали відеозапис збройного пограбування. Потім деяким ставили запитання, такі як: "Чи була камера спостереження поблизу місця, де грабіжники припаркували машину?" Близько третини учасників пізніше "згадали", що бачили, як грабіжники приїхали на машині, хоча насправді ніякої машини на відео не було.
Учасників поділи на три групи: одна не отримувала оманливих запитань, інша отримувала їх у письмовій формі, а третя отримувала їх від чат-бота зі ШІ. В результаті група чат-ботів сформувала в 1,7 раза більше хибних спогадів, ніж ті, хто отримував оманливу інформацію в письмовій формі.
Другий експеримент показав, що ШІ може легко вставляти хибні спогади в історію, яку читають люди. Ба більше, за словами Патаранутапорна, люди, які отримували оманливі конспекти або чати зі ШІ, запам'ятовували менше реальної інформації з прочитаного та були менш впевненими у правдивій інформації, яку вони згадували.
Третє дослідження продемонструвало, як ШІ здатен нав’язувати фальшиві спогади за допомогою зображень та відео. Учасників експерименту розділили на 4 групи по 50 людей, а їхньою задачею було розглядали набір з 24 зображень. Це були як фото з новинних веб-сайтів, так і особисті світлини.
Під час повторного перегляду, кожній групі показали різні версії зображень. Одна група бачила ті самі фото. Друга група бачила версії, змінені за допомогою ШІ. Третя група бачила зображення, змінені ШІ, перетворені на короткі відео, згенеровані ШІ. Остання група переглядала повністю згенеровані ШІ зображення, які були перетворені на відео, згенеровані ШІ.
Важливо "Великий брат" став страшнішим: чому роман "1984" не втрачає своєї актуальності, з точки зору науки
Як пояснюють у виданні, учасників експерименту не намагались переконати, що контент, створений штучним інтелектом, є реальним. Спочатку їм сказали, що вони побачать контент, створений штучним інтелектом. В результаті навіть група, яка бачила оригінальні зображення, мала кілька хибних спогадів.
Однак найбільших спотворень пам’яті зазнала група, яка переглядала відео, згенеровані ШІ, на основі зображень, згенерованих ШІ. Решта учасників, які зазнали маніпуляцій зі штучним інтелектом, також мали хибні спогади.
В ході досліджень молодші люди продемонстрували вищу схильність до формування хибних спогадів. При цьому рівень освіти, схоже, не впливав на сприйнятливість дезінформації.
Нагадаємо, компанія зі штучного інтелекту Anthropic запропонувала спосіб стримування небажаних дій з боку ШІ.
Фокус також писав про те, як відрізнити повідомлення реальних людей від текстів, створених штучним інтелектом.