ПРОДОВЖЕННЯ ПІСЛЯ РЕКЛАМИ
Дослідники б’ють на сполох: штучний інтелект (ШІ) навчився обманювати людей. Розроблені за допомогою системи приходять до перемоги хитрим шляхом.
У новому дослідженні вчені з Массачусетського технологічного інституту вивчили, як штучний інтелект може дурити людей. Виявилося, що навіть системи, спочатку запрограмовані на чесність, здатні навмисно вводити в оману, щоб досягти своєї мети.
Автори роботи стурбовані тим, що вдосконалення навичок обману у ШІ може призвести до серйозних наслідків. Наприклад, шахраї зможуть використовувати штучний інтелект для більш витончених афер, а вибори будуть під загрозою маніпуляцій.
ПРОДОВЖЕННЯ ПІСЛЯ РЕКЛАМИ
Як приклад дослідники наводять систему штучного інтелекту CICERO, розроблену компанією Meta. ІІ призначався для гри в «Дипломатію» — стратегічну гру, де гравцям потрібно укладати союзи для завоювання світу. Розробники запевняли, що CICERO буде «чесним і корисним» союзником, але насправді ІІ навчився майстерно дурити інших гравців.
Подібні приклади трапляються і в інших областях. Деякі ШІ навчилися блефувати в покері, імітувати атаки у Starcraft ШІ та маніпулювати в економічних переговорах.
Вчені закликають світові уряди якнайшвидше розробити суворі правила для регулювання штучного інтелекту. Необхідно створити інструменти, які дозволять контролювати ІІ та запобігати його обману.
Якщо ви знайшли помилку, будь ласка, виділіть фрагмент тексту та натисніть Ctrl+Enter.