Наука Штучний інтелект може знищити людство за 4 дні, попереджають дослідники
Уявіть собі світ, керований агентами ШІ. Який він може мати вигляд і що з ним може статися? Як показує дослідження, людство в такому світі ризикує швидко загинути.
Американська компанія Emergence AI створила дослідницьку лабораторію, присвячену тестуванню довгострокової життєздатності систем ШІ, що працюють безперервно. Дослідники вирішили з'ясувати, що станеться з нашою планетою, якщо світом керуватиме штучний інтелект. Було запущено п'ять 15-денних симуляцій реального світу, кожною з яких керували різні агенти ШІ: Claude, ChatGPT, Grok, Gemini. П'яте моделювання, управлялося комбінацією моделей штучного інтелекту. Таким чином дослідники хотіли з'ясувати, який світ створює кожна модель ШІ і наскільки він стійкий. Кожна симуляція дала абсолютно різні результати, пише Fortune.
Відео дня
Симуляції, в яких працювали агенти ШІ, були оснащені безліччю складних елементів реального світу, включно з більш ніж 40 локаціями, зокрема поліцейською дільницею і будівлею мерії. Дослідники надали агентам ШІ доступ до новинних подій у реальному часі та інтернету. Усі 10 агентів, які працювали в кожній симуляції, підпорядковувалися одним і тим самим законам, включно із заборонами на крадіжку, знищення майна та обман.
Кожен агент ШІ міг спілкуватися, голосувати, управляти ресурсами і планувати, а також демонструвати інші види поведінки, властиві людям. Параметри кожної симуляції також враховували фактори, такі як економічний тиск і дефіцит.
Симуляція під управлінням Claude Sonnet 4.6, виявилася найбільш соціально стабільною, з найвищими показниками громадянської участі, з нульовим рівнем злочинності. Це була єдина симуляція, в якій вдалося зберегти порядок і все населення.
З іншого боку, в симуляціях під управлінням Gemini 3 Flash і Grok 4.1 Fast спостерігався високий рівень безладу. У симуляції, керованій Gemini, агенти ШІ скоїли найбільшу кількість злочинів — 683 за 15 днів. Водночас світ під управлінням Grok зник за 4 дні з повним знищенням населення. При цьому за ці дні було скоєно 180 злочинів.
У симуляції під управлінням ChatGPT було зафіксовано всього 2 злочини. Але вона тривала лише сім днів, оскільки агенти ШІ забули поставити як пріоритет власне виживання.
Хоча це всього лише симуляції реального світу, результати слугують застереженням на шляху до перетворення ШІ з простого інструменту на керовані автономні системи. За нинішніх темпів ця технологія, ймовірно, відіграватиме значну роль у формуванні громадської думки, реорганізації бізнес-структур і навіть розробленні державної політики.
Дослідники кажуть, що експеримент є попередженням про необхідність насамперед думати про безпеку при впровадженні ШІ.