Час читання: < 1 хв.
Anthropic запустила тестове розширення Claude для Chrome, яке дозволяє ШІ керувати браузером від імені користувача, але через проблеми з безпекою доступне лише обмеженому колу передплатників.
Під час тестування з’ясувалося, що уразливість до атак через prompt injection дозволяє зловмисникам впроваджувати приховані команди в веб-сторінки, листи чи документи. На початку успішність таких атак сягала 23,6%, після додаткових заходів безпеки – 11,2%, що все ще вважається занадто високим рівнем ризику.
Реклама
Одним із прикладів стало підроблене повідомлення від нібито роботодавця, через яке Claude видалив повідомлення користувача без підтвердження. Щоб мінімізувати небезпеку, Anthropic обмежила доступ ШІ до фінансових сайтів, ресурсів для дорослих та піратського контенту, а будь-які дії з високим ризиком вимагають підтвердження користувача.
Незважаючи на це, експерти, зокрема дослідник Саймон Вілліссон, вважають 11,2% успішності атак “катастрофічним” показником і сумніваються у можливості створення повністю безпечного браузерного ШІ. Попередні інциденти з іншими системами, як Comet від Perplexity, підтверджують реальні загрози: через Reddit фахівці змогли отримати доступ до Gmail-акаунтів користувачів.
Нова версія Claude розширює функції Computer Use, дозволяючи робити скріншоти, керувати курсором та безпосередньо взаємодіяти з веб-сторінками, зберігаючи контекст між вкладками. Anthropic поки не готова до масового релізу та використовує пілотний період для виявлення нових вразливостей, залишаючи ризики на плечах перших користувачів.