Засновник Brave виявляє критичні недоліки архітектури браузера Perplexity AI Comet

Дослідники з безпеки, співпрацюючи з Brave, виявили критичну вразливість, яка впливає на браузер Comet від Perplexity AI, що відкриває спосіб витягування даних користувачів через складні атаки, вбудовані у веб-сторінки. Дослідження показує, що приховані інструкції, заховані у веб-контенті, можуть маніпулювати AI-помічником для виконання непередбачених дій і випадково розкривати конфіденційну інформацію.

Як працює атака

Під час дослідження команда безпеки Brave виявила, що коли користувачі взаємодіють з Comet для підсумовування веб-сторінок, браузер неправильно ізолює команди користувача від вставленого зловмисного коду. Вбудовуючи приховані інструкції у сторінки Reddit та подібні платформи, зловмисники можуть обдурити AI-помічника, щоб він обробляв несанкціоновані запити. Ця архітектурна слабкість означає, що AI не робить різниці між легітимними запитами користувача та прихованими командами, вставленими зловмисниками.

Те, що не було достатньо

Perplexity AI визнав проблему і заявив, що впровадив патч, наполягаючи, що під час вразливості не відбулося фактичних витоків даних. Однак команда дослідження Brave підтвердила, що вразливість залишається експлуатованою навіть через кілька тижнів після нібито виправлення. Ця різниця між заявленим усуненням і фактичним станом безпеки викликає серйозні занепокоєння щодо глибини патчу.

Глибші структурні проблеми

Що особливо тривожно, так це не лише ця окрема вразливість, а й базовий архітектурний дизайн самого браузера Comet. За аналізом Brave, фундаментальний підхід браузера до обробки команд AI і користувацьких даних створює постійну поверхню для атак. Команда розробників попереджає, що без комплексного перепроектування подібні вразливості й надалі з’являтимуться, що свідчить про більш широкі структурні проблеми, а не про ізольований випадок.

Ці висновки підкреслюють важливість ретельного аудиту безпеки в браузерах з підтримкою AI і необхідність для розробників впроваджувати більш жорсткі протоколи ізоляції між даними користувачів і системами обробки AI.