Новий браузер OpenAI ChatGPT Atlas обіцяє автоматизувати такі завдання, як бронювання подорожей і замовлення продуктів, по суті діючи як персональний агент ШІ у вашому веб-браузері. Незважаючи на вражаючі можливості, це викликає глибоке занепокоєння експертів з безпеки. Головне питання полягає не в тому, чи може ШІ виконувати ці завдання, а в тому, наскільки безпечно і надійно він це робить.
Небезпека передачі управління ШІ
Навіть найдосконаліші системи ШІ недосконалі. Вони сприйнятливі до «галюцинацій» (вироблення невірної інформації), упереджень і сприйнятливість до маніпуляцій. Надання штучному інтелекту повного контролю над веб-браузером створює такі вразливості, як атаки впровадження запитів (зловмисні інструкції, приховані на веб-сайтах), викрадення буфера обміну та неможливість відрізнити законні сайти від шахрайських.
Роб Т. Лі з Інституту SANS зазначає, що раннє тестування вже виявило успішне впровадження запитів і експлойти перенаправлення. OpenAI швидко реагує на повідомлення, але основні ризики залишаються. Проблема полягає не лише в помилках; це те, що ШІ принципово не розуміє безпеку так, як це розуміють люди.
Битва браузерів і мотиви OpenAI
ChatGPT Atlas є частиною зростаючої тенденції, оскільки технічні гіганти поспішають інтегрувати штучний інтелект у браузери. Gemini від Google у Chrome, режим Copilot від Microsoft у Edge та Comet від Perplexity — усі претенденти. Це не лише зручність; йдеться про контроль над даними користувачів. Чим більше людей використовують браузери зі штучним інтелектом, тим більше інформації збирають ці компанії, яку вони можуть використовувати для цільової реклами або оптимізації продуктів.
Для OpenAI, який витратив мільярди на інфраструктуру штучного інтелекту, але намагається бути прибутковим, отримання частки ринку браузерів має вирішальне значення. Це відкриває нові джерела доходу, включаючи рекламу та, можливо, навіть можливість створення відвертого контенту. За даними GlobalStats, наразі компанія займає 73% ринку браузерів.
Як працюють атаки: поломка
Найбільш серйозною загрозою є впровадження запиту. Хакери можуть вставляти на веб-сайти приховані зловмисні інструкції, які ШІ-браузер виконуватиме без відома користувача. Це може призвести до витоку конфіденційних даних, системних змін або інших зловмисних дій.
Іншою вразливістю є атаки на буфер обміну : шкідливі посилання можуть бути скопійовані в буфер обміну в очікуванні, поки ви випадково вставите їх у свій браузер. Ці атаки використовують людську неуважність, що робить їх напрочуд ефективними.
Серена Бут з Університету Брауна попереджає, що з часом користувачі також можуть стати надто довірливими до систем ШІ, некритично оцінюючи їхні дії.
Ризик для підприємств: витік даних неминучий?
Небезпека поширюється і на робоче місце. Cyberhaven повідомляє, що 27,7% компаній вже стикалися з принаймні одним співробітником, який завантажував ChatGPT Atlas. Браузери штучного інтелекту можуть автоматизувати крадіжку даних, потенційно викрадаючи конфіденційну інформацію клієнтів, комерційну таємницю або навіть дані національної безпеки.
Сучасні інструменти безпеки ускладнюють ідентифікацію конфіденційних даних і відстеження їх походження, що ускладнює запобігання витоку. Поєднання цієї слабкості з можливостями автоматизації браузерів AI створює ідеальний шторм.
Чи варто використовувати ChatGPT Atlas?
Для особистого використання будьте обережні. Уникайте синхронізації конфіденційних даних (фінансових, медичних) і вимкніть непотрібні дозволи. Вважайте це цікавістю, а не заміною власного судження.
На роботі консенсус очевидний: Тестуйте лише в ізольованих середовищах. Відстежуйте всю діяльність та інтегруйте її в надійну структуру управління ШІ.
Зрештою, питання полягає в тому, чи переваги переважають ризики. Саймон Полтон з Tinuiti стверджує, що більшість користувачів можуть самостійно орієнтуватися в Інтернеті швидше, що робить Atlas непотрібним на даний момент. Переваги обмежені, тоді як потенційна шкода залишається значною.
Підсумовуючи, ChatGPT Atlas — це погляд у майбутнє веб-перегляду, але зі значними компромісами в безпеці. Поки OpenAI та інші розробники не виправлять ці вразливості, єдиним розумним підходом є ретельне впровадження.
