Nowa przeglądarka ChatGPT Atlas OpenAI obiecuje automatyzować zadania, takie jak rezerwacja podróży i zamawianie artykułów spożywczych, działając zasadniczo jako osobisty agent AI w przeglądarce internetowej. Pomimo imponujących możliwości jest to powód do głębokiego zaniepokojenia ekspertów ds. bezpieczeństwa. Główną kwestią nie jest to, czy sztuczna inteligencja może wykonywać te zadania, ale to, jak bezpiecznie i niezawodnie to robi.
Niebezpieczeństwa związane z przekazywaniem kontroli AI
Nawet najbardziej zaawansowane systemy sztucznej inteligencji są niedoskonałe. Są podatni na „halucynacje” (generowanie błędnych informacji), uprzedzenia i podatność na manipulację. Nadanie sztucznej inteligencji pełnej kontroli nad przeglądarką internetową powoduje powstanie luk w zabezpieczeniach, takich jak ataki polegające na wstrzykiwaniu żądań (złośliwe instrukcje ukryte na stronach internetowych), przejmowanie schowka i niemożność odróżnienia witryn legalnych od fałszywych.
Rob T. Lee z Instytutu SANS zauważa, że wczesne testy wykazały już skuteczne exploity polegające na wstrzykiwaniu żądań i przekierowywaniu. OpenAI szybko reaguje na raporty, ale podstawowe ryzyko pozostaje. Problemem nie są tylko błędy; chodzi o to, że sztuczna inteligencja zasadniczo nie rozumie bezpieczeństwa tak jak ludzie.
Bitwa przeglądarek i motywy OpenAI
ChatGPT Atlas wpisuje się w rosnący trend, gdy giganci technologiczni spieszą się, aby zintegrować sztuczną inteligencję z przeglądarkami. Google Gemini w przeglądarce Chrome, tryb Copilot firmy Microsoft w Edge i Comet firmy Perplexity są pretendentami. Nie chodzi tylko o wygodę; chodzi o kontrolę nad danymi użytkowników. Im więcej osób korzysta z przeglądarek AI, tym więcej informacji te firmy zbierają, które mogą wykorzystać do targetowania reklam lub optymalizacji produktów.
Dla OpenAI, które wydało miliardy na infrastrukturę sztucznej inteligencji, ale walczy o rentowność, zdobycie udziału w rynku przeglądarek ma kluczowe znaczenie. Otwiera to nowe źródła dochodów, w tym reklamy, a potencjalnie nawet możliwość tworzenia treści o charakterze jawnym. Według GlobalStats firma posiada obecnie 73% rynku przeglądarek.
Jak działają ataki: awaria
Najpoważniejszym zagrożeniem jest wstrzykiwanie zapytań. Hakerzy mogą osadzać na stronach internetowych ukryte, złośliwe instrukcje, które przeglądarka AI wykona bez wiedzy użytkownika. Może to prowadzić do wycieku poufnych danych, zmian w systemie lub innych złośliwych działań.
Kolejną luką są ataki schowka : złośliwe linki mogą zostać skopiowane do schowka i czekać, aż przypadkowo wkleisz je do przeglądarki. Ataki te wykorzystują ludzką nieuwagę, co czyni je zaskakująco skutecznymi.
Serena Booth z Brown University ostrzega, że z czasem użytkownicy mogą zbytnio zaufać systemom AI i bezkrytycznie oceniać swoje działania.
Ryzyko dla przedsiębiorstw: wyciek danych jest nieunikniony?
Niebezpieczeństwo rozciąga się na miejsce pracy. Cyberhaven podaje, że 27,7% firm spotkało się już z co najmniej jednym pracownikiem pobierającym ChatGPT Atlas. Przeglądarki AI mogą automatyzować kradzież danych, potencjalnie kradnąc wrażliwe informacje o klientach, tajemnice handlowe, a nawet dane dotyczące bezpieczeństwa narodowego.
Obecne narzędzia bezpieczeństwa utrudniają identyfikację wrażliwych danych i śledzenie ich pochodzenia, co utrudnia zapobieganie wyciekom. Połączenie tej słabości z możliwościami automatyzacji przeglądarek AI tworzy burzę idealną.
Czy warto korzystać z Atlasu ChatGPT?
Do użytku osobistego należy zachować ostrożność. Unikaj synchronizowania wrażliwych danych (finansowych, medycznych) i wyłączaj niepotrzebne uprawnienia. Potraktuj to jako ciekawostkę, a nie substytut własnego osądu.
W pracy konsensus jest jasny: Testuj to tylko w odizolowanych środowiskach. Monitoruj całą aktywność i integruj ją w solidnych ramach zarządzania sztuczną inteligencją.
Ostatecznie pojawia się pytanie, czy korzyści przewyższają ryzyko. Simon Paulton z Tinuiti argumentuje, że większość użytkowników może samodzielnie szybciej poruszać się po Internecie, przez co Atlas jest na razie niepotrzebny. Korzyści są ograniczone, a potencjalne szkody pozostają znaczne.
Podsumowując, ChatGPT Atlas to spojrzenie w przyszłość przeglądania, ale ze znacznymi kompromisami w zakresie bezpieczeństwa. Dopóki OpenAI i inni programiści nie naprawią tych luk, jedynym rozsądnym podejściem jest ostrożne wdrożenie.
