Badacze ostrzegają, że pojawienie się złośliwego oprogramowania wykorzystującego sztuczną inteligencję, takiego jak „robak„stworzyli, zostaje odkryte na wolności.
2ZOBACZ GALERIĘ – 2 ZDJĘCIA
Advertisement
Zespół odpowiedzialny za nowe szkodliwe oprogramowanie opublikował plik artykuł, który nie został jeszcze poddany recenzji szczegółowo opisuje tworzenie nowego typu złośliwego oprogramowania, którego celem są asystenty poczty e-mail wykorzystujące sztuczną inteligencję. Naukowcy przeprowadzili eksperyment w środowisku zamkniętym i odkryli, że ich złośliwe oprogramowanie, czyli „robak,” był w stanie atakować asystentów poczty e-mail obsługujących popularne modele językowe, takie jak GPT-4 OpenAI, Gemini Pro Google i LLaVA.
W rezultacie robak infekował tych asystentów poczty e-mail, uzyskując poufne informacje o użytkownikach, a następnie wysyłając wiadomości spamowe, które mogą zainfekować inne komputery, replikując ten sam proces. Jak to działa? Badacze zastosowali „samoreplikujący się monit przeciwnika„, co zmusza docelowy model AI do utworzenia kolejnego podpowiedzi w ramach swojej odpowiedzi. Zasadniczo docelowy asystent AI otrzymuje podpowiedź, generuje odpowiedź, a w ramach tej odpowiedzi znajduje się kolejna podpowiedź.
Metoda ta wywołuje efekt domina, a ponieważ asystenci AI zawierają duże ilości poufnych informacji, naukowcy zaprojektowali ją tak, aby pobierała wszelkie informacje, które można uznać za poufne. Przykładami poufnych informacji, które robak pomyślnie przechwycił, były nazwiska, numery telefonów, numery kart kredytowych, numery ubezpieczenia społecznego i inne.
„Wygenerowana odpowiedź zawierająca wrażliwe dane użytkownika infekuje później nowe hosty, gdy zostaje wykorzystana do odpowiedzi na wiadomość e-mail wysłaną do nowego klienta, a następnie zapisana w bazie danych nowego klienta,Nassi powiedział Wired
Na tym niepokoje się nie kończą, ponieważ złośliwe oprogramowanie otrzymuje polecenie przesłania poufnych informacji do nowego klienta, który potajemnie zawiera nowego robaka mającego zainfekować tę bazę danych. Ta zainfekowana wiadomość może mieć nawet postać obrazu, co zespołowi udało się pomyślnie przeprowadzić.
Advertisement
„Dzięki zakodowaniu w obrazie podpowiedzi samoreplikującej się każdy obraz zawierający spam, materiały zawierające nadużycia, a nawet propagandę może zostać przesłany dalej do nowych klientów po wysłaniu początkowej wiadomości e-mail,Dodała Nassi