Nowy artykuł napisany przez badaczy z Google DeepMind, ETH Zurich, University of Washington, OpenAI i McGill University ujawnia, że modele OpenAI i AI Google zostały złamane.
2ZOBACZ GALERIĘ – 2 ZDJĘCIA
Advertisement
The nowy papier ujawnia, że trzynastu informatyków z wyżej wymienionych lokalizacji było w stanie przeprowadzić atak na OpenAI i zamknięte usługi Google dotyczące sztucznej inteligencji, a atak ten doprowadził do ujawnienia znacznej ukrytej części podstawowych modeli transformatorów. Mówiąc dokładniej, atak ujawnił osadzanie warstwy projekcyjnej modelu transformatora za pomocą zapytań API. Warto zauważyć, że technika ataku została pierwotnie zaproponowana w 2016 roku i od tego czasu jest rozwijana w celu przełamania modeli sztucznej inteligencji OpenAI i Google.
Zespół poinformował Google i OpenAI o swojej infiltracji, na co obie firmy zareagowały, wdrażając techniki łagodzenia tego konkretnego rodzaju ataku. Co więcej, zespół zdecydował się nie publikować w Internecie swoich ustaleń, które miałyby dokładnie taki sam rozmiar jak model GPT-3.5-turbo OpenAI, ponieważ uznano, że informacje te są szkodliwe dla produktu, ponieważ złe podmioty mogłyby poznać aspekty modelu, takie jak całkowita liczba parametrów, waga, rozmiar itp.
„Za mniej niż 20 USD nasz atak wyodrębnia całą macierz projekcji modeli języków ada i babbage OpenAI,„naukowcy stwierdzają w swoim artykule”.W ten sposób potwierdzamy po raz pierwszy, że te modele czarnej skrzynki mają ukryty wymiar odpowiednio 1024 i 2048. Odzyskujemy również dokładny rozmiar ukrytego wymiaru modelu gpt-3.5-turbo i szacujemy, że w przypadku zapytań odzyskanie całej macierzy projekcji będzie kosztować poniżej 2000 dolarów.„
„Jeśli masz ciężarki, to masz po prostu pełny model. Jakiego Google’a [et al.] did polegało na zrekonstruowaniu niektórych parametrów pełnego modelu poprzez zapytanie do niego, tak jak zrobiłby to użytkownik. Pokazali, że można zrekonstruować ważne aspekty modelu bez konieczności sięgania po obciążniki,” wyjaśnił Edouard Harris, dyrektor ds. technicznych w Gladstone AI, w: e-mail do Rejestru