Microsoft chce walczyć z cyberatakami wykorzystującymi sztuczną inteligencję za pomocą własnych obrońców AI. Firma zaprezentowała Project Perception, nowy agentowy system bezpieczeństwa, którego zadaniem jest wykrywanie słabych punktów, badanie zagrożeń i wzmacnianie zabezpieczeń z szybkością maszyny.
Argumentuje, że konwencjonalne narzędzia bezpieczeństwa, zbudowane w oparciu o założenie, że atakujący są ludźmi, nie są już w stanie utrzymać pokoju. Systemy autonomiczne generują teraz exploity szybciej, lepiej skalują kampanie i działają przez całą dobę, podczas gdy koszt przeprowadzenia ataku stale spada. Ten sam wzrost ryzyka związanego ze sztuczną inteligencją skłonił już prawodawców do przyznania uprawnień do awaryjnego wyłącznika po poważnym naruszeniu sztucznej inteligencji, a projekt Perception ma na celu przeciwdziałanie tej zmianie poprzez ciągłą analizę ryzyka w odniesieniu do tożsamości organizacji, punktów końcowych, aplikacji, danych, usług w chmurze i systemów sztucznej inteligencji.
System opiera się na trzech grupach wyspecjalizowanych agentów AI, które działają w zamkniętej pętli. Agenci zespołu czerwonego badają środowisko pod kątem ścieżek kompromisu, zanim znajdą je prawdziwi atakujący, agenci niebieskiego zespołu badają te ustalenia i wybierają, które z nich stwarzają znaczące ryzyko, a agenci zielonego zespołu zajmują się naprawami i wzmacnianiem zabezpieczeń. Microsoft twierdzi, że ludzcy obrońcy nadal wyznaczają cele i poręcze, a skuteczne działania wymagają zgody konkretnej osoby, a nie automatycznego strzelania.
Zamiast opierać się na jednym dużym modelu do każdego zadania, Project Perception korzysta z architektury wielomodelowej, która wybiera modele na podstawie jakości, niezawodności, szybkości i kosztów, łącząc modele pionierskie z mniejszymi przeszkolonymi do konkretnych zadań związanych z cyberbezpieczeństwem. Pierwszym z tych specjalnie zaprojektowanych modeli jest MAI-Cyber-1-Flash, obecnie zintegrowany z MDASH, wielomodelowym zespołem agentów wykrywających luki w oprogramowaniu. Microsoft twierdzi, że zaktualizowana konfiguracja uzyskała 96% punktów w CyberGym, branżowym benchmarku oceniającym sztuczną inteligencję pod kątem wykrywania luk w zabezpieczeniach, uzyskując 12 punktów procentowych przewagi nad Mythos, jednocześnie obniżając koszty o prawie połowę w porównaniu z istniejącą konfiguracją MDASH.
Agenci ci nie rozpoczynają każdego śledztwa od zera. Project Perception utrzymuje stale aktualizowany obraz aktywów, tożsamości, relacji, przeszłych incydentów, decyzji politycznych i aktywnych ryzyk organizacji, a następnie zapewnia każdemu agentowi dostęp do tego wspólnego kontekstu. Korzyścią powinno być ograniczenie czasu i mocy obliczeniowej poświęconej na zbieranie i rekonstruowanie informacji na podstawie surowych sygnałów bezpieczeństwa przed rozpoczęciem prawdziwej pracy.
Microsoft planuje także podłączyć Project Perception bezpośrednio do swoich produktów zabezpieczających. System pojawia się najpierw w programie Microsoft Defender, gdzie agenci przekształcają ustalenia w działania naprawcze, zamiast zrzucać kolejną stertę alertów na i tak już przeciążone zespoły ds. bezpieczeństwa, przy czym z czasem wsparcie rozszerza się na szersze portfolio.
Percepcja projektu wchodzi do publicznej wersji zapoznawczej 3 sierpnia z cenami opartymi na zużyciu mierzonymi w jednostkach obliczeniowych bezpieczeństwa, a bardziej wymagające zadania agentów będą wykonywać więcej z nich. Zakłada się, że połączenie wyspecjalizowanych modeli ze skoordynowanym zespołem autonomicznych obrońców może pomóc organizacjom nadążać za szybszymi, tańszymi i coraz bardziej bezobsługowymi atakami.