Rząd USA ostrzega, że sztuczna inteligencja może stanowić „zagrożenie do stopnia wyginięcia” dla ludzi

Nowy raport zamówiony przez Departament Stanu USA ostrzega, że wykładniczy rozwój sztucznej inteligencji może stanowić poważne ryzyko dla bezpieczeństwa narodowego, a nawet ludzkości.

ZOBACZ GALERIĘ – 2 ZDJĘCIA

Nowy raport zatytułowany „Plan działania mający na celu zwiększenie bezpieczeństwa i ochrony zaawansowanej sztucznej inteligencji„zaleca posunięcie rządu USA”szybko i zdecydowanie„ze środkami wykonawczymi, które utrudniają rozwój systemów opartych na sztucznej inteligencji, nawet do tego stopnia, że potencjalnie ograniczą moc obliczeniową wykorzystywaną do uczenia takich modeli. W raporcie stwierdza się dalej, że jeśli te utrudniające środki nie zostaną wdrożone, istnieje ryzyko, że szansa, że sztuczna inteligencja ogólna (AGI) stanie się „zagrożenie dla gatunku ludzkiego na poziomie wyginięcia.„

W raporcie Departamentu Stanu USA wzięło udział ponad 200 ekspertów w tej dziedzinie, w tym urzędnicy z firm będących dużymi graczami w grze AI, takich jak OpenAI, Meta, Google, Google DeepMind, a także pracownicy rządowi. W dalszej części raportu zaleca się, aby rząd USA wprowadził ograniczenia dotyczące mocy obliczeniowej, jaką może jednocześnie posiadać dana strona opracowująca sztuczną inteligencję, jednocześnie wymagając od firm zajmujących się sztuczną inteligencją zwrócenia się do rządu USA o pozwolenie na szkolenie dowolnego nowego modelu sztucznej inteligencji.

„Powstanie zaawansowanej sztucznej inteligencji i AGI [artificial general intelligence] ma potencjał destabilizacji bezpieczeństwa światowego w sposób przypominający wprowadzenie broni nuklearnej,„ – czytamy w raporcie

Co zaskakujące, w raporcie zalecono, aby rząd USA zakazał nielegalnego udostępniania kodu źródłowego dowolnego potężnego modelu sztucznej inteligencji, ponieważ informacje zawarte w tych modelach mogą skutkować „potencjalnie niszczycielskie skutki dla bezpieczeństwa światowego.„

„Uważam, że przyjęcie tego zalecenia przez rząd Stanów Zjednoczonych jest bardzo mało prawdopodobne,Greg Allen, dyrektor Wadhwani Center for AI and Advanced Technologies, powiedział TIME