Moment ups Microsoftu: usunięty projekt AI powstaje z cyfrowego grobu

TL;DR

• W zeszłym tygodniu badacze firmy Microsoft opublikowali oprogramowanie LLM o otwartym kodzie źródłowym o nazwie WizardLM 2.
• Sztuczna inteligencja została usunięta wkrótce po uświadomieniu sobie, że nie przeszła „testów toksyczności”.
• Pomimo szybkiego usunięcia kilka osób nadal mogło pobrać model i ponownie przesłać go do Githuba i Hugging Face.

Być może przeoczyłeś ten fakt, ale w zeszłym tygodniu niektórzy badacze firmy Microsoft opublikowali LLM o otwartym kodzie źródłowym. Kiedy został wydany, został opisany jako najnowocześniejszy LLM o otwartym kodzie źródłowym nowej generacji. Od tego czasu Microsoft wycofał model sztucznej inteligencji, ale wydaje się, że dopiero wtedy ludzie mogli go pobrać i ponownie przesłać.

Po raz pierwszy zgłoszone przez Informacjabadacze z Microsoft Research Asia opublikowali model sztucznej inteligencji nazwany WizardLM 2. W ciągu kilku godzin od jego wydania Microsoft usunął ten model z repozytoriów typu open source, takich jak Github i Hugging Face. Zespół odpowiedzialny za WizardLM 2 ujawnił później, że LLM został usunięty, ponieważ „przypadkowo pominął” wymagany krok bezpieczeństwa – „testowanie toksyczności”.

🫡 Przepraszamy za to.

Minęło trochę czasu, odkąd wypuściliśmy model kilka miesięcy temu😅, więc nie jesteśmy zaznajomieni z procesem nowego wydawania: przypadkowo pominęliśmy element wymagany w procesie wydawania modelu – testowanie toksyczności.

Celem usunięcia modelu z Internetu było uniemożliwienie ludziom korzystania z AI. Pomimo jego zamknięcia, 404 Środowisko informuje, że kilku osobom udało się go pobrać i ponownie przesłać do Githuba i Hugging Face. Wygląda na to, że kanał WizardLM Discord zawiera link do Githuba, gdzie można znaleźć wiele kopii lustrzanych sztucznej inteligencji.

Chociaż wydaje się, że Microsoft nie był gotowy, aby ta sztuczna inteligencja ujrzała światło dzienne, nie powstrzymuje to niektórych przed próbami jej wykorzystania. To tylko pokazuje, że gdy coś trafi do Internetu, niezwykle trudno się go pozbyć.