削除された AI プロジェクトがデジタル墓場から復活

TL;DR

• 先週、Microsoft の研究者は、WizardLM 2 と呼ばれるオープンソース LLM をリリースしました。
• AIは「毒性試験」を受けていないことが判明した直後に削除された。
• すぐに削除されたにもかかわらず、数人がモデルをダウンロードして Github と Hugging Face に再アップロードすることができました。

見逃しているかもしれませんが、一部の Microsoft 研究者は先週、オープンソース LLM を発表しました。 リリースされたときは、次世代のオープンソースの最先端 LLM であると説明されていました。 その後、Microsoft は AI モデルを削除しましたが、人々がダウンロードして再アップロードできるようになるまではなかったようです。

最初に報告したのは 情報、Microsoft Research Asia の研究者らは、WizardLM 2 と呼ばれる AI モデルを公開しました。リリースから数時間以内に、Microsoft はこのモデルを Github や Hugging Face などのオープンソース リポジトリから削除しました。 WizardLM 2 の開発チームは後に、必要な安全手順である「毒性試験」を「誤って怠った」ため、LLM が削除されたことを明らかにしました。

🫡 申し訳ございません。

数か月前にモデルをリリースしてからかなり時間が経ちました😅、そのため、今は新しいリリースのプロセスに慣れていません。モデルのリリース プロセスで必要な項目、つまり毒性テストを誤って見逃していました。

インターネットからモデルを削除する目的は、人々が AI を使用できないようにすることでした。 閉店したにも関わらず、 404 メディア 数人がそれをダウンロードし、Github と Hugging Face に再アップロードできたと報告しています。 また、WizardLM Discord チャネルには、AI の複数のミラーが見つかる Github リンクが含まれているようです。

Microsoft はこの AI が日の目を見る準備ができていないようですが、それでもこの AI を使おうとする人がいるのを止めることはできません。 一度何かがインターネット上に流出すると、それを取り除くのは非常に困難であることがわかります。