VirusTotal och Hugging Face har bildat ett samarbete för att förbättra säkerheten för AI-modeller och relaterade filer genom att integrera VirusTotals säkerhetsanalyser direkt i Hugging Faces plattform.
Detta samarbete är av stor betydelse, eftersom Hugging Face Hub nu kontinuerligt skannas för att identifiera potentiellt skadliga eller komprometterade filer bland de över 2,2 miljoner offentliga modell- och datasetrepositorier som finns tillgängliga.
När du besöker en fil på Hugging Face Hub körs nu en automatisk säkerhetskontroll i bakgrunden. Systemet jämför filens hash-värde mot VirusTotals hotdatabas och visar resultatet direkt i gränssnittet. Om en fil tidigare flaggats som skadlig får du se detektionsantalet och kan klicka vidare till en fullständig rapport.
Det smarta är att ingen faktisk fildata skickas till VirusTotal. Istället används SHA256-hashen som en fingeravtryck för att identifiera filer som redan analyserats, vilket skyddar både användarnas integritet och uppfyller Hugging Faces dataskyddsprinciper.
Varför det behövs
AI-modeller är komplexa digitala filer som kan gömma faror i form av manipulerade modellvikter, osäkra beroenden eller injicerad skadlig kod. Eftersom Hugging Face växt till världens största öppna plattform för maskininlärningsmodeller blev behovet av extra säkerhetslager kritiskt.
