OpenAI har under de senaste månaderna identifierat och stängt ner över 40 nätverk som har missbrukat deras AI-modeller inklusive ChatGPT för olika typer av skadlig verksamhet. Den detaljerade rapporten ”Disrupting Malicious Uses of AI: October 2025” erbjuder insikter i hur dessa nätverk opererade, vilka typer av angrepp de utförde samt hur OpenAI arbetar för att motverka dessa hot.
Gemensamt för alla fall är att hotaktörerna i huvudsak integrerar AI i redan existerande arbetsflöden snarare än skapar helt nya kapaciteter: modellerna har vägrat direkt skadliga förfrågningar och inte tillhandahållit banbrytande offensiv teknik.
Istället har AI använts för att öka effektiviteten: skriva trovärdigare nätfiskemejl, översätta bedrägeritexter, ta fram videomanus för desinformation, optimera kod för skadlig programvara samt undersöka hur man automatiskt kan skapa mållistor för massutskick.
Rapporten visar också att vanliga användare i hög utsträckning vänder sig till ChatGPT för att identifiera och undvika bedrägerier uppskattningsvis tre gånger oftän än vad modellen används för att genomföra dem.
Mer info:
OpenAI blog – disrupting-malicious-uses-of-ai-october-2025
PDF Rapporten – disrupting-malicious-uses-of-ai-october-2025.pdf
