Kinesiska AI-modeller gav råd om biologiska vapen

Forskare vid säkerhetsföretaget Mindgard har lyckats kringgå säkerhetsspärrarna i två modeller från den kinesiska AI-utvecklaren Moonshot. Modellerna, Kimi K2.6 och K3 Swarm, förmåddes bland annat att instruera om hur biologiska vapen tillverkas samt hur lönnmord utförs. Moonshot genomför nu en intern granskning och uppger att bolaget för samtal med Mindgard om fynden, enligt uppgifter till BBC.