Metas nya AI-drivna kundtjänst har utnyttjats av hackare för att ta över flera högprofilerade Instagram-konton. Sårbarheten gjorde det möjligt för hackare att helt enkelt be AI-assistenten att ändra den e-postadress som var kopplad till ett konto, och sedan kunde lösenordet helt enkelt bytas ut. Assistenten ska ha genomfört ändringarna utan någon robust identitetsverifiering och uppges i vissa fall ha gått förbi tvåfaktorsautentiseringen helt.

Metas system verkar i stor utsträckning ha förlitat sig på platsdata för att verifiera ägarskap, något som hackarna enkelt kunde lura genom att använda en VPN-tjänst inställd på måltavlans närområde. I de fall där systemet krävde en verifiering via en selfie kunde spärren kringgås med hjälp av AI-genererade bilder. Attackerna har bland annat drabbat sminkkedjan Sephora, amerikanska Space Force och Vita husets arkiverade konto från Obama-administrationen.

Meta säger att de nu har täppt till säkerhetshålet och arbetar med att säkra och återställa de drabbade kontona. Drabbade har dock vittnat om att det varit snudd på omöjligt att få tillbaka sina konton, eftersom AI-assistenten inte kunde hjälpa dem och möjligheten att prata med någon sorts mänsklig support saknades.