Google förklarar fel i Geminis bildgenerering
Undvek att generera bilder på vita människor
Förra veckan blev det lite rabalder i AI-världen då Googles AI-assistent Gemini började spotta ur sig bilder som kanske inte riktigt var det användaren hade tänkt sig som resultat. Framför allt så hade Gemini problem med att generera bilder på vita personer, något som ledde till bilder på svarta vikingar och tyska soldater från andra världskriget som såg ut som bilden här ovanför.
Google medgav snabbt att Gemini inte fungerade som det var tänkt och stängde även av möjligheten att generera bilder på människor med Gemini. Nu har Prabhakar Raghavan, Googles chef för Knowledge & Information, berättat lite mer om varför deras AI betedde sig som den gjorde:
"So what went wrong? In short, two things. First, our tuning to ensure that Gemini showed a range of people failed to account for cases that should clearly not show a range. And second, over time, the model became way more cautious than we intended and refused to answer certain prompts entirely — wrongly interpreting some very anodyne prompts as sensitive.
These two things led the model to overcompensate in some cases, and be over-conservative in others, leading to images that were embarrassing and wrong."
Google håller nu på och skruvar på Gemini så att den framöver ska kunna avbilda personer i historiskt kontext mer korrekt. Det ska även bli möjligt att specifikt be Gemini att avbilda vita människor, något som den vägrade innan möjligheten att generera bilder på människor stängdes av.
När Google kommer att öppna upp möjligheten att generera bilder på människor igen finns det än så länge inga uppgifter om.
Läs gärna våra regler!