OpenAI använder GPT-4 för att bygga modereringssystem
Snart kanske en artificiell intelligens modererar era kommentarer
OpenAI skriver i ett blogginlägg att man håller på och utvecklar ett modereringssystem som baseras på deras senaste språkmodell GPT-4. Systemet skulle till exempel kunna användas för att moderera kommentarer i olika kommenteringssystem, inlägg i sociala medier och annat.
OpenAI säger själva att fördelen med ett AI-baserat modereringssystem jämfört med ett där människor modererar inlägg är att AI-systemet skulle kunna tränas upp mycket snabbare om vissa förändringar i modereringen behöver utföras. Man skriver bland annat:
" The cycle of policy updates – developing a new policy, labeling, and gathering human feedback – can often be a long and drawn-out process. GPT-4 can reduce this process down to hours, enabling faster responses to new harms."
Andra fördelar med ett AI-baserat modereringssystem är att detta kommer att vara konsekvent och inte baseras på eventuell fördomar eller annat som mänskliga moderatorer kan ha. En artificiell intelligens skulle inte heller behöva påverkas mentalt som kanske en del mänskliga moderatorer gör när de behöver läsa igenom näthat och andra vidrigheter som behöver modereras.
I videoklippet ovan snackar utvecklare från OpenAI lite mer om det GPT-4-baserade modereringssystemet som man håller på att utveckla.
Läs gärna våra regler!