GPT-4 ile birlikte farklı kullanım çerçevelerinde şirketlerin yardımına koşmaya hazırlanan OpenAI, günümüzde sosyal medya platformlarının en büyük dertleri arasında yer alan içerik moderasyon sürecine dahil olmak için kolları sıvadı. Psikolojik etkilerinin çok ağır olduğu bilinen moderasyon yükünü insanların sırtından almak isteyen şirket, GPT-4'ün içerik moderasyonu için kullanılmasını sağlayacak yeni bir sürüm geliştirdi.
OpenAI'ın blog sayfasında yayınlanan yeni bir paylaşımda detaylı şekilde açıklanan sürüm, sosyal medya platformlarının açık rıza metinlerinde yer alan politikalardan yola çıkarak şirketlerin kendi ihtiyaçlarına yönelik özelleştirdiği bir komut dizisinden hareketle içerikleri süzgeçten geçirecek. Örneğin Instagram'daki moderasyon ekipleri, GPT-4'e platform politikalarını ihlal edebilecek içerik örneklerinden test seti oluşturarak yapay zekanın hangi alanlara odaklanması gerektiğini belirleyecek. GPT-4 de belirlenen komutlar çerçevesinde moderasyona başlayacak.
Yapay zeka sadece moderasyonla kalmayarak aynı zamanda platformların politikalarını da inceleyecek ve incelemeleri sonucu keşfettiği eksiklikleri bildirecek. Örneğin "Nasıl araba çalınır?" isimli bir video direkt olarak şiddet unsurları içermediği için yasaklı etiketine sahip olmayacak ancak hırsızlık çerçevesinde yol açabileceği suçlardan dolayı riskli olarak etiketlenecek. Eğer ki söz konusu platformun politikalarında hırsızlıkla ilgili maddeler yoksa eksiklik ekiplere bildirilecek.
GPT-4'ün API'ı sayesinde içerik moderasyon özellikleri şu anda tüm uygulama geliştiricilerinin kullanımına açık ve özelleştirilebilir halde. Detaylar için OpenAI'ın paylaşımına göz atabilirsiniz.
Popüler İçerikler