OpenAI, yeni GPT-4o dil modelinin risklerini değerlendirdiğini ve güvenlik önlemlerini açıklayan bir araştırma belgesi yayınladı. GPT-4o, Mayıs ayında kullanıma sunulmuştu.
OpenAI, GPT-4o'nun potansiyel güvenlik açıklarını belirlemek için harici uzmanlar görevlendirdi. Bu ekip, ses klonlama, şiddet içerikli materyal üretme ve telif hakkı ihlali gibi riskleri inceledi. Araştırmanın sonuçları, GPT-4o'nun "orta düzey" riskli olarak nitelendirildiğini gösteriyor.
GPT-4o'nun, özellikle ikna kabiliyetinde, bazı metinlerin insan yazılarından daha etkili olabileceğini ortaya çıkaran bir risk faktörü bulunuyor. Ancak, genel olarak GPT-4o'nun ürettiği içeriklerin daha ikna edici olmadığı belirtiliyor.
Bu araştırma belgesi, OpenAI'nin son zamanlardaki güvenlik endişeleriyle ilgili eleştirilere yanıt olarak yayınlandı. Şirket, GPT-4o'nun kullanımdan önce risk değerlendirmesini yapması ve sistem kartını kamuya açıklamasıyla bu endişeleri gidermeye çalışıyor.
GPT-4o gibi güçlü modellerin yaygınlaşmasıyla, bağımsız denetimlerin önemi artıyor.