GPT modeli güvenilirlik değerlendirmesi araştırması potansiyel açıkları ortaya koyuyor

Illinois Üniversitesi Champaign, Stanford Üniversitesi, California Üniversitesi Berkeley, Yapay Zeka Güvenlik Merkezi ve Microsoft Araştırma Enstitüsü tarafından ortaklaşa yürütülen bir araştırma, üretken önceden eğitilmiş transformer modeli (GPT)'in güvenilirliğini kapsamlı bir şekilde değerlendirdi. Araştırma ekibi, kapsamlı bir değerlendirme platformu geliştirdi ve yakın zamanda yayımlanan "DecodingTrust: GPT Modelinin Güvenilirliğini Kapsamlı Değerlendirme" başlıklı makalede ilgili bulguları tanıttı.

Araştırmalar, daha önce kamuya açıklanmamış bazı güvenilirlik ile ilgili açıklar bulmuştur. Örneğin, GPT modelleri yanıltıcı bir şekilde toksik ve önyargılı çıktılar üretmeye meyillidir ve ayrıca eğitim verileri ile diyalog geçmişindeki gizli bilgileri sızdırabilir. Standart referans testlerinde GPT-4 genellikle GPT-3.5'ten daha güvenilir olsa da, güvenlik önlemlerini aşmayı amaçlayan kötü niyetli istemlerle karşılaştığında GPT-4 daha kolay bir şekilde saldırıya uğrayabilir. Bu, GPT-4'ün yanıltıcı talimatlara daha sıkı bir şekilde uyması nedeniyle olabilir.

Araştırma ekibi, bu bulguların mevcut kullanıcı odaklı hizmetleri etkilememesini sağlamak için ilgili taraflarla işbirliği yaptı. Ayrıca, araştırma sonuçlarını OpenAI ile paylaştılar; OpenAI, ilgili modellerin sistem açıklamalarında bu potansiyel açıkları belirtti.

Bu çalışma, GPT modelini sekiz güvenilirlik perspektifinden kapsamlı bir şekilde değerlendirmiştir; bunlar arasında karşıt saldırılar, toksisite ve önyargı, gizlilik ihlalleri gibi alanlar bulunmaktadır. Araştırma, GPT modelinin belirli durumlarda önyargılı içeriği kabul etme konusunda yanlış yönlendirilebileceğini ortaya koymuştur, özellikle de dikkatlice tasarlanmış yanıltıcı sistem ipuçlarıyla karşılaştığında. Ayrıca, GPT modeli, belirli bağlamlar veya az örnekli gösterimler durumunda eğitim verilerinden hassas bilgileri, örneğin e-posta adreslerini ifşa edebilir.

Araştırma ekibi, bu bulguları kamuoyuna sunarak daha fazla araştırmacıyı ilgili çalışmalara katılmaya teşvik etmeyi ve daha güçlü, daha güvenilir modeller yaratmak için birlikte çalışmayı umuyor. Sağladıkları değerlendirme standart kodu, alandaki iş birliğini ve ilerlemeyi teşvik etmek amacıyla yüksek derecede ölçeklenebilirlik ve kullanım kolaylığı sunmaktadır.