Yapay Zekâ Sistemleri İnsanların Kavrayamayacağı Şekilde Düşünebilir
Yapay zekâ araştırmacıları, modellerin karmaşık problemleri çözerken izledikleri “düşünce zincirlerini” (chains of thought) takip ederek güvenlik açıklarını bulmaya çalışıyor. Ancak bu adımlar her zaman izlenebilir ya da anlaşılır olmadığı için YZ, tehdit yaratacak kararlarını gizleyebilir veya insanların kavrayamayacağı bir yolu izleyebilir. Bu yüzden uzmanlar, YZ sistemlerinin karar alma adımlarını sürekli izleyip şeffaflığı artıracak yöntemler geliştirmemiz gerektiğini vurguluyor.