OpenAI, ChatGPT’yi geniş çaplı gözetim sistemleri için kullanmak isteyen Çinli hesapları engelledi
OpenAI’ın 7 Ekim’de yayımladığı rapora göre, Çin hükûmetiyle bağlantılı olduğu düşünülen bazı kullanıcılar, ChatGPT’yi geniş çaplı gözetim sistemleri için proje teklifi hazırlamak amacıyla kullanmaya çalıştı. Aynı kullanıcıların “aşırılık yanlısı söylemleri” tespit etmek için sosyal medya hesaplarını tarayan başka bir sistemin tanıtımı için de modelden yardım istediği belirtildi.
Rapor, giderek güçlenen yapay zekâ teknolojilerinin baskı ve gözetim mekanizmalarını “daha verimli” hâle getirmek için kullanılması riskine dikkat çekiyor. OpenAI bu bulguların “otoriter yönetimlerin yapay zekânın kötüye kullanma biçimlerine dair ender bir tablo teşkil ettiğini” ifade etti.
OpenAI’nin kıdemli araştırmacısı Ben Nimmo, yaptığı açıklamada şunları söyledi: “Çin Halk Cumhuriyeti, yapay zekâyı geniş ölçekli gözetim ve denetim faaliyetlerinde daha etkin kullanabilmenin yollarını arıyor. Çin Komünist Partisi’nin kendi halkını izlemeye başlaması yeni bir şey değil ancak şimdi yapay zekâ da ortaya çıkınca ‘belki bu teknolojiyle kitlesel gözetimi biraz geliştirebiliriz’ diye düşünüyorlar.”
Raporda yer alan vakalardan birinde, Çin hükûmetiyle bağlantılı olduğu düşünülen bir ChatGPT kullanıcısının, Uygur Türklerini “yüksek riskli” olarak sınıflandırdığı belirtildi. Kullanıcının, Uygur Türklerinin seyahat hareketliliğini polis dosyalarıyla karşılaştırarak erken uyarı veren bir sistemin proje taslağını hazırlamada modelden yardım istediği ifade edildi.