ChatGPT Sohbetlerinin Arkasındaki Gizli İnsan Eli: “Project Lily” İddiası
OpenAI’ın yapay zekâ sohbet robotu ChatGPT’nin arka planındaki gizlilik standartlarını tartışmaya açan yeni bir sızıntı, kullanıcı konuşmalarının üçüncü taraf taşeron çalışanlar tarafından incelendiğini ortaya koydu. 404 Media tarafından yürütülen araştırmaya göre, “Project Lily” adı verilen gizli bir operasyon kapsamında, kullanıcıların ChatGPT ile gerçekleştirdiği gerçek ve filtrelenmemiş diyaloglarının satır satır okunup analiz edildiği değerlendiriliyor. Modellerin güvenlik ve doğruluk filtrelerini iyileştirmeyi amaçlayan bu denetim süreci, kullanıcıların yapay zekâya emanet ettiği mahrem düşüncelerin insan gözünden tamamen uzak olduğu algısını ortadan kaldırıyor.
İnceleme sürecine dâhil edilen materyaller arasında sağlık verileri, hukuki danışma talepleri, kişisel paylaşımlar ve kurumsal yazışmalar gibi kullanıcı kaynaklı girdilerin bulunduğu bildiriliyor. OpenAI, denetlenen verilerin anonimleştirildiğini ve kullanıcı hesap bilgileriyle doğrudan eşleştirilmediğini belirtse de metin içeriklerinde geçen özel adlar, konumlar veya spesifik detaylar aracılığıyla dolaylı kimlik tespiti ihtimali gündeme geliyor. Veri etiketleme görevini üstlenen yüklenici firma çalışanlarının tabi olduğu gizlilik sözleşmeleri ve verilere erişim protokolleri de bu kapsamda değerlendiriliyor.
Sızıntı iddiaları, yapay zekâ modellerinin geliştirilmesinde kullanılan “insan denetimli” (human-in-the-loop) yöntemleri ve şirketlerin model güvenliği hedefleri ile veri işleme politikaları arasındaki ilişkiyi yeniden gündeme taşıdı. Uzmanlar, kullanıcıların sistemle paylaştığı verilerin hangi koşullarda ve hangi üçüncü taraflarca görüntülenebileceği konusunda aydınlatma metinlerinin ve kullanıcı onay mekanizmalarının sınırlarına dikkat çekiyor.