Yapay zekâ sistemleri kişisel veriyi yalnızca analiz etmez; veriyi sınıflandırır, ilişkilendirir, tahmin üretir ve bazen karar süreçlerini etkiler. Bu nedenle risk, bir modelin yanlış cevap vermesinden ibaret değildir. Bir çalışanın müşteri verisini genel amaçlı bir yapay zekâ aracına yüklemesi, eğitim verisinin gereğinden uzun saklanması veya bir tedarikçinin veriyi farklı bir ülkedeki hizmet altyapısına aktarması aynı zincirin parçalarıdır. Kurumlar çoğu zaman modelin doğruluğunu ölçerken verinin hangi amaçla toplandığını, kimlerin eriştiğini ve çıktıların nasıl kullanıldığını ikinci plana atar. Oysa kişisel veri bakımından kritik soru, sistemin ne kadar akıllı olduğu değil, verinin neden ve hangi sınırlar içinde işlendiğidir. Sağlam yaklaşım, yapay zekâ projesini bir yazılım kurulumu olarak değil, uçtan uca bir veri işleme faaliyeti olarak yönetmektir.
Risk modelin içinde değil, veri yaşam döngüsündedir
Yapay zekâ ile ilgili kişisel veri riski genellikle üç noktada belirginleşir: girdiler, model geliştirme süreci ve çıktılar. Kullanıcıların komut alanlarına isim, e-posta adresi, sağlık bilgisi, müşteri yazışması veya çalışan performans notu girmesi, farkında olunmadan yeni bir veri işleme faaliyeti yaratabilir. Bu veriler hizmet sağlayıcının kayıtlarında tutuluyor, kalite amacıyla inceleniyor veya sonraki model geliştirme çalışmalarında kullanılıyorsa kurumun kontrol alanı genişler.
İkinci risk, model eğitiminde kullanılan veri setidir. Büyük veri hacmi, hukuka uygunluk anlamına gelmez. Verinin geçmişte meşru bir amaçla toplanmış olması, aynı verinin personel değerlendirmesi, dolandırıcılık tespiti veya müşteri profillemesi için otomatik olarak kullanılabileceği anlamına gelmez. Amaçla sınırlılık, veri minimizasyonu ve saklama süresi ilkeleri burada teknik tercihler kadar önemlidir. Eğitim için kişisel veri gerçekten gerekli değilse anonimleştirme veya sentetik veri tercih edilmelidir. Takma adlandırma ise veriyi anonim hale getirmez; anahtar veya ek bilgi aracılığıyla kişi yeniden belirlenebiliyorsa kişisel veri niteliği devam eder.
Üçüncü risk, çıktının kendisidir. Bir yapay zekâ sistemi kişiyi yanlış biçimde riskli, verimsiz, güvenilmez veya uygun olmayan aday olarak sınıflandırabilir. Çıktı doğrudan karar vermese bile insan kararını güçlü biçimde etkileyebilir. Bu yüzden “son kararı insan veriyor” ifadesi tek başına yeterli bir güvence değildir. İnsan gerçekten sonucu sorgulayabiliyor, gerekçeyi anlayabiliyor ve gerektiğinde değiştirebiliyorsa denetim vardır; yalnızca ekranda görünen skoru onaylıyorsa insan, otomatik sürecin biçimsel bir parçasına dönüşür.
KVKK açısından ilk kontrol: amaç, gereklilik ve şeffaflık
KVKK çerçevesinde kurumun önce veri sorumlusu veya veri işleyen rolünü netleştirmesi gerekir. Bulut tabanlı bir yapay zekâ hizmeti satın almak, sorumluluğu otomatik olarak hizmet sağlayıcıya devretmez. Kurum; hangi veriyi, hangi hukuki sebebe dayanarak, hangi amaçla ve ne kadar süreyle işlediğini açıklayabilmelidir. Özel nitelikli kişisel veriler söz konusu olduğunda güvenlik, erişim ve hukuki dayanak kontrolleri daha sıkı tasarlanmalıdır.
Bu değerlendirme yalnızca bir gizlilik bildirimi hazırlamakla tamamlanmaz. Projenin başında kısa ama kanıtlanabilir bir veri ve kullanım senaryosu kaydı oluşturulmalıdır. Kayıtta veri kategorileri, veri sahipleri, işleme amacı, modelin ürettiği çıktı, erişim yetkileri, saklama süresi, tedarikçiler, olası yurt dışı aktarımı ve insan müdahalesinin hangi aşamada gerçekleştiği bulunmalıdır. Bir denetçi veya olay inceleme ekibi için önemli olan, kurumun “riskleri değerlendirdik” demesi değil, hangi riski hangi kontrolle yönettiğini gösterebilmesidir.
Yapay zekâ sistemi kişileri profilliyor, işe alım veya kredi gibi önemli sonuçları etkiliyor ya da geniş ölçekte davranış tahmini yapıyorsa, geleneksel bir güvenlik kontrol listesi yetersiz kalabilir. Veri koruma etki değerlendirmesi yapılması, ilgili kişilerin bilgilendirilmesi ve otomatik kararların insan tarafından gözden geçirilmesi bu tür senaryolarda özellikle önem taşır. Avrupa Birliği ile bağlantılı faaliyetlerde GDPR hükümleri de gündeme gelebilir; uygulanacak yükümlülükler kurumun yerleşimine, veri sahiplerine ve işleme faaliyetinin niteliğine göre değerlendirilmelidir.
Uygulama: yapay zekâ projesini kontrollü bir sürece dönüştürmek
İyi bir kontrol tasarımı, modeli seçmeden önce başlar. İlk adım, kullanım senaryosunu sınırlamaktır. “Çalışan verimliliğini ölçmek” gibi geniş bir hedef yerine “müşteri taleplerini konu başlıklarına ayırmak” gibi ölçülebilir ve daha düşük riskli bir amaç tanımlanmalıdır. Ardından aynı işin kişisel veri olmadan yapılıp yapılamayacağı test edilir. Gerekli değilse veri sisteme hiç girmemelidir; gerekli ise alan bazında maskeleme, filtreleme ve erişim sınırlaması uygulanmalıdır.
İkinci adım, tedarikçi incelemesidir. Sözleşmede verinin model eğitimi için kullanılıp kullanılmayacağı, saklama ve silme mekanizması, alt işleyenler, olay bildirimi, denetim hakkı, erişim kayıtları ve yurt dışı aktarım koşulları açıkça ele alınmalıdır. “Verileriniz güvende” gibi genel ifadeler operasyonel kontrol değildir. Kurum, sağlayıcının hangi kayıtları tuttuğunu ve bir silme talebinin gerçekten nasıl uygulandığını doğrulayabilmelidir.
Üçüncü adım, teknik ve yönetsel kontrolleri birlikte kurmaktır. Veri kaybı önleme kuralları, hassas alanların otomatik tespiti, rol tabanlı erişim, kayıtların düzenli incelenmesi ve saklama süresi sonunda silme işlemi temel kontrollerdir. ISO 27001, bilgi güvenliği risklerinin ve erişim kontrollerinin sistematik yönetimi için bir çerçeve sunarken, ISO 42001 yapay zekâ yönetim sisteminin amaç, risk, sorumluluk ve sürekli iyileştirme boyutlarını düzenlemeye yardımcı olur. Bu iki çerçeve birbirinin yerine geçmez; biri veri ve bilgi güvenliği temelini güçlendirirken diğeri yapay zekâya özgü yönetişimi görünür kılar.
Son adım, çıktıların düzenli olarak test edilmesidir. Hatalı eşleşmeler, ayrımcı sonuçlar, gereksiz kişisel veri üretimi ve açıklanamayan skorlar izlenmelidir. Testler yalnızca ilk devreye alma tarihine bırakılmamalı; veri seti, model sürümü, tedarikçi koşulları veya kullanım amacı değiştiğinde tekrarlanmalıdır. Her olayda sorulacak temel soru şudur: Sistem yanlış sonuç mu üretti, yoksa kurum bu sonucu kontrol edecek süreci hiç kurmadı mı? İkinci durum, teknik bir arızadan çok yönetişim eksikliğine işaret eder.
Pratikte en güvenli başlangıç, yapay zekâ kullanımını yasaklamak değil, kişisel verinin sisteme girişini istisna haline getirmektir. Veri minimizasyonu, açık amaç tanımı, tedarikçi sözleşmesi, erişim ve saklama kontrolleri ile gerçek insan denetimi birlikte tasarlanmalıdır. Kurum bu kontrolleri kayıt altına alır ve düzenli olarak test ederse hem KVKK yükümlülüklerini daha savunulabilir hale getirir hem de yapay zekânın ürettiği kolaylığın görünmeyen veri maliyetini yönetebilir.