Çalışanlarınızın bir kısmı muhtemelen yapay zekâ araçlarını zaten kullanıyor; yalnızca bunu kurum içinde görünür ve kontrollü biçimde yapmıyor olabilir. Bir e-postayı daha profesyonel hâle getirmek, sözleşmedeki riskleri özetlemek, bir hata mesajını açıklatmak veya müşteri şikâyetlerine yanıt hazırlamak için kullanılan genel amaçlı araçlar verimlilik sağlayabilir. Ancak çalışan, şirkete özel bilgiyi kişisel bir üretken yapay zekâ hesabına girdiği anda kurumun bilgi akışı yeni bir ortama taşınır. Bu ortamın veriyi ne kadar süre sakladığı, kimlerin erişebildiği, model geliştirmede kullanıp kullanmadığı ve verinin hangi ülkelerde işlendiği her zaman açık değildir. Asıl risk, yapay zekâ kullanılması değil; verinin hangi kontrol sınırının dışına çıktığının bilinmemesidir.
Bu nedenle konu yalnızca “çalışanlar yapay zekâ kullanabilir mi?” sorusuyla ele alınmamalıdır. Daha doğru soru şudur: Hangi veri, hangi araçta, hangi amaçla ve hangi güvence altında işlenebilir? Kurumun cevabı yoksa çalışanlar kendi pratiklerini geliştirir; bu da zaman içinde kayıt dışı bir yapay zekâ kullanım katmanı, yani gölge yapay zekâ oluşturur.
Her istem aynı riskte değildir
Bir çalışanın genel bir konu hakkında fikir istemesiyle, kurumun müşteri listesini veya henüz yayımlanmamış finansal sonuçlarını bir araca yüklemesi aynı olay değildir. Risk değerlendirmesi, aracın adından önce girdinin niteliğiyle başlamalıdır. Kamuya açık bilgi, kurum içi kullanım bilgisi, gizli bilgi ve kişisel veri birbirinden ayrılmadan hazırlanmış bir yapay zekâ politikası uygulamada çalışmaz.
Örneğin kamuya açık bir ürün açıklamasının dilini sadeleştirmek genellikle sınırlı bir risk taşır. Buna karşılık müşteri sözleşmesindeki özel hükümler, kaynak kodu, güvenlik açığı bilgisi, çalışan performans kayıtları, teklif fiyatları, birleşme ve satın alma planları veya kimliği belirli kişilere ilişkin veriler farklı bir değerlendirme gerektirir. Verinin tek başına gizli olmaması da riski ortadan kaldırmaz. Birden fazla parçanın birleştirilmesiyle müşteri, çalışan, proje veya güvenlik mimarisi hakkında yeni ve hassas bir çıkarım yapılabilir.
Özellikle kişisel veriler bakımından KVKK kapsamındaki sorumluluklar, verinin bir yapay zekâ aracına girilmesiyle ortadan kalkmaz. Veri işleme amacı, hukuki sebep, ölçülülük, aydınlatma, aktarım ve saklama koşulları somut işleme faaliyetine göre değerlendirilmelidir. “Araç ücretsiz” veya “sadece birkaç satır girdik” yaklaşımı bu yükümlülüklerin yerine geçmez. Kurum, kullandığı hizmetin veri işleme şartlarını ve kendi rolünü incelemeden kişisel veri aktarımını güvenli kabul etmemelidir.
Gizlilik vaadi ile teknik kontrol aynı şey değildir
Yapay zekâ hizmet sağlayıcılarının veri saklama ve model eğitimi politikaları birbirinden farklı olabilir. Bazı hizmetlerde istemler kalite geliştirme amacıyla saklanabilir; bazı kurumsal planlarda eğitimden hariç tutma, sınırlı saklama veya yönetici denetimi seçenekleri sunulabilir. Ancak bu seçeneklerin varlığı, her kurum için otomatik olarak yeterli güvence anlamına gelmez. Kullanım şartları, sözleşme, veri işleme eki, bölgesel barındırma, alt işleyenler, erişim yetkileri ve silme prosedürleri birlikte incelenmelidir.
Burada sık görülen hata, bir çalışanın kişisel hesabıyla kullandığı aracı kurumun onayladığı kurumsal hizmetle eşdeğer kabul etmektir. Oysa aynı ürün ailesinin farklı planlarında saklama, denetim kayıtları, yönetici kontrolleri ve verinin hizmet sağlayıcı tarafından işlenme biçimi değişebilir. Kurumun kontrol etmediği bir hesapta hangi verinin işlendiği, olay sonrasında geriye dönük olarak belirlenemeyebilir. Bu durum yalnızca gizlilik ihlali riskini değil, olay müdahalesinin delil ve kapsam belirleme kapasitesini de zayıflatır.
ISO 27001 açısından konu; varlıkların, erişimlerin, tedarikçi ilişkilerinin, olayların ve bilgi sınıflandırmasının risk temelli yönetilmesiyle ilişkilidir. ISO 42001 ise yapay zekâ sistemlerinin kullanım amacı, sorumlulukları, riskleri, insan gözetimi ve yaşam döngüsü boyunca izlenebilirliği için bir yönetim çerçevesi sunar. Bu standartların hiçbiri “her çalışan her aracı kullanamaz” şeklinde tek bir hazır cevap vermez. Kurumun kendi risk değerlendirmesine dayanan, ölçülebilir ve denetlenebilir kurallar oluşturmasını bekler.
Yasağın yerine çalışabilir bir kontrol modeli
Tamamen yasaklamak çoğu kurumda sürdürülebilir değildir. Çalışanların ihtiyaç duyduğu işi başka bir kanalda yapması, riski ortadan kaldırmaz; yalnızca görünmez hâle getirir. Daha sağlam yaklaşım, izin verilen kullanım senaryolarını ve yasaklanan veri türlerini açıkça tanımlamak, onaylı araçları merkezi olarak sunmak ve çalışanı güvenli alternatifsiz bırakmamaktır.
Politika, “gizli bilgileri girmeyin” gibi soyut bir cümleyle sınırlı kalmamalıdır. Çalışan, hangi örneklerin gizli sayıldığını, bir metni anonimleştirmenin ne anlama geldiğini, kimlik belirleyicilerin çıkarılmasının ne zaman yeterli olmadığını ve şüpheli bir paylaşımı nereye bildireceğini bilmelidir. Eğitimde yalnızca doğru kullanım gösterilmemeli; gerçek hayata benzeyen hatalı istemler üzerinden veri sızıntısının nasıl gerçekleşebileceği de açıklanmalıdır.
Teknik tarafta kurum, mümkün olduğunda kurumsal kimlik doğrulama, çok faktörlü kimlik doğrulama, rol tabanlı erişim, merkezi günlükleme ve hizmet sağlayıcı yönetimi kullanmalıdır. Veri kaybını önleme kontrolleri, tarayıcı güvenliği veya güvenli ağ geçitleri belirli kalıpları yakalayabilir; fakat bunlar tek başına yeterli değildir. Ekran görüntüsü, yeniden yazılmış metin veya küçük parçalara bölünmüş veri gibi yöntemler teknik filtreleri aşabilir. Bu yüzden teknoloji, politika, eğitim ve denetim birlikte tasarlanmalıdır.
Her kullanım senaryosu için insan doğrulaması da ayrıca tanımlanmalıdır. Yapay zekâ tarafından üretilen metin, doğru olsa bile yetkisiz bir açıklama, yanlış bir müşteri taahhüdü veya gizli bir karar gerekçesi içerebilir. Özellikle hukuk, insan kaynakları, finans, emniyet ve operasyonel güvenlik alanlarında çıktı doğrudan gönderilmemeli; yetkili bir kişi içeriği, kaynağı, kapsamı ve veri sızıntısı ihtimalini kontrol etmelidir. Üretken yapay zekâ çıktısının denetlenmesi ile girdinin korunması farklı kontrollerdir; biri diğerinin yerine geçmez.
İhlal veya şüpheli kullanım meydana geldiğinde çalışanı cezalandırmaya odaklanmak yerine erken bildirimi teşvik eden bir olay süreci kurulmalıdır. Hangi aracın kullanıldığı, hangi verinin girildiği, ne zaman gerçekleştiği, hesabın kuruma mı kişiye mi ait olduğu ve sağlayıcıdan silme veya erişim kayıtları istenip istenemeyeceği hızla belirlenmelidir. Kişisel veri söz konusuysa KVKK kapsamındaki değerlendirmeler; bilgi güvenliği olayı söz konusuysa kurumun olay müdahalesi ve bildirim prosedürleri devreye girmelidir.
Pratikte ilk adım, çalışanlara anket gönderip “yapay zekâ kullanıyor musunuz?” diye sormaktan daha geniş olmalıdır. Satın alma, bilgi işlem, hukuk, insan kaynakları, bilgi güvenliği ve iş birimleri birlikte mevcut araçları ve kullanım amaçlarını ortaya çıkarmalıdır. Sonra veri sınıflarıyla kullanım senaryoları eşleştirilmeli, onaylı araçlar belirlenmeli ve yüksek riskli kullanımlar için ön değerlendirme şartı getirilmelidir. Denetim kanıtı olarak yalnızca yayımlanmış politika değil; eğitim kayıtları, araç envanteri, erişim günlükleri, tedarikçi değerlendirmeleri, olay kayıtları ve periyodik gözden geçirme sonuçları da tutulmalıdır.
Kurumlar için en önemli ayrım şudur: Yapay zekâ kullanımını kontrol etmek, çalışanların merakını bastırmak değil, bilginin sınırlarını yönetmektir. Şirkete özel bir bilginin genel bir araca aktarılması, küçük bir kolaylık karşılığında kontrol edilemeyen bir zincir başlatabilir. Veri sınıflandırmasını kullanım senaryolarına bağlayın, onaylı araçları güvenli biçimde erişilebilir kılın, çalışanlara somut örneklerle eğitim verin ve her şüpheli paylaşımı olay müdahalesi kapsamında değerlendirin. Böylece yapay zekâ verimliliği, kurumun güven ve hesap verebilirlik yükümlülükleriyle çatışmadan yönetilebilir.