Yapay Zekâ Kullanımı​

Genel İlkeler

Yapay Zekâ Araçlarının Kullanımında Genel İlkeler

Üretken Yapay Zekâ (ÜYZ), büyük miktarda veriden öğrenerek ve bu verileri analiz ederek metin, görsel, müzik, video, kod gibi içerikler oluşturabilen bir yapay zekâ türüdür. Koç Üniversitesi (“Üniversite”), Üretken Yapay Zekâ araçlarının sorumlu bir şekilde denenmesini ve kullanılmasını desteklemektedir, ancak bu araçların kullanımı sırasında bilgi güvenliği ve veri mahremiyeti, uyumluluk, etik kurallar, telif hakkı ve akademik dürüstlük gibi önemli hususlara dikkat edilmesi gerekmektedir.

Güvenli ve Veri Sınıflandırmasına Uygun Kullanım

Yapay zekâ araçlarını kullanırken kurumsal ve kişisel hassas bilgileri korumanız önemlidir. Hassas bilgileri yapay zekâ programına girdiğiniz komut (prompt) içerisinde kullanmak, gizlilik ihlâline ve güvenlik risklerine yol açabilir. Örneğin, birisi gizli araştırma verilerini veya kişisel verileri bir yapay zekâ programında komut olarak girerse, yapay zekâ bu verileri öğrenebilir ve ardından bunları ilgili bilgiye erişimi olmaması gereken taraflar için oluşturulan içerikte kullanabilir. Bazı araçlar, girdi ve diğer (gizlilik) hassas verilerinizi diğerlerinden daha iyi korur. Bu konuda, verilerin gizlilik seviyesini göz önünde bulundurarak güvenlik kriterlerine uygun araçların kullanımı tavsiye edilmektedir.

Ayrıca, Üniversite’nin Veri Sınıflandırma ve Veri Gizliliği Politikası ve Bilgi Güvenliği Politikası uyarınca, gizli ve çok gizli olarak sınıflandırılan (kamuya açık olmayan araştırma verileri, finans, insan kaynakları, öğrenci kayıtları, sağlık verileri dahil tüm kişisel veriler vb.) veriler, genel kullanıma açık Yapay Zekâ Üretim araçlarına girilmemelidir. Varsayılan ayarlarla kullanılan Yapay Zekâ Üretim araçlarıyla paylaşılan bilgilerin bu araçlarda kullanımı, kuruma ait veya hassas bilgilerin yetkisiz kişiler tarafından erişilmesine yol açabilir.

Yapay zekâ araçlarını kullanırken kurumsal ve kişisel hassas bilgileri korumanız önemlidir. Hassas bilgileri yapay zekâ programına girdiğiniz komut (prompt) içerisinde kullanmak, gizlilik ihlâline ve güvenlik risklerine yol açabilir. Örneğin, birisi gizli araştırma verilerini veya kişisel verileri bir yapay zekâ programında komut olarak girerse, yapay zekâ bu verileri öğrenebilir ve ardından bunları ilgili bilgiye erişimi olmaması gereken taraflar için oluşturulan içerikte kullanabilir. Bazı araçlar, girdi ve diğer (gizlilik) hassas verilerinizi diğerlerinden daha iyi korur. Bu konuda, verilerin gizlilik seviyesini göz önünde bulundurarak güvenlik kriterlerine uygun araçların kullanımı tavsiye edilmektedir.

Ayrıca, Üniversite’nin Veri Sınıflandırma ve Veri Gizliliği Politikası ve Bilgi Güvenliği Politikası uyarınca, gizli ve çok gizli olarak sınıflandırılan (kamuya açık olmayan araştırma verileri, finans, insan kaynakları, öğrenci kayıtları, sağlık verileri dahil tüm kişisel veriler vb.) veriler, genel kullanıma açık Yapay Zekâ Üretim araçlarına girilmemelidir. Varsayılan ayarlarla kullanılan Yapay Zekâ Üretim araçlarıyla paylaşılan bilgilerin bu araçlarda kullanımı, kuruma ait veya hassas bilgilerin yetkisiz kişiler tarafından erişilmesine yol açabilir.

Lisanslı Araçların Kullanımı

ÜYZ kullanılırken, kurumsal ilkelere, Koç Üniversitesi’nin bilgi güvenliği politikalarına ve ilgili düzenlemelere uygun ÜYZ araçlarının kullanımı tavsiye edilmektedir.

Üretilen İçeriğin Kullanımından Sorumluluk

Koç Üniversitesi personeli olarak, yayınlanan veya kullanılan içeriğin yüksek kaliteli ve doğru olduğundan emin olunması gerekmektedir. Yapay zekâ tarafından oluşturulan içerikler bazen hatalar veya uygunsuz bilgiler içerebilir. Bu bilgileri doğrulama büyük önem taşımaktadır.

  • Halüsinasyonlar: Üretken AI programlarından elde edilen çıktılara körü körüne güvenilmemelidir. Böyle sistemlere ne kadar çok sorumluluk yüklenirse, o kadar çok doğrulama ve kontrol gerekmekte olup yapay zekâ araçlarının oluşturduğu içerikler zaman zaman yanlış veya tamamen uydurma olabilir.
  • Önyargı: Yapay zekâ araçları, temsiliyet gücü olmayan veri setleri ile eğitilmektedir. Ayrıca uygulanan filtreler hakkında da birçok yapay zekâ üreticisi tarafında şeffaflık yoktur. Bu, birçok etik soruyu gündeme getirmektedir. Düşünmeden kullanıldığında, stereotipleri veya önyargıları daha da yayma riskiyle karşı karşıya kalınabilir.

Bu açıklamalar ışığında; yapay zekâ tarafından oluşturulan materyali içeren ve yayımlanan/kullanılan herhangi bir içerikten kullanıcı sorumludur.

Koç Üniversitesi personeli olarak, yayınlanan veya kullanılan içeriğin yüksek kaliteli ve doğru olduğundan emin olunması gerekmektedir. Yapay zekâ tarafından oluşturulan içerikler bazen hatalar veya uygunsuz bilgiler içerebilir. Bu bilgileri doğrulama büyük önem taşımaktadır.

  • Halüsinasyonlar: Üretken AI programlarından elde edilen çıktılara körü körüne güvenilmemelidir. Böyle sistemlere ne kadar çok sorumluluk yüklenirse, o kadar çok doğrulama ve kontrol gerekmekte olup yapay zekâ araçlarının oluşturduğu içerikler zaman zaman yanlış veya tamamen uydurma olabilir.
  • Önyargı: Yapay zekâ araçları, temsiliyet gücü olmayan veri setleri ile eğitilmektedir. Ayrıca uygulanan filtreler hakkında da birçok yapay zekâ üreticisi tarafında şeffaflık yoktur. Bu, birçok etik soruyu gündeme getirmektedir. Düşünmeden kullanıldığında, stereotipleri veya önyargıları daha da yayma riskiyle karşı karşıya kalınabilir.

Bu açıklamalar ışığında; yapay zekâ tarafından oluşturulan materyali içeren ve yayımlanan/kullanılan herhangi bir içerikten kullanıcı sorumludur.

Güncel Politikaların Takibi

Yapay zekâ araçlarının sürekli gelişen ve yenilenen teknolojiler olmaları sebebiyle, kurumlar Üretken Yapay Zekâ araçlarının kullanımının etkilerini daha iyi anlamakta ve politikalarını bu güncellemelere uygun şekilde geliştirmekte ve güncellemektedir. Bu kapsamda, kullanıcıların, ÜYZ kullanımında her zaman KU’nun yayınlamış olduğu en güncel politikalara uygun hareket etmesi beklenmektedir. Bu süreçte, öğretim üyeleri derslerde ve akademik çalışmalarda ÜYZ’nin izin verilen kullanımları konusunda öğrencilerine net bilgiler vermeli; öğrenciler de ihtiyaç duyduklarında bu politikalar hakkında öğretim üyelerinden bilgi talep etmeye teşvik edilmelidir.

Bilgi Güvenliği Kurallarına Uygun Hareket Etme

Üretken yapay zekâ, kötü niyetli aktörlerin daha sofistike oltalama e-postaları ve “deepfake” (yani, bir kişinin sesini veya fiziksel görünümünü izinsiz olarak ikna edici bir şekilde taklit etmeyi amaçlayan video veya ses) oluşturmasını çok daha geniş bir ölçekte kolaylaştırmıştır. Kullanıcıların güvenlikleri için KU Bilgi Güvenliği Politikası ve ilgili prosedürlere uygun hareket etmeye devam etmesi ve şüpheli e-postaları bilgiguvenligi@ku.edu.tr adresine bildirmesi tavsiye edilmektedir.

Üretken yapay zekâ, kötü niyetli aktörlerin daha sofistike oltalama e-postaları ve “deepfake” (yani, bir kişinin sesini veya fiziksel görünümünü izinsiz olarak ikna edici bir şekilde taklit etmeyi amaçlayan video veya ses) oluşturmasını çok daha geniş bir ölçekte kolaylaştırmıştır. Kullanıcıların güvenlikleri için KU Bilgi Güvenliği Politikası ve ilgili prosedürlere uygun hareket etmeye devam etmesi ve şüpheli e-postaları bilgiguvenligi@ku.edu.tr adresine bildirmesi tavsiye edilmektedir.

Yeni bir Yapay Zekâ Teknolojisi Kullanmadan Önce İlgili Birimlerle İletişim

Üniversite, KU adına temin edilen araçların uygun gizlilik ve güvenlik korumalarına sahip olmasını ve KU kapsamında yürütülen operasyonların en iyi şekilde sürdürülmesini sağlamak için çalışmaktadır. ÜYZ kullanılırken, kurumsal ilkelere, Koç Üniversitesi’nin bilgi güvenliği politikalarına ve ilgili düzenlemelere uygun yapay zekâ üretim araçlarının kullanımı tavsiye edilmektedir. Kullanılacak olan üretici yapay zekâ araçları hakkında sorularınız veya endişeleriniz varsa, bu araçlar kullanılmadan önce Yapay Zekâ Yönetişim Komitesi’yle iletişime geçmeniz tavsiye edilir. Güvenlik kriterlerine uygun olmayan ÜYZ araçlarının kullanımlardan kullanıcı sorumlu olacaktır.

Üniversite, KU adına temin edilen araçların uygun gizlilik ve güvenlik korumalarına sahip olmasını ve KU kapsamında yürütülen operasyonların en iyi şekilde sürdürülmesini sağlamak için çalışmaktadır. ÜYZ kullanılırken, kurumsal ilkelere, Koç Üniversitesi’nin bilgi güvenliği politikalarına ve ilgili düzenlemelere uygun yapay zekâ üretim araçlarının kullanımı tavsiye edilmektedir. Kullanılacak olan üretici yapay zekâ araçları hakkında sorularınız veya endişeleriniz varsa, bu araçlar kullanılmadan önce Yapay Zekâ Yönetişim Komitesi’yle iletişime geçmeniz tavsiye edilir. Güvenlik kriterlerine uygun olmayan ÜYZ araçlarının kullanımlardan kullanıcı sorumlu olacaktır.