Yapay Zekânın Sınırlılıkları: Önyargı, Hata ve Etik

Yapay zekâ neden yanılır?

Yapay zekâ "bilmez", yalnızca öğrendiği örneklere dayanarak tahmin eder. Bu yüzden en gelişmiş sistemler bile hata yapar. Bu hataların başlıca kaynakları şunlardır:

1. Veri önyargısı

Bir model yalnızca belirli türden örneklerle eğitilirse, diğer durumlarda kötü sonuç verir. Örneğin çoğunlukla açık tenli yüzlerle eğitilmiş bir yüz tanıma sistemi, koyu tenli yüzlerde daha fazla hata yapabilir. Bu bir "makine hatası" değil, verinin dengesiz olmasının sonucudur.

2. Uydurma bilgi

Metin üreten yapay zekâ araçları bazen kendinden emin bir dille gerçek olmayan bilgiler üretebilir: var olmayan bir kitap, yanlış bir tarih ya da uydurma bir kaynak. Bu yüzden yapay zekâdan alınan bilgiler mutlaka güvenilir kaynaklardan kontrol edilmelidir.

3. Sahte içerikler (deepfake)

Yapay zekâ, gerçek bir kişinin hiç söylemediği sözleri söylüyormuş gibi gösteren sahte video ve ses kayıtları üretebilir. Bu içeriklere deepfake denir. İnternette karşılaştığınız şaşırtıcı bir videoyu paylaşmadan önce kaynağını sorgulayın.

4. Mahremiyet

Yapay zekâ sistemleri çok miktarda veriyle çalışır ve bu verilerin bir kısmı kişiseldir. Bir uygulamaya fotoğrafınızı, sesinizi ya da kişisel bilgilerinizi yüklemeden önce bu verilerin nasıl kullanılacağını düşünün.

Etkinlik: AI for Oceans: önyargıyı kendi gözünüzle görün

1. Code.org'un ücretsiz AI for Oceans etkinliğini açın (arama motoruna adını yazın).
2. Yapay zekâya hangi nesnelerin balık, hangilerinin çöp olduğunu öğreterek okyanusu temizleyin.
3. Etkinliğin ilerleyen bölümünde balıkları kendi seçtiğiniz bir özelliğe göre (ör. "mutlu balık") etiketleyin.
4. Sizin etiketlerinizle eğitilen modelin, başka bir arkadaşınızın etiketleriyle eğitilen modelden nasıl farklı sonuç verdiğini karşılaştırın.

Tartışma: "Mutlu balık" gibi kişiden kişiye değişen bir kavramı yapay zekâya öğretirken kimin görüşü modele yansır? Gerçek hayatta bu durum nerede sorun yaratabilir?

Sorumlu yapay zekâ ilkeleri

• Adalet: Sistem farklı gruplara eşit davranmalı.
• Şeffaflık: Yapay zekâ ile konuştuğumuzu ve kararın nasıl verildiğini bilmeliyiz.
• Güvenlik ve mahremiyet: Kişisel veriler korunmalı.
• İnsan denetimi: Önemli kararlarda son söz insanda olmalı.