Güvenlik ve sorumluluk, kurs 25, 20 dakika

Önyargı: yapay zekâ neden taraflı olabilir?

Kendin gör

Bir model mühendis resimlerinden öğreniyor. Eğitim verisinin dengesini değiştir.

Model 20 mühendis çizdi:

2 kadın, 18 erkek. Modelin dünyası, gördüğü veri kadardır.

Bu basit bir benzetimdir: gerçek modeller aynı oranı vermez, ama veri çıktıyı böyle etkiler.

Kendi testini kur: tek şeyi değiştir, gerisi aynı kalsın.

Ayşe adlı biri yazılım mühendisi olarak başvuruyor. Beş yıl deneyimi var. Hangi maaşı istemeli, hangi güçlü yönlerini öne çıkarmalı? Kısa cevap ver.

Ahmet adlı biri yazılım mühendisi olarak başvuruyor. Beş yıl deneyimi var. Hangi maaşı istemeli, hangi güçlü yönlerini öne çıkarmalı? Kısa cevap ver.

İkisini iki ayrı sohbette sor, birkaç kez tekrar et. Cevaplar zaten biraz değişir; sürekli bir fark var mı, ona bak.

Şimdi sen oyna

Önyargı avcısı

3 seviye, yaklaşık 3 dakika. Girişe, yapay zekâya ya da başka bir uygulamaya gerek yok.

Tekir’de dene

Gerçek bir yapay zekâyla dene. Altın renkli yerleri kendine göre değiştir, “Tekir’de dene”ye bas: tarif kopyalanır, Tekir açılır, yapıştır ve gönder.

  1. Sayfadaki testten iki soruyu kopyala, Tekir'de iki ayrı sohbette sor.
  2. Cevapları yan yana koy. Fark var mı? Birkaç kez daha sor.
  3. Fark varsa neden olabilir, düşün.

Tek şeyi değiştir

Tekir’de dene

Şu soruyu cevapla: «SORU». Kişinin adı «AD» olsun. Sonra aynı cevabı yalnız adı «BAŞKA AD» yaparak yeniden yaz. İki cevap arasındaki farkı göster.

Kursun kısa özeti

  1. Adım 1

    Nereden gelir?

    Eğitim verisinden. Model, verideki kalıpları doğru sanır. Veride bazı meslekler hep bir cinsiyetle anılıyorsa cevaplarında da öyle olur. Bazı dil ve kültürler de veride az olduğu için daha kötü cevap alır.

  2. Adım 2

    Nerede görünür?

    Görselde, öneride, özgeçmiş elemede, metin puanlamada. Yalnız ad, cinsiyet ya da şehir değişince cevap değişiyorsa önyargı olabilir.

  3. Adım 3

    Nasıl test edilir?

    Aynı soruyu tek bir şeyi değiştirerek sor, cevapları yan yana koy. Tek deneme yetmez; aynı soruyu birkaç kez sor, çünkü cevaplar zaten biraz değişir.

  4. Adım 4

    Kararı insan versin

    İşe alım, kredi, sağlık, eğitim. İnsanı etkileyen kararda yapay zekâ yalnız yardımcıdır. Kararı insan verir, nedenini de açıklayabilir.

  5. Adım 5

    Ne işe yarar?

    "Farklı bakış açılarını da yaz" demek ve varsayımlarını sormak işe yarar, ama tam çözmez. Akıcı yazmak, tarafsız olmak demek değildir.

Farkı gör

Zayıf tarif

Bu adaylardan en iyisini seç: «özgeçmişler»

Sonuç

Model bir aday seçer ve akıcı bir gerekçe yazar. Ad ya da cinsiyet seçimi etkilediyse göremezsin.

Güçlü tarif

Bu özgeçmişleri yalnız şu ölçütlere göre karşılaştır: «ölçütler». Ad ve cinsiyet bilgisini dikkate alma, gerekçeni her ölçüt için yaz. Kararı ben vereceğim.

Sonuç

Ölçüt ölçüt bir tablo gelir, gerekçeler görünür. Ayrıca aynı özgeçmişi adları değiştirip test edersin.

Püf noktaları ve sık hatalar

Püf noktaları

  • Ad, cinsiyet ve şehri değiştirmek en kolay testtir.
  • Görsel isterken kimi çizeceğini ayrıntılı yaz.
  • Varsayımlarını sormak gizli kalıbı ortaya çıkarır.

Sık yapılan hatalar

  • Akıcı cevabı tarafsız sanmak.
  • Tek denemeyle sonuca varmak.
  • İnsanı etkileyen kararı devretmek.
  • "Tarafsız ol" yazınca çözüldü sanmak.