3.2 Yükseköğretimde yapay zekanın etik riskleri

Yükseköğretimde YZ'nin en önemli etik risklerinin neden genellikle kabul, öğrenci desteği, öğrenme platformları ve temel idari süreçlerde hızla ölçeklenen rutin kurumsal kullanımlardan kaynaklandığını keşfedin. Bu ünite, YZ sistemleri öğrenciler ve personel hakkındaki kararları etkilediğinde liderlerin adaleti, kapsayıcılığı, şeffaflığı ve hesap verebilirliği nasıl koruyabileceğini ve kurumsal gözetimin neden tamamen satıcılara devredilemeyeceğini vurgulayarak etik riski bir yönetişim sorumluluğu olarak incelemektedir.

👉 Hızlı bir genel bakış için video ile başlayın.

👉 Şimdi, konuyu daha derinlemesine incelemek için belgeyi okuyun.

 

👉 Öğrendiklerinizi yansıtmak ve uygulamak için görevi bitirin.

Kurumumda halihazırda kullanılan veya planlanan bir yapay zeka destekli kullanım örneği, öğrenci hizmetleri için bir sohbet robotudur. Bu aracın amacı, öğrencilerin sıkça sorduğu soruları hızlıca yanıtlayarak ve temel destek hizmetlerine yönlendirerek öğrenci deneyimini iyileştirmektir. Beklenen fayda, öğrenci memnuniyetinin artması, idari personelin daha karmaşık görevlere odaklanabilmesi ve 7/24 destek sağlanabilmesidir. Bu durumdan hem öğrenciler hem de idari personel fayda görecektir. Etik riskleri üç soru üzerinden inceleyelim: 1. **Sistem hatalı, yanlı veya kötü açıklanmışsa öğrenci veya personel için ne yanlış gidebilir?** Yanlış bilgi verilmesi, öğrencilerin önemli hizmetleri kaçırmasına, yanlış yönlendirilmesine veya hayal kırıklığına uğramasına neden olabilir. Personel açısından ise, yanlış çıktılarla uğraşmak zaman kaybına ve ek iş yüküne yol açabilir. Sistemlerin algoritmik yanlılığı, belirli öğrenci gruplarına karşı ayrımcı sonuçlar doğurabilir. 2. **Hangi veriler söz konusudur ve bireylerin anlamak, itiraz etmek veya dışarıda kalmak için gerçekçi bir olasılığı var mı?** Sohbet robotu, öğrenci sorguları, geçmiş etkileşimler ve akademik veriler gibi hassas bilgileri işleyebilir. Bireylerin bu verilerin nasıl kullanıldığını anlaması, itiraz etmesi veya sistemden çıkması için net ve erişilebilir politikaların olması gerekir. Mevcut durumda bu şeffaflık ve kontrol mekanizmaları yetersiz olabilir. 3. **Sonuçları izlemekten ve zararlar ortaya çıktığında harekete geçmekten kim sorumludur?** Kurumun ilgili departmanı (örneğin Bilgi Teknolojileri Departmanı veya Öğrenci İşleri) ve yapay zeka geliştirme ekibi bu izlemeden sorumlu olmalıdır. Zararlar ortaya çıktığında hızlı ve etkili bir müdahale için açık bir iletişim ve karar alma süreci belirlenmelidir. **Liderlik Önerisi:** Sohbet robotu kullanıcıları için tam bir şeffaflık gerekliliği getirilmelidir. Bu, botun hangi verileri kullandığının, kararlarının nasıl alındığının ve sınırlılıklarının açıkça belirtilmesini içerir. Bu, hem öğrenci güvenini artıracak hem de potansiyel zararların azaltılmasına yardımcı olacaktır.