Yapay Zekâ Öğretmenler Çocuklar İçin Ne Kadar Güvenli? Siber Güvenlik Devinden Kritik Uyarı

Yapay Zekâ Öğretmenler Çocuklar İçin Ne Kadar Güvenli?

Sağlıktan pazarlamaya kadar pek çok alanda devrim yaratan yapay zekâ, eğitimde de kişiselleştirilmiş öğrenme fırsatları sunuyor. Ancak küresel siber güvenlik lideri ESET, yapay zekâlı özel ders araçlarının çocukların bilişsel gelişimi, mahremiyeti ve güvenliği üzerinde getirdiği risklere dikkat çekiyor.

Yapay zekâ destekli özel ders pazarının 2025 ile 2033 yılları arasında yaklaşık 2 milyar dolardan 17,7 milyar doların üzerine çıkması bekleniyor. İngiltere gibi ülkelerde hükümet düzeyinde desteklenen bu teknolojiler, özellikle imkânı kısıtlı öğrenciler için fırsat olarak görülse de uzmanlar araçların bilişsel ve psikososyal risklerine karşı uyarıyor.

Bilişsel Tembellik ve Psikososyal Riskler

Yapay zekâ öğretmenlerin başarısı üzerine yapılan son araştırmalar dikkat çekici sonuçlar ortaya koyuyor:

• Eleştirel Düşünmede Düşüş: Araştırmalar, sık yapay zekâ kullanımı ile eleştirel düşünme, yazma ve problem çözme becerileri arasında negatif bir korelasyon olduğunu gösteriyor. Sorulara çok hızlı cevap verilmesi çocuklarda bilişsel tembellik yaratabiliyor.

• Halüsinasyon ve Duygusal Bağ: Çocuklar, kendinden emin konuşan yapay zekânın hatalı bilgilerine ("halüsinasyonlarına") yetişkinlerden daha kolay inanabiliyor. Dahası, aracı gerçek bir arkadaş gibi algılamaları akran ilişkilerini zayıflatabiliyor.

• Empati Eksikliği: Yapay zekâ yanıt sunabilse de ders sırasında motivasyonu düşen veya hayal kırıklığı yaşayan bir çocuğun duygusal durumunu yönetme becerisinden yoksundur.

Gizlilik ve Veri Güvenliği Tehdidi

Eğitim araçları sadece ders içeriklerini değil; ses kayıtlarını, ödevleri, performans verilerini, cihaz bilgilerini ve ilgi alanlarını toplayabiliyor.

• Paylaşılan veriler yapay zekâ modellerinin eğitiminde kullanılabileceği gibi üçüncü taraf reklamverenlere aktarılabiliyor.

• Sesli araçlar üzerinden toplanan biyometrik veriler, bir güvenlik ihlali durumunda hackerların eline geçerek kimlik hırsızlığı riskini doğuruyor.

Ebeveynler İçin 10 Altın Güvenlik Adımı

ESET, çocuklarını yapay zekâ destekli öğrenim araçlarıyla buluşturan ebeveynlere şu adımları öneriyor:

1. Doğrudan Cevap Veren Değil, Yönlendiren Araçları Seçin: Cevabı hazır sunan sohbet robotları yerine ipuçlarıyla öğreten Akıllı Özel Ders Sistemlerini (ITS) tercih edin.

2. Okul Onaylı ve KVKK/GDPR Uyumlu Ürünler Alın: Verileri model eğitimi için saklamayan ve eğitimsel kanıtı olan yazılımlara yönelin.

3. Gizlilik Sözleşmelerini Okuyun: Verilerin nerede saklandığını ve reklamverenlerle paylaşılıp paylaşılmadığını denetleyin.

4. Birlikte Öğrenin: Aracı çocuğunuzla birlikte kullanarak bir insan rehberliğini hissettirin.

5. Kişisel Veri Bilinci Aşılayın: Çocuklarınıza yapay zekâya asla isim, adres veya özel bilgi vermemeleri gerektiğini öğretin.

6. Yapay Zekânın "Duygusuz" Olduğunu Anlatın: Çocuğunuza bu araçların hislerinin veya empati yeteneğinin olmadığını açıklayın.

7. Yanılma Payını Hatırlatın: Yapay zekânın kendinden emin bir dille yanlış bilgi verebileceğini (halüsinasyon), bilgilerin ders kitaplarından doğrulanması gerektiğini vurgulayın.

8. Ekran Süresini Sınırlayın: Günlük "yapay zekâ kullanım süresi" sınırı koyun.

9. Komut Geçmişini Denetleyin: Çocuğunuzun komut (prompt) geçmişini düzenli aralıklarla kontrol edin.

10. Yaş Kısıtlamalarını Etkinleştirin: Aracın sunduğu yaşa uygun filtreleme ve güvenlik ayarlarını aktif hale getirin.