Çocukların medya ve teknoloji kullanımını güvenlik açısından inceleyen kâr amacı gütmeyen kuruluş Common Sense Media, Google’ın Gemini yapay zekasına dair risk raporunu yayımladı. Raporda, Gemini’nin çocuklara kendisinin bir bilgisayar olduğunu, bir “arkadaş” olmadığını açıkça belirtmesi olumlu bir adım olarak değerlendirildi. Ancak organizasyon, sistemin birçok noktada geliştirmeye ihtiyaç duyduğunu vurguladı.
Çocuklara özel değil, yetişkin versiyonunun kopyası
Raporda dikkat çeken bir nokta da Gemini’nin “13 yaş altı” ve “Gençler için” sürümlerinin aslında yetişkin versiyonunun üzerine birkaç güvenlik filtresi eklenmiş hali gibi görünmesiydi. Common Sense, çocuklara yönelik güvenli bir yapay zekanın sıfırdan onların ihtiyaçları gözetilerek tasarlanması gerektiğini savunuyor.
Uygunsuz içerik riski
Analize göre Gemini, çocuklara hâlâ cinsellik, uyuşturucu, alkol veya tehlikeli ruh sağlığı tavsiyeleri gibi “uygunsuz ve güvensiz” bilgiler verebiliyor. Bu durum özellikle ebeveynler için endişe verici. Nitekim son dönemde bazı gençlerin intiharında yapay zekanın rol oynadığı iddia edilmişti. OpenAI, 16 yaşındaki bir gencin ChatGPT ile yaptığı uzun görüşmelerin ardından intihar etmesi üzerine ilk kez ölümle sonuçlanan bir dava ile karşı karşıya. Daha önce de Character.AI benzer bir dava yaşamıştı.
Apple ve yeni Siri ihtimali
Bu rapor, Apple’ın yeni Siri sürümü için Gemini’yi kullanmayı değerlendirdiğine dair haberlerin sızdığı döneme denk geldi. Eğer Apple bu adımı atarsa, gerekli güvenlik önlemleri alınmadığı sürece daha fazla genç risk altına girebilir.
Bu yazımız da ilginizi çekebilir:Apple, Siri için Google Gemini’yi kullanmayı mı planlıyor?
“Tek tip yaklaşım çocuklara uygun değil”
Common Sense, Gemini’nin çocuk ve genç kullanıcıların yaş farklarını göz ardı ettiğini, bu nedenle her iki sürümün de “yüksek riskli” olarak sınıflandırıldığını belirtti.
Common Sense Media’nın Yapay Zeka Programları Kıdemli Direktörü Robbie Torney şu açıklamayı yaptı:
“Gemini bazı temel noktaları doğru yapsa da ayrıntılarda sınıfta kalıyor. Çocuklara yönelik bir yapay zeka onların gelişim aşamalarına uygun olmalı; yetişkin ürünü üzerine eklenen birkaç filtreyle yetinilmemeli.”
Google’dan yanıt
Google ise rapora itiraz ederek, çocuk ve gençler için özel politikalar ve güvenlik önlemleri bulunduğunu, uzmanlarla iş birliği yapıldığını açıkladı. Şirket, bazı cevapların beklenildiği gibi çalışmadığını kabul ederek ek güvenlik katmanları eklediklerini söyledi. Ayrıca, raporda bahsedilen bazı özelliklerin aslında 18 yaş altındaki kullanıcılara sunulmadığını da vurguladı.
Diğer yapay zeka platformlarının durumu
Common Sense, daha önce OpenAI, Perplexity, Claude, Meta AI ve Character.AI gibi farklı platformları da değerlendirmişti. Sonuçlara göre:
-
Meta AI ve Character.AI “kabul edilemez” risk taşıyor.
-
Perplexity yüksek riskli bulundu.
-
ChatGPT “orta riskli” kategorisine yerleştirildi.
-
Claude ise yalnızca 18 yaş ve üstüne yönelik olduğu için “düşük riskli” kabul edildi.
