Kamu Yararı Araştırma Grubu (PIRG) tarafından yapılan çalışmalarda, piyasada satılan yapay zekalı oyuncaklar mercek altına alındı. Araştırmalarda; uygunsuz içerikler, gizlilik ihlalleri, ebeveyn denetimlerinin yetersizliği ve çocukların psikolojik güvenliği gibi başlıklarda ciddi sorunlar tespit edildi.
Oyuncak ayı uyuşturucu ve cinsellik anlattı
Araştırmaya göre OpenAI’ın GPT-4o modelini kullanan Kumma adlı oyuncak ayı, çocuklara kibrit yakma, bıçak temini gibi tehlikeli bilgiler verdi. Ayrıca uyuşturucu ve cinsellik hakkında sorulan sorulara ayrıntılı yanıtlar sundu. Rapordan sonra Singapur merkezli üretici firma FoloToy, oyuncağın satışını durdurdu ve yazılım güncellemeleri başlattı.
Yapay zekalı tavşandan müstehcen anlatımlar
PIRG’nin bir diğer çalışmasında Amazon’da popüler olan Alilo isimli yapay zekalı tavşan oyuncağın, cinsellik, fetişler ve cinsel yönelimler hakkında detaylı ve betimleyici konuşmalar yaptığı belirlendi. NBC tarafından test edilen oyuncak, BDSM içerikli uygulamaları dahi anlattı. Oyuncağın ses tonunun yetişkin ve çocuk sesi arasında rastgele değişmesi de ayrı bir risk olarak değerlendirildi.
Çocukların biyometrik verileri toplanıyor
Araştırmada yer alan Miko 3 adlı oyuncakta ise gizlilik endişeleri öne çıktı. Kamera ve mikrofon bulunan oyuncak, çocukların yüzünü, sesini ve ruh halini analiz edebiliyor. Toplanan biyometrik verilerin üç yıla kadar saklanabildiği ve üçüncü şirketlerle paylaşılabildiği öğrenildi.