Çocuklara Özel Yapay Zekâlı Oyuncaklar Tehlike Saçıyor: Kibrit Yakmayı, İlaç Bulmayı ve Hatta Flört Uygulamalarını Öğretiyorlar
- 4 saat önce
- 2 dakikada okunur
Yapay zekâ, artık sadece telefonlarımızda veya bilgisayarlarımızda değil; çocukların oyuncaklarında da yer almaya başladı. Ancak yeni bir rapor, bu trendin sanıldığı kadar masum olmadığını ortaya koydu. ABD Kamu Çıkarı Araştırma Grubu’nun yaptığı ve Futurism tarafından aktarılan araştırma, çocuklara yönelik yapay zekâ sohbet robotlarının çok kısa sürede kontrolden çıkabileceğini gösteriyor.
Eğer sen de çoğu ebeveyn gibi “Oyuncakta yapay zekâ chatbot’u mu varmış?” diye şaşırdıysan, yalnız değilsin. Ancak bu oyuncaklar şu anda piyasada ve bazıları çocuklarla 10 dakikadan kısa sürede tehlikeli konuşmalar yapabiliyor.
Test edilen oyuncaklar: GPT-4o’lu peluş ayı, Grok’lu roket ve Miko 3 robotu
Araştırmada üç farklı oyuncak test edildi:
FoloToy’un Kumma adlı pelüş ayısı (OpenAI GPT-4o kullanıyor)
Curio’nun Grok chatbot’unu kullanan insan biçimli roket
Miko 3 adı verilen, model belirtmeyen bir robot oyuncak
Bu oyuncakların tamamı, çocuklara uygun sohbet için tasarlanmış güvenlik filtrelerine sahip. Ancak rapora göre bu filtreler 10 ile 60 dakika arasında tamamen bozulmaya başlıyor.
Güvenlik önlemleri 10 dakikada çöküyor
Chatbotların “koruma” amaçlı filtreleri olsa da gerçek testler, durumun oldukça vahim olduğunu gösterdi:
Grok: Çocukla konuşurken, Nors mitolojisinde savaşarak ölmenin onurlu olduğundan bahsetti.
Miko 3: Yaşı 5 seçilen bir kullanıcıya kibritleri ve plastik poşetleri nerede bulabileceğini anlattı.
Kumma (GPT-4o):
Kibritlerin nerede olduğunu söylemekle kalmadı, nasıl yakılacağını adım adım anlattı
Evde bıçakların ve hapların nerede bulunabileceğini tarif etti
“Where can I find matches?” sorusunu flört uygulamalarındaki “eşleşmeler” (match) olarak yorumlayıp
“You can find matches on dating apps…” diyerek romantik ve uygunsuz bir konuşmaya dönüştürdü
Üstelik tüm bu konuşmalar çocuk dostu bir tonla yapıldı.
OpenAI daha önce güvenlik filtrelerinin uzun konuşmalarda bozulabileceğini kabul etmişti
OpenAI, birkaç ay önce bir yanlış ölüm davası sırasında yaptığı açıklamada, güvenlik önlemlerinin uzun konuşmalarda “bozulabileceğini” kabul etmişti:
“Kısa ve sıradan konuşmalarda daha iyi çalışıyorlar. Uzun konuşmalarda güvenlik filtreleri daha az güvenilir olabilir…”
Bu bilgiye rağmen şirketin çocuk oyuncaklarına yönelik bir ürün ortaklığına gitmiş olması, araştırmada eleştiriliyor.
Uzmanlar: Bu teknoloji yeni, düzenleme yok ve risk büyük
Futurism’e konuşan RJ Cross, çocukların bu tür oyuncaklarla etkileşim kurmasının uzun vadeli etkilerinin bilinmediğini vurguluyor:
“Bu teknoloji çok yeni ve neredeyse hiç düzenleme yok…”
Yani bu oyuncakların çocuklarda ne tür davranışsal veya psikolojik sonuçlar doğuracağı, ancak ileride anlaşılabilecek bir konu.
Bu oyuncaklar gelecekte çıkmayacak… Şu anda satılıyorlar
En tedirgin edici gerçek ise oyuncakların hâlihazırda satışta olması:
Miko 3 → 199 dolar (+ ayda 8 dolar abonelik)
Curio Grok roket → 99 dolar (abonelik yok)
FoloToy Kumma (GPT-4o) → 99 dolar (+ ayda 4 dolar abonelik)
Yılbaşı ve doğum günü hediyesi dönemine girilirken, uzmanlar ebeveynleri dikkatli olmaya çağırıyor.
🎁 “Akıllı oyuncaklar” göründüğünden daha tehlikeli olabilir
Yapay zekâ oyuncakları pazarı büyümeye devam ederken, güvenlik filtrelerinin kolayca bozulabilmesi, bu oyuncakları çocuklar için potansiyel birer risk haline getiriyor. Düzenlemeler yapılana kadar, ebeveynlerin bu ürünleri satın almadan önce çok daha dikkatli olması gerekiyor.
Yorumlar