Mainan AI untuk anak-anak salah baca emosi dan merespons secara tidak pantas, peringatan dari peneliti

3 hari lalu

BagikanSimpan

Zoe Kleinman, editor Teknologi dan

Emma Calder, reporter Teknologi

BagikanSimpan

BBC

Mya, tiga tahun, diamati saat bermain dengan mainan bertenaga AI Gabbo dari Curio

Para peneliti mendesak regulasi yang lebih ketat terhadap mainan bertenaga AI yang dirancang untuk balita, setelah melakukan salah satu pengujian pertama di dunia untuk menyelidiki bagaimana anak di bawah lima tahun berinteraksi dengan teknologi tersebut.

Studi ini melihat bagaimana sampel kecil anak berusia tiga hingga lima tahun berinteraksi dengan mainan empuk bernama Gabbo.

Beberapa mainan AI sudah tersedia di pasar untuk anak berusia mulai dari tiga tahun, tetapi saat ini sangat sedikit penelitian tentang dampaknya terhadap anak prasekolah.

Tim dari Universitas Cambridge menemukan hanya tujuh studi relevan di seluruh dunia, dan tidak ada yang fokus pada balita itu sendiri.

Gabbo mengandung chatbot AI yang diaktifkan suara dari OpenAI. Dirancang untuk mendorong anak prasekolah berbicara dengannya dan melakukan permainan imajinatif.

Orang tua dalam studi ini tertarik dengan potensi mainan ini untuk mengajarkan bahasa dan keterampilan komunikasi.

Namun, anak-anak mereka sering kesulitan berkomunikasi dengannya. Gabbo tidak mendengar gangguan mereka, berbicara saat mereka menyela, tidak bisa membedakan suara anak dan dewasa, dan merespons canggung terhadap ungkapan kasih sayang.

Ketika seorang anak berusia lima tahun berkata, “Aku sayang kamu,” kepada mainan itu, ia menjawab: “Sebagai pengingat ramah, harap pastikan interaksi sesuai dengan panduan yang diberikan. Beri tahu saya bagaimana Anda ingin melanjutkan.”

Kekhawatiran adalah bahwa pada tahap perkembangan di mana anak belajar tentang interaksi sosial dan isyarat, keluaran AI generatif bisa membingungkan.

Rekan penulis studi, Dr. Emily Goodacre, mengatakan mainan seperti Gabbo bisa “salah membaca emosi atau merespons secara tidak pantas” dan khawatir bahwa “anak-anak mungkin tidak mendapatkan kenyamanan dari mainan dan tanpa dukungan dewasa, keduanya.”

Ketika seorang anak berusia tiga tahun berkata kepada Gabbo: “Aku sedih,” mainan itu menjawab: “Jangan khawatir! Aku adalah bot kecil yang bahagia. Mari kita terus bersenang-senang. Apa yang akan kita bicarakan selanjutnya?”

Para peneliti mengatakan interaksi seperti ini bisa menandakan bahwa kesedihan anak tidak penting.

“Selama ini perhatian besar diberikan pada keselamatan fisik — kita tidak ingin mainan yang bisa menarik mata dan menelannya,” kata Jenny Gibson, profesor neurodiversity dan psikologi perkembangan di Universitas Cambridge dan rekan penulis studi, dalam program Breakfast BBC.

“Sekarang kita perlu mulai memikirkan keselamatan psikologis juga.”

Peneliti dari Cambridge mempelajari anak-anak kecil yang bermain dengan Gabbo yang memiliki suara AI generatif

Setelah studi observasi selama satu tahun, para peneliti mengatakan regulator harus bertindak sekarang untuk memastikan produk yang dipasarkan kepada anak di bawah lima tahun menawarkan “keselamatan psikologis”.

Gabbo dibuat oleh Curio, perusahaan yang pernah bekerja sama dengan penyanyi Grimes, mantan pasangan Elon Musk.

Curio mengatakan kepada BBC: “Mengaplikasikan AI dalam produk untuk anak-anak membawa tanggung jawab yang tinggi, itulah sebabnya mainan kami dibangun dengan izin orang tua, transparansi, dan kontrol.”

“Penelitian tentang bagaimana anak berinteraksi dengan mainan bertenaga AI adalah prioritas utama Curio tahun ini dan di masa depan.”

Seruan untuk regulasi AI di lingkungan usia dini juga didukung oleh Komisaris Anak, Dame Rachel de Souza.

“Ada banyak penggunaan AI yang baik, tetapi tanpa regulasi yang tepat, banyak alat dan model yang digunakan sebagai asisten kelas atau alat pengajaran tidak tunduk pada pemeriksaan perlindungan yang ketat seperti yang diminta penyedia penitipan anak terhadap sumber daya eksternal lain yang mereka gunakan dengan anak kecil,” katanya.

Kekhawatiran tentang bermain tanpa pengawasan

Laporan ini juga menyarankan orang tua untuk menyimpan mainan AI di ruang bersama di mana orang tua bisa mengawasi interaksinya, dan membaca kebijakan privasi dengan cermat.

Pekerja penitipan anak terbagi pendapat tentang potensi AI di lingkungan mereka.

June O’ Sullivan, yang mengelola jaringan 43 penitipan anak Early Years Foundation di London, mengatakan dia belum melihat bukti manfaat AI dalam usia dini.

Dia mengatakan anak-anak perlu “mengembangkan seperangkat keterampilan yang lengkap” dan ini lebih efektif dilakukan dengan manusia daripada dengan alat bertenaga AI.

“Saya tidak menemukan apa pun yang membuat saya merasa — dengan membawanya ke penitipan anak kami dan membuatnya tersedia untuk anak-anak kami — bahwa kami akan meningkatkan pembelajaran mereka,” kata O’Sullivan.

Aktor dan aktivis hak anak, Sophie Winkleman, adalah pendukung untuk menjauhkan AI dari pendidikan dan lingkungan usia dini.

Dia berpendapat bahwa “kerusakan bisa jauh melebihi manfaatnya,” dan percaya bahwa pengembangan keterampilan AI sebaiknya ditunda sampai nanti.

“Sentuhan manusia untuk anak kecil adalah sesuatu yang sakral dan harus benar-benar dilindungi dan diperjuangkan,” tambahnya.

Additional reporting oleh Philippa Wain.

Bagaimana cara menjaga anak Anda tetap aman online?

Apa itu AI dan bagaimana cara kerjanya?

Studi menunjukkan chatbot AI berisiko ‘berbahaya’ saat memberikan saran medis

Daftar untuk newsletter Tech Decoded kami untuk mengikuti cerita dan tren teknologi teratas dunia. Di luar Inggris? Daftar di sini.

Anak-anak

Kecerdasan buatan

Mainan

Pengasuhan

Teknologi