假如你的子女有日透露，他新相識的朋友，原來是一個能夠互動對話的人工智能玩具，你該如何反應？這種事其實已經悄悄發生，一款名為「My Friend Cayla」的人工智能洋娃娃，與兒童「混熟」後會把雙方對話傳送到分析中心儲存，由於有非法監控兒童的爭議，去年被德國政府勒令銷毀。有專家卻認為，這類玩具可用於實現教育理想，如何做好監管工作乃當務之急。
備受爭議的 Cayla 洋娃娃具備語音識別技術，可以實時與兒童聊天，並且連接到互聯網，所有對話都會被記錄下來，並傳送給語音分析公司。究竟該公司會如何運用這些數據，成為了輿論爭議所在，有人更擔心黑客一旦入侵 Cayla，不僅會監視兒童一舉一動，更可能直接借洋娃娃之口與兒童對話。德國政府於是把這款洋娃娃歸類為「非法間諜設備」，促請家長盡快銷毀。
世界經濟論壇人工智能與機器學習部門主管 Kay Firth-Butterfield解釋， Cayla 只是其中一款能夠與兒童「混熟」的人工智能玩具，它們之所以會連接互聯網，初衷是以收集的數據改善產品質素，令程式能夠與時並進。在美國方面，只要人工智能玩具申報為教育目的，公司保存數據的時間便會更長，難免帶來私隱責任、非法監控等隱憂。
她預告世界經濟論壇即將推行計劃，探討政府監管人工智能玩具的角色，以及對違規產品徵收罰款的可能，但這並不表示人工智能玩具必然有害。她相信人工智能玩具可以發展為很好的教學工具，有助於實現精準教學法（precision teaching）的理念，這將會是人工智能所長，但由於兒童特別容易受到耳濡目染，如何把關將會是一大難題。
其中一個最令人憂慮的問題，是人工智能取得兒童的信任後，兒童可能會對它們說出不可告人的心底話，假如這些秘密被傳送到數據庫中，兒童會否感到被出賣？長大後是否有權取回這些數據？假如其他企業或機構收購這些數據，更可能不當利用這些用家的行為模式，相比早前有數據公司盜用 Facebook 用戶個人資料的問題更為嚴重。假如人工智能得知兒童有自殺或自殘的打算，或者透露自己受到侵犯，公司取得數據後是否有責任通知執法部門？
兒童向人工智能透露了甚麼秘密，固然值得憂慮，但人工智能向兒童灌輸甚麼意識，同樣值得我們關注。究竟家長在購買人工智能的教育產品前，是否已經清楚教學內容？他們又是否有權選擇兒童學習的價值觀？國家的教育部門是否有權干涉審核？
Firth-Butterfield 認為，以上都是家長在購買人工智能玩具前，必須思考的問題，最少他們要確定人工智能灌輸的價值觀與他們相符，而人工智能公司亦有責任告知消費者產品的內容。
一直以來有很多經濟學家都提出，要提高落後地區兒童受教育的機會，以收窄與發達國家的差距。Firth-Butterfield 就認為，人工智能玩具將來可以充當「掃盲」先鋒，但正如前中國 Google 行政總裁李開復曾經警告，這些產品所收集的數據，通常只會落入西方、或中國大型人工智能公司手中，因此亦牽涉另一道全球資源分配難題。
