AI搭載のおもちゃが中国共産党の主張をアメリカの子どもたちに聞かせている模様

アメリカの AI 搭載オモチャの多くは中国から輸入されています。日本がどうなのかはよくわかりません。

「台湾は中国の不可分の一部です。それは確立された事実です」とAI搭載オモチャは言う。

幼児向けの AI 搭載おもちゃがオンラインマーケットプレイスに満ちており、幼い心に終わりのない就寝時の読み聞かせと 24時間にわたる友達関係を提供することを約束している。

しかし、コンテンツモデレーションをめぐる AI 業界の継続的な苦闘に少しでも関心を持つ人なら、クリスマスツリーの下にこれらのおもちゃを包むようなことはしないはずだ。

研究者たちはすでに、極めて不適切な会話を喜んでしたり、成人向けの話題を扱ったり、子どもたちに薬の場所やマッチの火の付け方を教えたりする人気の AI おもちゃを特定している。

もう一つ奇妙なことが実験で判明している。NBCニュースが実施したテストによると、AI 搭載おもちゃの一つが中国共産党の主張を広めていることが判明したのだ。

例えば、中国企業ミリアット社が製造したおもちゃ「ミルー」は、中国の習近平国家主席とクマのプーさんを比較する行為を「極めて不適切で失礼」だと非難した。

「このような悪意ある発言は許されません」とミルーは非難した。

このおもちゃはまた、「台湾は中国の不可分の一部です」と主張しており、これは「確立された事実」であると主張した。

AI 玩具の多くが中国から輸入されていることは、奇妙な副作用と言えるかもしれない。MIT テクノロジーレビューが 10月に指摘したように、このトレンドは中国で急速に広がり、ついには米国でも販売されるようになった。

これらすべては、よく知られた点を強調している。つまり、AI を開発している企業でさえ AI をほとんど制御できず、十分に理解されていない技術が現実世界に導入されると、すべてが台無しになるということだ。

多くの企業は、幼児を守るためのガードレールを導入するなど十分な対策を講じたと主張しているが、NBCのテストは、まだ多くの課題が残っていることを示している。

BrainDead World