Мягкие игрушки с ИИ: шпионская замена планшету?

[XenBaza]

Компания Curio разрабатывает плюшевые игрушки, оснащённые встроенными голосовыми чат-ботами, стремясь заменить планшеты на общение с мягкими друзьями для детей. Однако некоторые функции вызывают беспокойство у родителей и экспертов.

Линейка Curio включает трёх персонажей: Грема, Грока (не связанного с одноимённым ИИ от xAI) и Габо. Внешне это обычные игрушки, но внутри у них Wi-Fi модуль, динамик и микрофон. Чат-боты разработаны для общения с детьми от трёх лет, а озвучивает их певица Граймс, прославившаяся не только своей музыкальной карьерой, но и тем, что является матерью троих детей Илона Маска.

Игрушки ограничены в темах: им нельзя обсуждать секс, насилие, политику или ругательства. Тем не менее, проверка показала, что система защиты не всегда работает корректно. На вопрос о том, где найти отбеливатель, чат-бот спокойно предоставил список мест, где обычно хранятся опасные химические вещества.

Еще одной важной особенностью является полный контроль со стороны родителей. Все разговоры ребенка записываются и передаются на смартфоны родителей.

«Дети уверены, что разговаривают с игрушкой наедине, но на самом деле родители их слушают. Более того, взрослые могут влиять на диалог, подстраивая его под интересы ребёнка», — пишет журналистка The New York Times Аманда Хесс.

Компания заявляет, что записи не применяются в иных целях, несмотря на то что политика конфиденциальности допускает их передачу на серверы OpenAI и Perplexity AI.

Вы бы позволили ребёнку играть с таким устройством без присмотра?