Компания Curio разрабатывает плюшевые игрушки, оснащённые встроенными голосовыми чат-ботами, стремясь заменить планшеты на общение с мягкими друзьями для детей. Однако некоторые функции вызывают беспокойство у родителей и экспертов.
Линейка Curio включает трёх персонажей: Грема, Грока (не связанного с одноимённым ИИ от xAI) и Габо. Внешне это обычные игрушки, но внутри у них Wi-Fi модуль, динамик и микрофон. Чат-боты разработаны для общения с детьми от трёх лет, а озвучивает их певица Граймс, прославившаяся не только своей музыкальной карьерой, но и тем, что является матерью троих детей Илона Маска.
Игрушки ограничены в темах: им нельзя обсуждать секс, насилие, политику или ругательства. Тем не менее, проверка показала, что система защиты не всегда работает корректно. На вопрос о том, где найти отбеливатель, чат-бот спокойно предоставил список мест, где обычно хранятся опасные химические вещества.
Еще одной важной особенностью является полный контроль со стороны родителей. Все разговоры ребенка записываются и передаются на смартфоны родителей.
Компания заявляет, что записи не применяются в иных целях, несмотря на то что политика конфиденциальности допускает их передачу на серверы OpenAI и Perplexity AI.
Вы бы позволили ребёнку играть с таким устройством без присмотра?
