Character.AI推“家长洞察”功能 聚焦未成年聊天机器人使用监管
新功能概述
聊天机器人服务Character.AI正在推出一项名为“家长洞察”的新功能。该功能允许青少年每周向家长的电子邮件地址发送一份自身聊天机器人使用情况报告。据公司公告，报告内容涵盖用户在网络和移动设备上的每日平均花费时间、最常互动的角色以及与每个角色的交谈时长。这一举措是一系列更新的一部分，旨在解决未成年人使用聊天机器人时存在的两大问题:花过多时间聊天以及在聊天中遭遇不当内容。
报告的可选性与内容
此报告无需父母拥有账户，且具有可选性，未成年用户可在Character.AI的设置中自主设置。公司特别指出，该报告只是青少年活动的概述，并非完整日志，不会共享聊天机器人对话的具体内容。目前，该平台在多数地区禁止13岁以下儿童使用，在欧洲则禁止16岁以下儿童使用。
面临的挑战
自去年起，Character.AI就不断为未成年用户推出新功能，但与此同时，针对其服务的担忧声此起彼伏，甚至出现了法律投诉。该平台深受青少年喜爱，用户能够创建、定制聊天机器人，与之互动或公开分享。然而，多起诉讼指控这些机器人提供不适当的色情内容或鼓励自残的材料。据悉，该公司还收到了苹果和谷歌（去年聘请了Character.AI的创始人）对其应用内容的警告。
系统重设计与未来措施
Character.AI表示，其系统已重新设计。除诸多变化外，为18岁以下用户提供了经过训练的模型，以避免“敏感”输出，还增加了更醒目的通知，提醒用户这些机器人并非真人。但鉴于当前人们对人工智能监管和儿童安全法的高度关注，这或许并非该公司被要求采取的最后一步措施。
