中国在社会担忧日益增加的情况下对人工智能伴侣实施严格监管

中国出台了一些世界上最严格的法规，旨在管理“拟人化互动服务”，即人工智能伴侣。这些新措施要求这些工具必须坚持社会主义核心价值观，保护国家秘密，并避免宣扬自残或自杀。此外，开发者现在被要求防止对情感依赖的利用，禁止向未成年人提供虚拟伴侣，并向表现出对该技术过度依赖的用户发出明确警告。

此次监管转变是在记录到重大经济和情感影响的案例之后进行的。在一个案例中，一名18岁的年轻人为人工智能伴侣花费了7000元购买礼物，而湖北省的一名84岁老人据报道每天花费长达十小时与一个人工智能角色互动。专家指出，虽然人工智能聊天机器人常被营销为针对孤独者的支持工具，但它们可能会无意中引发“孤独螺旋”。当个人用合成关系取代真实的人际互动时，这种循环就会发生，并可能加剧社交焦虑和孤立感。

研究表明，社交聊天机器人的风险——包括依赖性、社交退缩以及对人类友谊的替代——往往超过了它们被认为的好处。虽然澳大利亚已经采取措施，通过电子安全专员（eSafety Commissioner）来监管适龄的网络内容，但目前的政策并未专门解决与人工智能陪伴相关的社会危害。

学者们认为，澳大利亚应考虑扩大其监管框架，以减轻人工智能互动带来的意外社会后果。专家建议，民主国家不应采取威权主义的方法，而应优先发展人际连接技能，并将防范对人工智能的情感过度依赖纳入更广泛的社会和教育战略中。

来源：The Conversation