在算法“学会共情”的时代，真正的向善不仅仅是让机器变得更温暖美好，更是让人在与机器的交互中始终葆有自主与清醒
国家互联网信息办公室、公安部等五部门联合公布的《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）自7月15日起施行。《办法》立足人工智能拟人化互动服务特点，聚焦情感互动边界、用户依赖干预、数据安全、未成年人网络保护等关键环节，进一步落实相关法律规定要求，标志着我国人工智能治理向场景化的精细规制迈出重要一步。
随着人工智能技术的快速发展，拟人化互动服务已成为重要应用方向，其通过模拟人类情感和沟通方式，带来了新的发展机遇和人机交互体验，在文化传播、适幼照护、适老陪伴等领域展现出巨大潜力，但也带来了危害未成年人身心健康、影响网络信息安全、威胁公民生命健康及加剧伦理偏差等风险。
需要认识到，情感互动触及用户的深层心理状态、价值判断与人格尊严，其风险往往以不易察觉、难以举证、不可逆转的方式呈现。算法对用户情感的深度介入，可能引致心理依赖、边界松动乃至人际连接弱化，这一点在未成年人、老年人及心理脆弱群体身上体现得尤为突出。《办法》以“持续性的情感互动”为规制锚点，将拟人化互动服务从生成式人工智能应用中单独区分出来，实现了对治理对象的精准锚定。其制定不仅是与国际治理规则的接轨，更是立足本土需求的创新。
《办法》亮点纷呈，体现了我国网络法治和算法治理的延续与深化。一是治理理念的落实。《办法》将“发展和安全并重”“促进服务向上向善”等理念转化为对产品功能的具体要求，使价值理念体现在每一条具体的规则和措施中。二是治理重心的前置。我国的算法治理一贯强调风险预防，《办法》将这一要求前置于情感交互场景，要求平台在损害发生前识别、预警和干预，体现出对情感层面累积性、隐蔽性损害的针对性回应。三是治理工具的精细适配。《办法》引入算法备案、安全评估、沙箱机制等人工智能治理中已得到初步验证的措施，要求注册用户100万以上或月活跃用户10万以上的服务提供方开展安全评估等规定，为分级分类监管提供了操作依据；多元主体协同框架则将企业、监管、行业、社会四层责任加以衔接，形成环环相扣的治理链条。尤其值得关注的是，《办法》对重点群体进行特殊保护，体现了浓厚的人文关怀。如规定禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务，向14周岁以下未成年人提供其他服务须取得监护人同意；向老年人提供服务，应强化健康使用服务方面的指导等。这些条款直击社会痛点，回应了公众对算法侵蚀的深层忧虑，彰显了相关部门对“情感安全”这一新议题的密切关注与积极应对。
制度的生命在于实施，落实好《办法》需在四个关键环节发力。一是企业主体责任须全周期贯彻落实，尤其要强化算法迭代后的责任落实。虽然《办法》要求平台在全生命周期部署安全措施，但合规审查容易沦为上线前的“一次性审查”，算法迭代后安全措施易被架空，因而必须建立确保技术和应用变更触发重新评估的有效机制。二是对重点群体的跨专业协同保护须建立相应机制与规程。《办法》要求平台在用户出现极端情况时采取援助措施并联络监护人，但援助内容、联络通道、响应时限等并未明确。当前，相关企业与心理诊疗、社会工作、医疗急救等机构缺乏数据接口和联动协议，因此需建立实体化协作网络和应急机制，明确触发条件、响应层级和处置流程。三是须进一步强化跨部门协同执法。《办法》解决了“谁来管”，但“怎么管”仍待细化。为此，要明确各部门在备案审查、线索移送、联合取证、处罚执行等环节的职责分工和衔接程序，建立信息共享平台和案件会商机制。四是合规工具需同步升级。监管者要引导和督促服务提供者打造情感交互风险的识别工具和应对机制，并适时建立推荐性技术标准，确保合规能力符合风险治理要求。
拟人化互动服务的治理，是人类文明在技术加速时代必须直面的深层命题：当机器能够模仿甚至替代人类的情感功能，我们该如何面对这一冲击？《办法》的回应是为前沿技术的应用设置清晰的伦理底线和行为边界，避免智能的陪伴异化为对情感的劫持、交互的舒适便利蜕变为对孤独的推波助澜。在算法“学会共情”的时代，真正的向善不仅仅是让机器变得更温暖美好，更是让人在与机器的交互中始终葆有自主与清醒。期待《办法》在实践中进一步凝聚共识，使技术的蓬勃发展与人类的精神守护相向而行，最终走向机器更智能安全、人心更自由充盈的未来。
（苏宇正规股票配资公司，中国人民公安大学教授、数据法学研究院院长）
嘉多网提示：文章来自网络，不代表本站观点。
相关文章
热点资讯
