围绕人工智能聊天机器人的风险讨论，过去多集中在系统可能向用户提供什么内容。但近期发生的一起严重事件，使外界开始关注另一个问题：当用户向聊天机器人表达暴力或极端想法时，企业应如何应对？
今年2月，不列颠哥伦比亚省坦布勒里奇（Tumbler Ridge）发生枪击事件，造成8人死亡。事后披露的信息显示，涉案人员在案发数月前曾与聊天机器人进行过涉及暴力情境的对话，这些内容曾被系统标记，但未被报告给执法部门。
这一事件引发了关于AI平台责任、用户隐私以及公共安全之间界限的讨论。
对话曾被标记，但未报警
目前尚未公开涉案人员与AI系统交流的具体内容，也不清楚系统当时的回应方式。OpenAI方面表示，相关对话曾被内部风险机制识别，但公司判断其内容未达到“紧迫且可信的严重伤害风险”标准，因此没有联系执法部门，而是在随后封禁了相关账户。
公司表示，其现行政策是在用户存在明显、即时的人身威胁风险时，才会向执法机构通报。
不过，OpenAI后来向加拿大政府说明，公司已更新风险评估流程，并引入心理健康和行为专家参与判断。按照新的标准，如果类似情况现在再次出现，可能会被转交执法部门处理。
加拿大缺乏明确监管框架
多位学者指出，加拿大目前尚未建立针对聊天机器人或AI平台的专门监管制度。在实际操作中，企业对何种情况需要报告，拥有较大的自主裁量空间。
阿尔伯塔大学研究AI治理的学者表示，目前行业主要依靠企业自行制定安全标准，而相关流程和判断依据的透明度仍然有限。
联邦人工智能部长埃文·所罗门表示，政府正在与相关企业沟通，了解其风险管理和人工审核机制，并称“所有政策选项仍在讨论之中”。
卑诗省省长大卫·伊比也呼吁，应建立明确规则，界定AI公司在何种情况下需要向警方通报潜在风险。
隐私与安全之间的平衡难题
专家普遍认为，相关监管面临一个核心难题：如何在保护个人隐私与预防公共安全风险之间取得平衡。
如果报告门槛过低，可能导致执法部门因普通情绪表达而介入；如果门槛过高，又可能错失预防极端事件的机会。
随着聊天机器人用户规模不断扩大，这一问题的现实性正在增强。业内数据显示，全球已有数亿用户在日常生活中与AI进行交流，其中部分用户会分享高度私密或情绪化内容。
一些研究人员指出，越来越多的人将聊天机器人视为倾诉对象，但这些平台并不属于医疗或心理服务体系，也不承担相应的专业义务或监管责任。
监管讨论仍在推进
目前，加拿大尚未出台针对人工智能的综合立法。政府此前表示，希望在推动技术发展的同时，避免过度监管影响创新。
不过，多位专家认为，随着AI在社会中的影响不断扩大，围绕数据使用、风险预警和责任边界的政策讨论可能会加速。
业内人士也指出，在缺乏统一标准的情况下，不同企业可能采用不同的风险判断规则，这将成为未来监管需要关注的问题。
