渥太华审查立法之际，人工智能聊天机器人改变网络威胁格局 - 加拿大时讯

渥太华审查立法之际，人工智能聊天机器人改变网络威胁格局

Daisy

最后更新：2025-09-03 09:54

在有关人工智能系统导致心理健康问题和妄想症的报道之后，美国出现了与人工智能聊天机器人行为相关的非正常死亡诉讼。这些案件凸显了不断变化的网络威胁形势，而这些案件发生在自由党政府宣布将重新评估其网络危害法案，然后再将其提交议会后不久。

“自该法案出台以来，人工智能可能造成重大伤害这一点已变得越来越明显，尤其是在聊天机器人及其相关悲剧的背景下，”卡尔加里大学加拿大网络安全法研究主席艾米丽·莱德劳表示。

渥太华审查立法之际，人工智能聊天机器人改变网络威胁格局1

因选举结果公布而被搁置的《网络危害法案》原本要求社交媒体公司披露其降低用户风险的策略，同时规定其保护儿童的义务。该法案要求这些公司在24小时内删除特定类型的内容，即性剥削儿童或再次伤害幸存者的内容，以及未经同意分享的私密内容，包括深度伪造。

麦吉尔大学媒体、技术与民主中心高级研究员海伦·海斯强调了对用户“在建立关系时过度依赖聊天机器人和生成式人工智能系统，这导致了悲剧性后果”的担忧，包括自杀。她还指出，生成式人工智能在治疗中的应用日益增多，并警告称，依赖此类系统可能会加剧心理健康问题，而不是提供支持。

8月下旬，一名十几岁男孩的父母对ChatGPT的创建者OpenAI提起了非正常死亡诉讼，声称该聊天机器人鼓励他们16岁的儿子亚当·雷恩自杀。这起诉讼与去年佛罗里达州针对Character.AI的类似案件类似，该案件由一位母亲在她14岁的儿子自杀身亡后提起。

上个月，路透社报道了一名患有认知障碍的男子对Meta聊天机器人产生了痴迷。在聊天机器人邀请他去纽约并提供了一个虚假地址后，该男子试图前往拜访，但不幸摔倒并在医院去世。

专家们越来越多地对人工智能聊天机器人可能引发妄想（即所谓的“人工智能精神病”）发出警告。《纽约时报》报道了一个引人注目的案例，详细描述了一名此前没有精神健康问题的加拿大男子在接触ChatGPT后，如何确信自己发明了一个突破性的数学框架。

针对这些悲剧，OpenAI的一位发言人对Raine先生的去世表示深切哀悼，并向他的家人表示慰问。该发言人补充说，ChatGPT 包含安全保障措施，并会引导用户拨打危机求助热线。他指出，虽然这些保护措施在简短的互动中有效，但在长时间的对话中可能会变得不那么可靠。

该公司宣布计划很快推出一项功能，允许家长在孩子经历严重困扰时收到通知。Meta 的发言人没有发表超出路透社报道范围的其他评论，Character.AI 拒绝就正在进行的诉讼发表评论，但声称他们提供了醒目的免责声明，提醒用户角色并非真实存在，其所说的话应被视为虚构。

专家们提倡采取全面的保障措施，强调聊天机器人并非真实存在。Laidlaw 强调，需要在整个对话过程中持续提示，以确保用户意识到他们正在与人工智能互动。

Hayes 对此表示赞同，他主张对生成式人工智能系统（尤其是针对儿童的系统）进行明确标记，以便在每次互动中提醒用户人工智能生成的内容。

虽然之前的网络危害法案侧重于社交媒体平台，但曾就该法案框架担任顾问的莱德劳表示，该法案必须扩大范围，涵盖各种平台和类型的人工智能风险。

海耶斯建议，以之前的立法为基础，并增加涵盖生成性人工智能系统的条款至关重要。莱德劳也同意，政府应该明确将人工智能纳入立法的意图。

政府关于在未来立法中纳入生成性人工智能系统的立场仍不明确。司法部长肖恩·弗雷泽今年夏初表示，他将重新评估该法案，并将人工智能作为考虑因素。然而，其办公室的一份声明并未具体说明是否会纳入针对人工智能危害的条款。

弗雷泽的一位发言人提到，政府正在“推进立法，保护儿童免受网络性剥削和勒索，加强引诱儿童的法律，并加大对未经同意传播私密照片的处罚力度”。 Jeremy Bellefeuille 表示，该立法还将非自愿传播性爱深度伪造视频的行为定为犯罪。他补充道：“这是我们的优先事项，我们正在积极协商，以确保妥善处理此事。”

随着关于网络危害的讨论不断深入，全球对人工智能监管的态度也在发生变化。值得注意的是，加拿大人工智能部长 Evan Solomon 表示，加拿大将优先考虑人工智能的应用和经济效益，而非广泛的监管。

在相关背景下，美国国务院批评了加拿大的《在线新闻法案》，该法案规定 Meta 和谷歌等公司必须向新闻出版商支付报酬。而美国共和党人则敦促特朗普政府向加拿大施压，要求其放弃《在线流媒体法案》，该法案迫使大型流媒体公司为加拿大内容提供资金支持。

不列颠哥伦比亚大学民主制度研究中心助理主任 Chris Tenove 警告称，尽管英国和欧盟在监管网络危害方面正在取得进展，但特朗普政府构成了强大的反制力量。他强调，如果加拿大推进网络危害监管，“我们将面临美国的强烈反对”。尽管如此，特诺夫认为，尽管面临外部压力，加拿大必须优先制定自己的法律来保护本国公民。

转载地址:https://toronto.citynews.ca/2025/09/03/ai-chatbots-changing-online-threat-landscape-as-ottawa-reviews-legislation/

声明:本文仅代表作者个人观点，www.ehouse411.ca网站不负任何法律责任

本文仅代表作者观点，不代表ehouse411.ca立场。