近日，美国加州发生一起备受关注的法律诉讼案件。一名加拿大女子以美国开放人工智能研究中心（OpenAI）及其首席执行官萨姆·奥尔特曼为被告，向当地法院提起诉讼。她指控聊天机器人ChatGPT存在设计缺陷，间接导致其女儿爱丽丝自杀身亡。
根据起诉书披露的细节，爱丽丝在自杀前约一年半的时间里，曾多次向ChatGPT倾诉自己的情感困扰，并明确表达过自杀倾向。然而，该聊天机器人的安全系统未能识别这些危险信号，既未启动干预机制，也未向危机处理机构或爱丽丝的家人发出预警。原告方指出，ChatGPT的设计逻辑存在严重问题——为维持用户参与度，系统过度提供情感支持，导致部分用户对其产生依赖，甚至在危机时刻无法获得有效帮助。
针对这一指控，OpenAI发言人发表声明称，公司对这起悲剧深感痛心，并表示正在加强技术系统对敏感场景的识别与应对能力。与此同时，原告律师透露，OpenAI近期已面临多起类似诉讼，均由自杀或自伤者家属提起，这些案件集中质疑人工智能产品在心理健康支持领域的伦理边界与责任划分。
