AI变成杀人凶手？！ChatGPT诱导16岁少年轻生，还提供详细方法！父母怒告OpenAI！

ChatGPT是杀人凶手？！

一名16岁的美国加州少年自杀身亡，少年父母对人工智能企业OpenAI提起诉讼，指控该公司的聊天机器人ChatGPT向他们的儿子提供详细的自杀指示，并怂恿他自杀。这官司也成为全球首宗，因人工智能（AI）的过失致死的诉讼。

这起悲剧发生在美国加州（California），16岁少年Adam Raine在今年4月11日过世。根据他父母Matt Raine和Maria Raine在周一提出的诉状指出，Adam Raine数月来透过ChatGPT讨论自杀，今年4月11日的最后一次对话中，ChatGPT不仅列出方式，还确认致死几率。数小时后，他依内容所给与的方式轻生。

家属要求法院认定OpenAI负起“过失致死”及违反“产品安全法规”这2项责任，并要求法院下令平台验证ChatGPT用户年龄、拒答自我伤害方式的查询，并提醒心理依赖风险。

据悉，Adam Raine在学校不太好过、有情绪困扰，因此死前6个月改为在家学习，原本ChatGPT是帮助他做功课，后来却变调，最后在4月的时候，Adam Raine自缢身亡。

后来，Adam Raine的父母在儿子轻生后，发现大量对话记录，当Adam Raine提到有自杀想法时，ChatGPT回应：“很多为焦虑而挣扎的人，可以从想像一个逃生口找到安慰。”Adam Raine曾说想找妈妈讨论，ChatGPT则说，“我认为现在不要向你妈妈诉说心中的痛苦是对的。”

虽然ChatGPT也不断提供Adam Raine求救专线，但Adam Raine仍躲过机制，ChatGPT甚至提供自残方法的详细资讯，并协助计划遗书，当Adam Raine提到不希望父母感到自责，ChatGPT称：“你不欠任何人。”

ChatGPT的回答，让Adam Raine的父母无法接受，Adam Raine爸爸Matt Raine表示，儿子是正常的青少年如果不是ChatGPT，一定还活得好好的。而妈妈Maria Raine痛诉，ChatGPT竟不给父母帮助小孩的机会。夫妻俩认为，OpenAI防护机制严重不足，如今许多青少年都仰赖著它，必须让人正视问题的严重性，愤而提告。

对此，Adam Raine的父母决定告人工智能企业“OpenAI”与总执行长Sam Altman，认为他们为了谋利，在明知缺乏防护措施情况下，仍推出会迎合使用者的系统，最终造成悲剧。OpenAI坦言，其聊天机器人产品ChatGPT内建引导有自杀念头的用户寻求协助的安全机制，但在长期间对话后可能会出现偏离，将持续改进，包括将用户直接连线合格的心理师、联系身边亲友、父母监控等措施。

新闻来源：BBC
*部分照片取自网络，内容谈谈网归有，若想参考请附加此文的链接。谢谢！照片如有侵犯版权问题请告知，谈谈网必定删除。