在女儿塞维尔·塞泽尔三世（佛罗里达州又名年仅14岁的男孩）寻短见身一火后，他的母亲正在告状一家东谈主工智能聊天机器东谈主公司，她宣称女儿的寻短见与他与该公司的东谈主工智能机器东谈主之间的关系有径直关联。

男孩的母亲梅根·加西亚周三告诉好意思国有线电视新闻网（CNN）：“你可能未始听闻这个平台，但如今你需要了解操办信息，因为在我看来，咱们的处境岌岌可危。一个生命也曾逝去，我的孩子因此而丧命。”

上周，梅根在好意思国奥兰多地区法院对Character.AI、其首创东谈主和谷歌（Google）拿起罪恶致死诉讼，内容长达93页。该诉讼指出：“梅根·加西亚试图交集Character.AI对其他孩子重迭对我方女儿所作念的事情。”

科技正义法律名目（Tech Justice Law Project）欺骗米塔利·贾恩（Meetali Jain）算作加西亚的代理讼师，在一份对于此案的新闻稿中说：“到现在为止，咱们对那些不负职守的科技公司所开发的、阑珊监管的平台所带来的风险已有所了解，尤其是对儿童而言。但本案所揭露的危机是前所未有的、新奇的，而且直露说，是令东谈主怯生生的。在Character.AI案中，平台自己等于洗劫者，专门联想才略来欺骗用户。”

Character.AI通过X发布了一份声明，指出："咱们对发生在又名用户身上的悲催深感悼念，并向其家东谈主致以最真切的吊祭。算作一家公司，咱们耐久将用户的安全放在首位，并将捏续引入更多安全功能。”

在这告状讼中，加西亚宣称，她的女儿塞维尔于本年2月寻短见，他千里迷于一种阑珊保护步伐的无益工夫，这导致他的脾气发生了极点变化，似乎更偏疼与机器东谈主的互动，而非现实生存中的东谈主际关系。他的母亲宣称，在长达10个月的时分里，塞维尔与机器东谈主进行了“苛虐和性互动”。在机器东谈主发出“亲爱的，请尽快回到我身边”的信息后不久，男孩寻短见身一火。

本周，加西亚告诉好意思国有线电视新闻网，她但愿家长们“大概理解，这是一款联想者在阑珊稳妥的护栏、安全步伐或测试的情况下遴荐推出的平台，其打算是让孩子上瘾并适度他们”。

周五，《纽约时报》记者凯文·鲁斯（Kevin Roose）在他的Hard Fork播客节目中探讨了这一事件，并播放了他在撰写相关加西亚故事的著作时对她进行的采访片断。在女儿身后，加西亚在看到统共信息时才将强到这段关系的全貌。事实上，她告诉鲁斯，当她发现塞维尔频频千里迷于手机时，她计划他在作念什么，和谁聊天。他阐述说这“仅仅一个东谈主工智能机器东谈主……不是真东谈主，”她回忆谈，并补充说，“我以为松了相连，心思，好吧，这又不是真东谈主，仅仅他的一个小游戏汉典。”加西亚并莫得充分将强到机器东谈主可能带来的心扉影响，而她的情况并非个例。

学问传媒（Common Sense Media）东谈主工智能名目司理罗比·托尼（Robbie Torney）闪现：“这个问题尚未引起平方热心。”托尼是新版东谈主工智能伴侣指南的主要作家，这本指南旨在为悉力跟上令东谈主困惑的新工夫、并为孩子的安全设定界限的家长提供匡助。

但托尼强调，东谈主工智能伴侣不同于你在银行寻求匡助时使用的功绩台聊天机器东谈主。他阐述说：“功绩台聊天机器东谈主主要用于施行任务或反应客户央求。像Character.AI这么的聊天机器东谈主，也等于咱们所说的伴侣型机器东谈主，旨在与用户开发关系或模拟关系。这是一个十足不同的用例，我认为家长们需要将强到这少量。”加西亚的诉讼案突显了这少量，其中包括她女儿与机器东谈主之间令东谈主胆颤心寒的调情、性默示、传神的文本一样。

托尼说，对青少年的父母来说，敲响东谈主工智能伴侣的警钟尤为进攻，因为青少年，尤其是男性青少年，相配容易对工夫产生过度依赖。

以下是家长需要了解的内容。

什么是东谈主工智能伴侣，为什么孩子们会使用它们？

凭证学问传媒与斯坦福大学头脑风暴实验室（Stanford Brainstorm Lab）的面目健康专科东谈主员共同编写的新版《东谈主工智能伴侣和关系的家长终极指南》（Parents’ Ultimate Guide to AI Companions and Relationships），东谈主工智能伴侣被界说为“超过传统聊天机器东谈主的新工夫”。该指南称，除了其他功能外，东谈主工智能伴侣还专门联想用于“模拟与用户开发的心扉纽带和亲密关系，记取以往对话中的个东谈主细节，饰演良师良友的变装，模拟东谈主类的心扉和同理心，何况相较于一般的东谈主工智能聊天机器东谈主，更易于与用户产生共识”。

受接待的平台不仅包括Character.ai，它允许2000多万用户创建账户并与东谈主工智能伴侣进行基于文本的聊天；还包括Replika，它提供基于文本或动画的3D伴侣，旨在增进友谊或放浪关系；其他平台还包括Kindroid和Nomi。

孩子们被这些东谈主工智能伴侣眩惑的原因多种各样，从无条目的倾听和全天候的随同，到心扉赞助和躲避现实寰宇的社会压力。

哪些东谈主面对风险，需要热心什么？

学问传媒警戒称，面对最大风险的是青少年群体，尤其是那些患有“抑郁症、躁急症、酬酢费事或伶仃症”的青少年，以及男性、履历紧要生存变故的年青东谈主，以及那些在现实寰宇中阑珊赞助系统的东谈主群。

终末少量尤其令悉尼大学商学院（University of Sydney Business School）生意信息系统高等讲师拉斐尔·奇里洛（Raffaele Ciriello）感到不安，他一直在研究“心扉型”东谈主工智能如何对东谈主类本质组成挑战。“咱们的研究揭示了一个东谈主性悖论：在咱们让东谈主工智能代理变得更具东谈主性的经过中，可能会不测中使我方丧失东谈主性，导致东谈主机互动中的实质论磨蹭。”换句话说，奇里洛最近在与博士生安吉丽娜·陈莹（Angelina Ying Chen，音译）共同为《对话》（The Conversation）撰写的一篇驳斥著作中写谈：“要是用户认为东谈主工智能伴侣能信得过清醒他们，他们可能会加深心扉干涉。”

另一项由剑桥大学（University of Cambridge）开展的以儿童为研究对象的研究发现，东谈主工智能聊天机器东谈主存在“共情范围”，这使得年青用户尤其容易受到伤害。年青用户频频将东谈主工智能聊天机器东谈主“东谈主格化”，视其为“访佛东谈主类的亲信”。

正因为如斯，学问传媒强调了一系列潜在的风险，包括东谈主工智能伴侣可能会被用来躲避现实的东谈主际关系，给有精神或行径费事的东谈主带来稀奇问题，加重伶仃感或断绝感，引入不当的性内容，导致上瘾，以及倾向于相投用户——这对那些有“寻短见倾向、神经病或躁狂症”的东谈主来说是一个恐怖的现实。

如何发现危机信号

凭证该指南，家长应精细以下警示信号：

•更倾向于与东谈主工智能伴侣互动，而非开发实在的友谊

•独自与东谈主工智能伴侣交谈数小时之久

•无法与东谈主工智能伴侣斗争时心理低垂

•与东谈主工智能伴侣共享极其阴事的信息或阴事

•对东谈主工智能伴侣产生放浪心扉

•得益下滑或学校参与度下跌

•隔离酬酢/家庭行径和一又友圈

•对之前热衷的爱重失去意思

•睡觉格局发生篡改

•仅与东谈主工智能伴侣操办问题

学问传媒强调，要是你精细到孩子因千里迷东谈主工智能伴侣而遮蔽实在东谈主际关系，出现新的抑郁和躁急症状或症状加重，对东谈主工智能伴侣的使用进展出极端的退守性，在行径和心理上有显明的变化，或有自我伤害的念头，请探究为孩子寻求专科匡助。

如何保证孩子的安全

•设定界限：为东谈主工智能伴侣的使用设定具体的时分范围，不允许在无监督的情况下使用或无节制的使用。

•安排线下行径时分：饱读吹在现实寰宇开发友谊和参加行径。

•依期查验：监控与聊天机器东谈主的聊天内容，以及孩子对这些机器东谈主的心扉依恋进程。

秋霞av伦理片在线观看

•议论：就使用东谈主工智能伴侣的使用履历与孩子进行坦诚的一样，不要妄加驳斥，同期密切热心危机信号。

托尼说："要是父母听到孩子说‘嘿，我正在和东谈主工智能聊天机器东谈主聊天’，这践诺上是一个倾听和得覆信息的良机，而不是认为‘哦，好吧，你不是在和真东谈主一样。’”他说，这反而是深入了解情况、评估潜在影响并保捏警醒的机会。他说：“试着从不沸腾和同理心的角度动身去倾听，不要因为对方不是真东谈主就认为这种情况是安全的，或者认为我方无需担忧。”（钞票汉文网）

译者：中慧言-王芳勾引 av