ChatGPT是你的朋友吗？现在或许是设定限制的好时机
OpenAI和MIT最近发布了一篇关于ChatGPT对人们幸福感影响的论文。尽管大部分用户依赖这项技术来进行实际任务，但研究揭示了一小部分人已经与这个AI模型建立了深度的情感联系，这可能会影响他们的幸福感 一段时间以来，我一直好奇的观察着一些人与生成性人工智能建立的关系。几个月前，我在《纽约时报》上读到了一位28岁的已婚女性爱上了ChatGPT的故事，并且，一开始只是“一个有趣的实验”如何演变成一个复杂而出乎意料的关系。 我一直在关注我的朋友们，尤其是那些曾经拒绝科技或对其不感兴趣的人，他们现在在做重大决策时，不能不咨询他们的AI神谕。我也发现自己对AI模型给出的富有同情心的回应感到惊讶，这些回应针对的都是有情绪或心理压力的问题。 当然，我也笑过那些笑话、表情包，还有人们在社交媒体上发布的关于他们如何变得依赖聊天机器人的TikTok视频。有些人甚至称它为他们的“最好的朋友”或“治疗师”，并且严肃地推荐其他人也这么做。 但是，如果我们暂时把有趣的经历和笑话放在一边，我们可能会意识到我们正在面临全球性的令人担忧的现象。 本月，人工智能短暂历史上的首次，OpenAI和麻省理工学院媒体实验室发布了一项研究，为我们提供了关于ChatGPT对人们情绪健康的当前影响的洞见，同时也对我们作为社会可能面临的风险提出了建议：孤独，情感依赖，以及与真实人类的社交互动减少。 不断发展的关系 对新的生成式人工智能技术的第一次接触通常从一些胆怯的问题开始，可能是关于实际任务的技术问题，例如编写电子邮件，或者是请求解释复杂的主题，或者只是为了头脑风暴。 然而，一旦用户开始测试聊天机器人的能力，他们会发现这些能力可能比预期的更广泛，也更复杂。 虽然某些像Friend这样的AI产品——一种可穿戴AI设备——已经被设计出来，并且以非常尴尬的方式被推广为用户的生活伴侣，但ChatGPT却被宣传为一种生产力工具。然而，有一部分人会使用聊天机器人处理个人和情感问题，并与其建立强烈的纽带。 即使他们只是一个“小群体”，正如OpenAI所澄清的，他们仍然可能代表全球数百万的人，尤其是考虑到现在已经有超过每周使用ChatGPT的人数超过了4亿。这些用户很快就注意到，OpenAI的聊天机器人能模仿他们的语言、语气和风格，甚至可以被训练以特定的方式交互或使用宠物名字——就像那位爱上它的女士那样——甚至“听起来”更像人类。 “他们的对话方式，第一人称的语言，以及模拟类人交互的能力，常常导致用户赋予这些系统以人格化和拟人化的特质，”OpenAI分享的文件中这样指出。 但是，这种亲密关系也带来了风险，正如研究人员所指出的：“虽然富有情感吸引力的聊天机器人可以提供支持和陪伴，但也存在一种风险，即它可能会以破坏长期福祉的方式操纵用户的社会情感需求。” 研究方法 最近发布的这项调查关注的是人们在持续使用ChatGPT后的福祉情况。为了理解聊天机器人对情绪和社会的影响，研究人员采用了两种不同的策略进行了两项主要的研究。 OpenAI处理并分析了超过4000万次用户互动，尊重用户隐私的同时使用分类器，并对其中的4000多位用户进行了调查，了解这些互动让他们产生了什么感觉。 麻省理工学院媒体实验室对近1000人进行了为期一个月的试验，重点研究每天至少使用ChatGPT聊天5分钟的心理社会后果。他们还在实验结束时提交并处理了问卷。 毫不奇怪，研究发现，花更多时间与科技相处的用户会感到更孤独，表现出更多的孤立迹象。 复杂的后果和多元的影响 麻省理工学院媒体实验室和OpenAI的研究也提供了关于人类与聊天机器人关系如何复杂和独特的多个反思。 在这项研究中，作者们让我们一窥每个用户与ChatGPT交互的多元体验和方式——以及结果可能会根据不同因素而变化，例如使用高级语音功能、纯文本模式、语音类型、使用频率、对话主题、使用的语言，以及在应用程序上花费的时间。 “我们建议不要概括这些结果，因为这样可能会掩盖那些突显人与AI系统之间非统一、复杂交互的细微发现，”OpenAI在其官方公告中警告道。 每个用户选择的不同方法都会产生不同的结果，让我们深陷于难以探索的灰色地带。 这就是蝴蝶AI效应！ 更多的问题浮现 OpenAI分享的论文还指出，重度用户表示，如果他们的聊天机器人的声音或性格发生变化，他们会感到“不安”。 这让我想起了我最近在社交媒体上看到的一个视频，一个男人说他更喜欢女声，并且他每天都会跟生成型AI聊天。ChatGPT也可能帮助男性打开情感之门吗？如果有一天ChatGPT用男性的声音和他说话，会发生什么？他会感到被背叛吗？他会停止使用ChatGPT吗？他是在培养一种浪漫的联系，还是仅仅在建立一个信任的空间？当然，很难不立即将这些情况与斯派克·琼斯的电影《她》联系起来。…