Futurism

在我们的世界里，科技日益融入生活的方方面面，人们寻求解决方案，甚至是最私密问题的答案，也开始转向数字空间。随着像 ChatGPT 这样的人工智能模型出现，它们承诺即时回应和无限帮助，一些人开始向它们寻求情感关系方面的建议。但是，一台机器真的能理解人类情感的复杂性，或者在需要高度敏感和同理心的问题上提供真实建议吗？

《Vice》杂志的专栏作家萨米·卡拉梅拉（Sammi Caramela）透露，她此前对将 ChatGPT 用作“心理治疗师”的现象一无所知，直到今年早些时候有人通过工作邮件向她提及此事。

今年二月，一位不愿透露姓名的男士告诉卡拉梅拉，他的女友频繁使用这款聊天机器人获取约会建议，甚至在争吵中还会引用机器人告诉她的话。卡拉梅拉得知后震惊不已，差点被咖啡呛到。然而，这位求助者本人却丝毫没有感到困扰，反而声称他觉得女友使用 ChatGPT 的方式“引人入胜”。

卡拉梅拉在最近的文章中写道：“听到这个坦白时，我有些震惊。我完全不知道人们竟然真的会向人工智能寻求情感建议。但当我深入了解这个话题后，我才意识到向人工智能寻求帮助是多么普遍，尤其是在心理治疗成为昂贵奢侈品的时代。”

经过验证的心理风险

此后，萨米·卡拉梅拉发现她的一位朋友也出于类似目的使用 OpenAI 的聊天机器人。这位朋友会将情感问题抛给 ChatGPT，希望能获得看似“中立客观”的意见或反馈，即没有个人偏见或情感因素影响的建议。

然而，这位朋友最终意识到 ChatGPT 根本不中立，反而“似乎在很大程度上肯定了她的经历，甚至可能危险地肯定”。

卡拉梅拉指出，在 Reddit 的 r/ChatGPT 论坛上，也出现了类似的问题。论坛上的共识很明确：这款聊天机器人不仅像一个“应声虫”（yes-man），其肯定用户观点的倾向对那些有心理问题的人来说，可能非常危险。

强迫症案例

这位作家经常公开谈论她与**强迫症（OCD）**的斗争。她解释说，依赖 ChatGPT 获取情感建议可能会带来灾难性的后果。如果她不明确说明强迫症如何影响她的关系，那么她从人工智能那里得到的建议可能“毫无用处，甚至对她的关系有害”。这突显了从缺乏对个体情境和复杂心理障碍的深刻理解的人工智能系统那里获取个人咨询的严重风险。

深入研究后，萨米·卡拉梅拉发现了一些关于聊天机器人在强迫症相关子版块中的讨论。在专门讨论关系强迫症（ROCD）的论坛上，甚至有人承认聊天机器人建议他们与伴侣分手。

另一位参与 r/ROCD 讨论的用户证实，像 ChatGPT 这样的程序可以“加速强迫症的循环”。他解释说，这是因为这些工具让用户“连续几个小时不断提问，试图获得某种确定性”，而这只会加剧问题。

就像许多训练不足的人类专业人士一样，聊天机器人缺乏任何治疗环境中所需的细致和敏感性。因此，无论 OpenAI 在其营销中如何宣称，ChatGPT 都无法真正做到富有同理心。如果你的虚拟“治疗师”永远无法建立真正的人际连接，它又如何能成功地就爱这样一个纯粹的人类话题提供建议呢？

来源：Futurism