研究发现 AI 生成的同情心存在局限性

划重点:

⭐️ 人工智能生成的对话代理在解释和探索用户体验方面表现不佳

⭐️ 研究人员发现，人工智能生成的对话代理对某些身份进行价值判断，并可能鼓励有害意识形态

⭐️ 研究人员呼吁在推进自动同情心技术的同时，应持有批判性观点，以减轻潜在危害

人工智能生成的对话代理（CAs）如 Alexa 和 Siri 旨在回答问题、提供建议，甚至展现同情心。然而，最新研究发现，在解释和探索用户体验方面，它们与人类相比表现不佳。

CAs 由大型语言模型（LLMs）驱动，这些模型摄入大量人类产生的数据，因此可能存在与信息来源人类相同的偏见。康奈尔大学、奥林学院和斯坦福大学的研究人员测试了这一理论，通过促使 CAs 在与或涉及65种不同人类身份的对话中展示同情心。