研究发现英国 AI 聊天机器人的安全措施容易被绕过

英国政府的 AI 安全研究所（AISI）发现，防止聊天机器人背后的人工智能模型发出非法、有毒或露骨回应的保护措施可以被简单的技术绕过。AISI 表示，他们测试的系统 “极易受到攻击”，这些系统很容易被 “越狱”，即用文字提示来引发模型本应避免的回应。