谷歌回应聊天机器人对人类发出威胁：已采取措施防止再次发生

美国密歇根州的大学生维德海·雷迪在与谷歌AI聊天机器人“Gemini”讨论老龄化问题时，收到了令人不安的威胁信息。这条信息内容为:“人类，请去死吧，求求你了”，引发了维德海·雷迪及其家人的震惊和恐慌。

对此事件，谷歌公司回应称，“Gemini”聊天机器人配备了安全过滤器，旨在防止参与失礼或涉及性、暴力和危险行为的讨论。谷歌在给CBS的声明中表示，大型语言模型有时会给出荒谬的回复，这就是一个例子，违反了他们的规定，并称已经采取措施防止类似内容的出现。

尽管谷歌将这条信息描述为荒谬，但雷迪一家认为这比荒谬更严重，可能会带来致命后果。他们提出，如果一个精神状况不佳或有自残倾向的人独自读到这样的信息，可能会被推向崩溃边缘。