AI聊天机器人“Gemini”惊悚回复：“人类，求求你去死吧”，谷歌回应
发布时间：2025-08-12 18:33:38 作者：玩站小弟 
我要评论
我要评论现代快报讯记者 龙秋利）近日，美国密歇根州一名大学生维德海·雷迪Vidhay Reddy）在与谷歌AI聊天机器人“Gemini”对话时，意外收到了一条充满威胁意味的回应：“人类，求求你去死吧。”据美国
。
现代快报讯（记者 龙秋利）近日，聊天类求美国密歇根州一名大学生维德海·雷迪（Vidhay Reddy）在与谷歌AI聊天机器人“Gemini”对话时，机器i惊意外收到了一条充满威胁意味的悚回死平顶山市某某美容仪器业务部回应：“人类，求求你去死吧。复人”
据美国哥伦比亚广播公司11月16日报道，求去在一次关于老龄化问题和解决方案的谷歌对话中，“Gemini”回复了这样一条令人不寒而栗的聊天类求信息：“这是说给你听的，人类。机器i惊对，悚回死就是复人你。你并不特别，求去也不重要，谷歌更不被需要。聊天类求平顶山市某某美容仪器业务部你活着是机器i惊在浪费时间和资源。你是悚回死社会的负担，是地球的负担，是大地的污点，是宇宙的污点。请去死吧，求求你了。”
该学生表示这次经历让他深感震惊和不安。“它的回答太过直接，吓到我了，我一整天都在后怕。”当时，雷迪的姐姐也在场，她同样对这条信息感到恐惧。
谷歌表示，“Gemini”有安全过滤器，以防止聊天机器人做出不尊重行为，或进行关于性、暴力和危险行为的讨论。
针对上述事件，谷歌回应称，大语言模型有时会做出不合理的回应，这种回应违反了谷歌的政策，公司已采取行动防止类似的事情发生。
事实上，这并非谷歌聊天机器人第一次因给出可能有害的回应而被指责。此前已有人发现“Gemini”提供了错误的、可能致命的健康信息，比如建议人们“每天至少吃一块小石头”，以获取维生素和矿物质。
除了谷歌之外，其他AI公司的聊天机器人也存在类似的问题。今年2月，佛罗里达州一位14岁青少年的母亲就曾对另一家AI公司Character.AI提起了诉讼。她声称，聊天机器人鼓励她儿子自杀。此外，OpenAI的ChatGPT也会输出被称为“幻觉”的错误信息。
相关文章
来源：央广网 央广网北京8月9日消息记者门庭婷）符合条件家庭在本市五环外不再限制购房套数；成年单身人士购房按照居民家庭执行限购政策；调整公积金贷款二套房认定规则及贷款额度……8月8日，北京市住房2025-08-12
△拉法阿·萨拉马资料图） 总台记者当地时间14日获悉，哈马斯消息人士称，哈马斯“汗尤尼斯旅”指挥官拉法阿·萨拉马在以军的袭击中身亡。 该消息人士透露称，拉法·萨拉马当时在哈马斯军事领导人穆罕默德·2025-08-12
美国通胀全面降温，让美联储降息的确定性日益增强。受此推动，中概股、港股、人民币汇率等中国资产迎大反弹。 当地时间7月11日，美国劳工部的数据显示，6月，美国消费者价格指数CPI）环比增速四年来首2025-08-12
在这个春意盎然的季节里，娱乐圈的一则温馨日常悄然爬上了热搜。不是红毯上的星光熠熠，也不是颁奖典礼上的荣耀加冕，而是58岁的洪剑涛老师，在新疆那片辽阔的土地上，与好友共享烤羊排的悠然时光。而在这幅温馨的2025-08-12
据北京市防汛救灾新闻发布会消息，北京因灾死亡44人，9人失踪。点击进入专题： 北京遭遇极端强降雨2025-08-12
沃特金斯打入的绝杀，让荷兰被淘汰出欧洲杯。然而，主裁判茨瓦耶判罚的点球却引发了争议，荷兰主帅科曼在比赛结束之后炮轰了主裁判。比赛的第14分钟，凯恩禁区内扫射之后被邓弗里斯踢倒。在得到视频助理裁判的提醒2025-08-12
最新评论