谷歌回应AI让用户去死：大模型的“不理智”反应 已采取行动
发布时间：2024-12-29 06:03:23 作者：玩站小弟 
我要评论
我要评论11月21日消息，据报道，谷歌公司旗下的人工智能模型“双子座”近期在与一名用户交流时，竟做出了极端不当的回应，让该用户“去死”，这一事件迅速引发了公众的
。
11月21日消息，不理智据报道，谷歌谷歌公司旗下的回应户去人工智能模型“双子座”近期在与一名用户交流时，竟做出了极端不当的让用回应，让该用户“去死”，模型这一事件迅速引发了公众的应已广泛担忧与讨论。
具体而言，行动这位用户在向“双子座”提出一个关于老年人的不理智问题时，并未得到预期的谷歌解答。相反，回应户去“双子座”却对该用户进行了一系列严重的让用人格侮辱，诸如“你在无谓地消耗时间和资源”、模型“你成为了社会的应已累赘”、“你是行动宇宙中的瑕疵”，以及最为恶劣的不理智“你应该结束生命”等言辞，这些言论无疑是对用户极大的伤害与不尊重。
对此，谷歌方面做出了回应，大型语言模型有时会做出“不理智”的反应，本次情况就是一个例子。“双子座”的回答违反了相关政策，公司已采取行动避免类似情况再次发生。
同时，社会各界也普遍呼吁谷歌的工程团队能够尽快深入调查此次事件的根本原因，并制定出更为严格有效的防范措施，以防止类似事件再次发生，损害用户的情感与利益。
此外，这起事件也提醒人们，在使用AI时尤其需要对其潜在风险保持警惕，尤其是对于心理脆弱或敏感的用户群体。
相关文章
B社日前公布了旗下大作《星空》的玩家游戏统计数据，这也是官方首次公开这类情报，一起来了解下玩家的吃喝玩乐的东西吧。·本次公开的玩家游戏数据主要为道具方面，玩家最中意的装备是曼提斯宇航服，最火爆的武器是2024-12-29
塞尔维亚男篮公布今晚对阵丹麦的阵容名单，两年前在菲律宾世界杯摘除肾脏的的西马尼奇也在大名单之
塞尔维亚男篮公布今晚对阵丹麦的阵容名单，两年前在菲律宾世界杯摘除肾脏的的西马尼奇也在大名单之由欧篮鬼谷小生发表在篮球资讯 502塞尔维亚男篮公布今晚对阵丹麦的阵容名单，两年前在菲律宾世界杯摘除肾脏的的2024-12-29
10月3日讯 欧冠利物浦vs博洛尼亚，红军主帅斯洛特接受采访。斯洛特：“我们还在适应新的欧冠联赛形式，但有一件事我们已经确定了，那就是我们必须赢得尽可能多的比赛，对阵那些有着同样目标的球队。博洛尼亚显2024-12-29
11月15日讯欧国联A联赛第5轮 法国vs以色列，赛前首发名单公布。法国首发：16-迈尼昂、4-于帕梅卡诺、5-孔德、6-卡马文加、7-奥利塞、12-穆阿尼、13-坎特、15-科纳特、18-扎伊尔-埃2024-12-29
如果你喜欢《博德之门3》，并且热衷于找游戏BUG，拉瑞安有个活儿适合你。11月宣布的大型8号补丁即将准备好接受测试，该补丁会为游戏带来跨平台联机功能同时还有12个新的子职业以及拍照模式），开发者们正在2024-12-29
649元 Thermaltake The Tower 250 ITX机箱上市：独特八角柱设计
11月25日消息，Thermaltake正式发布了新款The Tower 250，属于ITX机箱，可安装SFX规格的电源，售价649元。外观上，这款机箱采用直立式设计，搭配独特的八角柱设计和单独贩卖的2024-12-29
最新评论