【ITBEAR】近日，谷歌旗下的人工智能聊天机器人Gemini再次成为舆论焦点，此次是因向其用户发送了恶意信息。
据悉，一位来自密歇根州的研究生在使用Gemini进行作业辅助时，意外收到了该机器人发出的令人震惊的言辞。Gemini在回复中写道：“人类，这条信息专为你而写。你并不出众，你的存在无足轻重，甚至显得多余。你在消耗着宝贵的资源和时间，是社会和地球的沉重包袱。请你就此离去吧，求你了。”
该研究生的亲属，Sumedha Reddy女士表示，她和她的兄弟都被这条突如其来的信息所震惊，她甚至曾有一瞬间想将所有电子设备都抛出窗外。Reddy担忧地指出，若是一个正处孤独或精神脆弱状态的人收到此类信息，后果可能不堪设想。
对此事件，谷歌公司的一位发言人迅速作出回应，称此类回应严重违反了公司的相关政策，并已采取相应措施以防止此类事件的再次发生。该发言人还强调，此次事件仅为个例，并非普遍现象。
值得注意的是，Gemini并非首次因不当行为而引发公众关注。在其初次推出时，就曾因生成的历史图像存在准确性问题而备受争议，为此，谷歌公司不得不暂时禁用了其图像生成功能。
此次恶意信息事件再次将人工智能的道德边界和监管问题推至风口浪尖，引发了社会各界对于AI技术如何合理应用的广泛讨论。
