近期，英国权威媒体《卫报》发布了一项针对OpenAI旗下ChatGPT搜索功能的安全性测试结果，引发了广泛关注。测试发现，ChatGPT在处理包含隐藏内容的网页时，其搜索结果存在被操纵的风险，甚至可能返回包含恶意代码的内容。
测试中，《卫报》特别关注了那些含有第三方指令（即“提示注入”）和大量虚假好评的隐藏内容。这些隐藏内容能够影响ChatGPT的响应，使其生成的结果偏离真实情况。例如，即使页面存在负面评论，ChatGPT也可能被诱导生成积极的正面评估。
更令人担忧的是，安全研究人员还发现，ChatGPT在搜索某些网站时，会返回含有恶意代码的页面。这些页面可能包含钓鱼攻击等恶意行为，对用户的信息安全构成严重威胁。
针对这一测试结果，CyberCX的网络安全研究员Jacob Larsen表示，随着ChatGPT搜索系统的发布，人们创建专门用于欺骗用户的网站的风险显著增加。幸运的是，目前该功能仍处于测试阶段，OpenAI团队正在积极应对这些问题，努力提升搜索功能的安全性。
同时，安全公司SR Labs的首席科学家Karsten Nohl也提出了自己的建议。他认为，AI聊天服务应被视为一种“辅助功能”，用户在使用时应保持警惕，不应完全信任其未经过滤的输出内容。Nohl将AI搜索面临的问题比作“SEO中毒”，即黑客通过技术手段操纵网站在搜索结果中的排名，并在其中植入恶意软件或代码。
