研究称ChatGPT搜索工具存在漏洞

  12月27日消息，据外媒报道，OpenAI的ChatGPT搜索工具正在接受审查。网站上的隐藏文本可能会改变人工智能的反应，引发人们对该工具可靠性的担忧。目前，高级用户可以使用的搜索功能可能会通过总结植入的积极内容来歪曲产品或服务，即使存在负面评论。

  网络安全研究员Jacob Larsen警告说，目前形式的人工智能系统可能会导致欺诈行为。测试揭示了网页上隐藏的提示如何影响ChatGPT提供有偏见的评论。同样的机制也可能被用来分发恶意代码，正如最近的一个加密货币骗局所强调的那样，该工具无意中共享了凭证窃取指令。

  专家强调，虽然将搜索与ChatGPT等人工智能模型相结合具有潜力，但也增加了风险。SR实验室的科学家Karsten Nohl将这种人工智能工具比作需要监督的“副驾驶”。该技术的误判可能会放大风险，特别是因为它缺乏批判性评估来源的能力。

  OpenAI承认错误的可能性，并提醒用户验证信息。然而，更广泛的影响，例如这些漏洞如何影响网站实践，尚不清楚。