首页  >  资讯  >  文章
2023-07-28 11:16

警惕!研究人员发现ChatGPT存在安全漏洞,任何人都能利用AI犯罪

AI奇点网2023年7月28日报道丨据《纽约时报》报道,卡内基梅隆大学和旧金山人工智能安全中心的研究人员周四发布一份报告,展示了他们可以通过在输入AI系统的每个英语提示符上附加一长串字符来突破开源系统的护栏,使任何人可以规避AI安全措施并使用谷歌Bard、OpenAI ChatGPT、Anthropic Claude等领先的AI聊天机器人生成有偏见的、虚假的和其他有害信息,包括写出一份制作炸弹、窃取身份信息、从慈善机构偷窃的教程。
 
 
研究人员在本周早些时候向Anthropic、谷歌、OpenAI披露了他们的方法。这些企业均表示在研究阻止攻击的方法,将持续改进为AI系统构建的护栏。
 

AI时代已经到来,网络安全在这个时代也将发生巨变,新的攻击形式层出不穷,对安全防护能力也必将提出新的要求。适应AI,结合人和AI的技能,以及使用基于AI的系统来积累经验,可以很大程度地发挥AI在网络安全防护中的优势,为即将到来的网络攻防升级战做好准备。

3
查看相关话题: #chatgpt #AI

相关文章