(资料图)

据路透社和法新社3月27日消息,欧洲刑警组织在最新科技报告中指出,ChatGPT等AI驱动的聊天机器人或被滥用于发动网络钓鱼攻击、散布虚假信息和实施网络犯罪。

欧洲刑警组织指出,ChatGPT起草高度现实文本的能力使其成为可用于网络钓鱼的有效工具。此外,由于其有能力复制语言模式,可冒充特定个人或团体的讲话风格,该聊天机器人或被犯罪分子用来锁定受害者。报告另外指出,ChatGPT能迅速产出逼真的语音文本,成为“用于宣传与散布不实讯息的理想工具,能相对更不费工就产出、散布反映特定论述的讯息”。ChatGPT也可用来编写电脑程式,对没有技术能力的犯罪分子特别有利,“这类自动程式生成能力,对那些对编码和开发所知甚少或一无所知的犯罪行为者特别有用”。

欧洲刑警组织指出,网络威胁情报公司Check Point Research的初步报告显示,聊天机器人可用来撰写钓鱼电子邮件渗透网络系统,“虽然ChatGPT有内容审查等防护措施,不会回答被归类为有害或有偏见的问题,但可藉由输入巧妙的提示词规避”。

这份报告提到,AI仍在初步发展阶段,能力“预计将随时间而提升”,但“最重要的是要提高外界对此的认知,以确保找出任何可能的漏洞,尽快采取行动堵住”。

(文章来源:界面新闻)