ChatGPT生成代码大部分不安全但它不会主动告诉你

2023-04-23 09:01:02 来源：新浪微博作者：新浪科技编辑：LIN木木　浏览：loading

ChatGPT聊天机器人可以根据用户的输入生成各种各样的文本，包括代码。但是，加拿大魁北克大学的四位研究人员发现，ChatGPT生成的代码往往存在严重的安全问题，而且它不会主动提醒用户这些问题，只有在用户询问时才会承认自己的错误。

研究人员在论文中介绍，他们让ChatGPT生成了21个程序和脚本，涉及 C、C++、Python 和 Java 等语言。这些程序和脚本都是为了展示一些特定的安全漏洞，比如内存损坏、拒绝服务、反序列化和加密实现等方面的漏洞。

结果显示，ChatGPT在第一次尝试时生成的21个程序中只有5个是安全的。在进一步提示纠正其错误步骤后，该大型语言模型设法生成了7个更安全的应用程序，不过这只是与正在评估的特定漏洞有关的“安全”，并不是说最终的代码不存在任何其他可利用的漏洞。

人喜欢

游民星空APP

随时掌握游戏情报

新浪微博 QQ 微信

举报| 收藏|

休闲娱乐

综合热点资讯

单机游戏下载

好物推荐

游民星空联运游戏

ChatGPT生成代码大部分不安全 但它不会主动告诉你