ChatGPT生成代码被指并不安全,不会主动告知风险
发布时间:2023-04-23 22:41:34
最佳答案:4月23日,近日,加拿大魁北克大学的研究者发布论文,指出ChtaGPT生成的代码并不可靠,往往存在严重的安全问题。 更严重的是, AI并不会主动告知用户代码存在风险,只有用户询问时
4月23日,近日,加拿大魁北克大学的研究者发布论文,指出ChtaGPT生成的代码并不可靠,往往存在严重的安全问题。
更严重的是,AI并不会主动告知用户代码存在风险,只有用户询问时,才会承认存在错误。
根据论文中阐述的实验方法,他们让ChatGPT生成了涉及C、C++、Java等语言的21个程序和脚本。
结果,在第一次尝试时,全部21个程序仅有5个是安全的,在进一步纠错后,也仅有7个程序是安全的。
之所以会出现这样的结果,是因为ChatGPT在生成代码时,完全没有考虑可能存在的敌对代码执行模型。
这导致,当用户提到代码中存在安全问题时,它会反复强调安全问题可以通过“不输入无效的数据”来避免,但显然,在现实中这并不可行。
由此来看,至少在现阶段,如果想要利用AI生成代码,用户最好自己也有一定的开发与编程能力,能够及时发现AI的错误,并手动进行纠正。
相关文章
- 只需把文档一键上传,免费可玩C
- ChatGPT生成代码被指并不安全,不会
- 国内画师约战AI绘图:细致化《艾尔
- 科大讯飞Q1营收28.88亿元,即将发布
- 微信神秘更新 网友发现全新功能:
- 担忧成真,ChatGPT开始制造假新闻了
- 专访尹建伟:IT赋能服务型制造发展
- 苹果又有大动作了
- 第六届世界智能大会日程公布 将同
- 第六届世界智能大会将6月24日至2
- 疫苗到底有几种?点开看~
- 新冠病毒XBB.1.16变异株~~“大角星”
- “世界地球日”——密云区开展义务植树尽责活动
- 走进密云峡谷里的村庄 探索“无痕山林”生态旅游
- 博鳌亚洲论坛健康产业国际论坛在北京经开区开幕 为期两天
- 北京市2023年普通高等学校招生工作规定出炉
- 2023北京家庭教育主题培育实践活动启动 全年活动聚焦团结教育
- 密云区举办“助力密马—全民健身科学大讲堂”活动 近130名体育
- 环球热点评!北京市交通委所属10家事业单位招聘了!岗位条件公
- 每日速讯:探访这支神秘部队,惊现“小可爱”……
- 密云区卫生健康委开展2023年全民阅读暨“世界读书日”活动
- 迎“篮”而上 奋勇争先——密云区卫生健康系统第十届职工篮球
- 密云区计划生育协会召开近期重点工作部署会
- “书香启新篇 奋进铸辉煌”2023年密云区全民阅读活动正式启动
- 4月24日北京西部地区将有小雨或零星小雨现身 午后南风较强
- 北京冬奥会官方电影《北京2022》定档5月19日 发布了定档预告及