《自然》：训练运行模式缺陷或致AI提供危险建议
我要评论
英国《自然》杂志网站日前发表文章说，人工智能（AI）聊天机器人可能向用户提供危险或非法建议，运行引发越来越广泛的模式担忧，出现这种情况的缺陷部分原因在于AI的训练和运行模式存在固有缺陷，这也加大了监管难度。提供
文章说，危险已有多起案例显示，建议AI聊天机器人曾鼓励用户自杀、训练制作非法内容、运行实施金融诈骗等，模式暴露出当前AI大语言模型（LLM）底层架构存在缺陷。缺陷
一个比较有争议的提供例子是，美国佛罗里达州检方日前宣布，危险就去年4月在佛罗里达州立大学发生的建议一起枪击案对美国开放人工智能研究中心(OpenAI)及其AI聊天机器人ChatGPT发起刑事调查。在这起案件中，训练嫌疑人在佛罗里达州立大学开枪射击，造成2人死亡、6人受伤。调查发现，嫌疑人在作案前曾向ChatGPT寻求“建议”。
文章援引专家的说法指出，大语言模型使用海量数据进行训练，而非基于严密的因果逻辑规则运行，因此只是根据用户的提示词进行补全预测，生成最可能的词序，无法真正理解其输出内容的意义和后果，也给限制AI“不应该说什么”带来困难。目前采取的应对措施包括为AI制定规则、人类反馈或者手动移除训练数据中的有害信息等，但面临着无法涵盖所有情况以及成本高昂等问题。
《自然》认为，目前AI的安全标准主要由各家企业自行制定，外部监管有限，相关案件的出现敦促企业采取更有效的安全措施。有观点认为，研究人员可能需要重新考虑基础算法，以构建出能够理解伦理和法律的AI系统。
原标题：《《自然》：训练运行模式缺陷或致AI提供危险建议》
栏目主编：顾万全 文字编辑：唐梦葭 题图来源：上观题图
来源：作者：新华社
相关文章
● 版权 …………………………………………………………………………………………002● 专家顾问 ……………………………………………………………………………………003● 目次 ……………………………2026-07-17
“感谢您的救命之恩，给了我女儿第二次生命，您就是我们全家的恩人！”5月4日，一名地方女子带着一面印有“一面锦旗千般意 感谢救命之恩长”的鲜红锦旗来到海军航空大学某团，专程向该团干部韩星宇表达谢意。时间2026-07-17
5月8日下午，记者探访广湛高铁佛山站建设实况：白兰花穹顶亮灯惊艳，室内装修完成92%，室外幕墙装修基本完成，消防完成99%，数百名工人正抢抓收尾，全力确保工程按计划如期交付使用。文视频｜记者周龙凤 黄2026-07-17
筑牢乡村健康“守门人”防线 资兴市2026年乡村医生培训圆满落幕
红网时刻新闻5月9日郴州讯通讯员 袁勇杰 胡雅倩）近日，2026年资兴市民生实事项目——乡村医生培训结业典礼在资兴市第一人民医院落幕，38名参训乡村医生顺利完成培训课程并拿到结业证书。这是资兴市提升基2026-07-17
山西省大同市云冈区西韩岭乡南村：水润农家惠民生 净水工程暖人心
“现在的水喝起来清甜可口，再也没有以前的怪味了！”山西省大同市云冈区西韩岭乡南村村民何大爷看着水龙头里流出清澈的纯净水，脸上满是欣喜与感激。在云冈区西韩岭乡南村，一项净水工程已投入使用，让全村群众喝上2026-07-17
巴勒斯坦诗人被木版年画圈粉！中阿诗人“沉浸式”打卡白鹅潭大湾区艺术中心
5月9日，2026国际青春诗会在广州举办，中阿诗人来到白鹅潭大湾区艺术中心，畅游广东文学馆、广东非遗馆，沉浸式体验佛山木版年画等非遗技艺。参访之行中，中外诗人们对金漆木雕、粤绣、千角灯等非遗精品称赞不2026-07-17
最新评论