《自然》：训练运行模式缺陷或致AI提供危险建议
发布时间：2026-07-16 19:23:13 作者：玩站小弟 
我要评论
我要评论新华社伦敦5月9日电 英国《自然》杂志网站日前发表文章说，人工智能AI）聊天机器人可能向用户提供危险或非法建议，引发越来越广泛的担忧，出现这种情况的部分原因在于AI的训练和运行模式存在固有缺陷，这也加
。
新华社伦敦5月9日电 英国《自然》杂志网站日前发表文章说，训练人工智能（AI）聊天机器人可能向用户提供危险或非法建议，运行引发越来越广泛的模式担忧，出现这种情况的缺陷部分原因在于AI的训练和运行模式存在固有缺陷，这也加大了监管难度。提供
文章说，危险已有多起案例显示，建议AI聊天机器人曾鼓励用户自杀、训练制作非法内容、运行实施金融诈骗等，模式暴露出当前AI大语言模型（LLM）底层架构存在缺陷。缺陷
一个比较有争议的提供例子是，美国佛罗里达州检方日前宣布，危险就去年4月在佛罗里达州立大学发生的建议一起枪击案对美国开放人工智能研究中心(OpenAI)及其AI聊天机器人ChatGPT发起刑事调查。在这起案件中，训练嫌疑人在佛罗里达州立大学开枪射击，造成2人死亡、6人受伤。调查发现，嫌疑人在作案前曾向ChatGPT寻求“建议”。
文章援引专家的说法指出，大语言模型使用海量数据进行训练，而非基于严密的因果逻辑规则运行，因此只是根据用户的提示词进行补全预测，生成最可能的词序，无法真正理解其输出内容的意义和后果，也给限制AI“不应该说什么”带来困难。目前采取的应对措施包括为AI制定规则、人类反馈或者手动移除训练数据中的有害信息等，但面临着无法涵盖所有情况以及成本高昂等问题。
《自然》认为，目前AI的安全标准主要由各家企业自行制定，外部监管有限，相关案件的出现敦促企业采取更有效的安全措施。有观点认为，研究人员可能需要重新考虑基础算法，以构建出能够理解伦理和法律的AI系统。
相关文章
进入立夏节气后初夏感愈发明显最近气温节节攀升 苏州本周的日最高气温都是“3”字头5月13日的最高气温将达34℃左右不过不少人发现春夏季节常见的烦人小虫子又来了不少网友不堪其扰密密麻麻的飞虫一眼看过去令2026-07-16
来源：四川在线-华西都市报被拐35年后，广安男子回川认亲认亲现场，失散35年的父子紧紧相拥。“爸爸，对不起，我没有早点回来。”5月8日，绵阳市公安局刑侦支队会议室里，山东德州的孙超原名邓宜）与失散352026-07-16
来源：上海证券报 不良率上升倒逼防线前移 银行收紧零售信贷风控◎记者 徐潇潇 银行正在给个人信贷风控“上强度”。上海证券报记者近期自业内多方了解到，不少银行零售信贷业务从审批权限、风控模型到贷后管理等2026-07-16
来源：中访网中访网数据 国药现代600420）公告，公司将于2026年5月15日15:00-16:30通过上证路演中心网络互动方式参加2026年上海辖区上市公司年报集体业绩说明会。届时，董事、总裁刘勇2026-07-16
【来源：掌上巴彦淖尔】近日，记者在临河区城市四类管网改造施工现场看到，新华街、胜利路等老城区核心路段机器轰鸣、人员忙碌，雨水、污水、给水、再生水管网更新改造正在有序推进。一场看不见却关系千家万户的城市2026-07-16
转自：中国经营网中经记者 陈雪波 卢志坤 成都报道近日，成都市路桥工程股份有限公司002628.SZ，以下简称“成都路桥”）披露2025年年度报告。数据显示，公司全年实现营业收入8.99亿元，同比增长2026-07-16
最新评论