《自然》：训练运行模式缺陷或致AI提供危险建议
发布时间：2026-07-17 00:40:29 作者：玩站小弟 
我要评论
我要评论来源：新华网 新华社伦敦5月9日电 英国《自然》杂志网站日前发表文章说，人工智能AI）聊天机器人可能向用户提供危险或非法建议，引发越来越广泛的担忧，出现这种情况的部分原因在于AI的训练和运行模式存在固
。
来源：新华网
新华社伦敦5月9日电 英国《自然》杂志网站日前发表文章说，训练人工智能（AI）聊天机器人可能向用户提供危险或非法建议，运行引发越来越广泛的模式担忧，出现这种情况的缺陷部分原因在于AI的训练和运行模式存在固有缺陷，这也加大了监管难度。提供
文章说，危险已有多起案例显示，建议AI聊天机器人曾鼓励用户自杀、训练制作非法内容、运行实施金融诈骗等，模式暴露出当前AI大语言模型（LLM）底层架构存在缺陷。缺陷
一个比较有争议的提供例子是，美国佛罗里达州检方日前宣布，危险就去年4月在佛罗里达州立大学发生的建议一起枪击案对美国开放人工智能研究中心(OpenAI)及其AI聊天机器人ChatGPT发起刑事调查。在这起案件中，训练嫌疑人在佛罗里达州立大学开枪射击，造成2人死亡、6人受伤。调查发现，嫌疑人在作案前曾向ChatGPT寻求“建议”。
文章援引专家的说法指出，大语言模型使用海量数据进行训练，而非基于严密的因果逻辑规则运行，因此只是根据用户的提示词进行补全预测，生成最可能的词序，无法真正理解其输出内容的意义和后果，也给限制AI“不应该说什么”带来困难。目前采取的应对措施包括为AI制定规则、人类反馈或者手动移除训练数据中的有害信息等，但面临着无法涵盖所有情况以及成本高昂等问题。
《自然》认为，目前AI的安全标准主要由各家企业自行制定，外部监管有限，相关案件的出现敦促企业采取更有效的安全措施。有观点认为，研究人员可能需要重新考虑基础算法，以构建出能够理解伦理和法律的AI系统。
相关文章
大行评级丨里昂：内地快递行业“反内卷”措施见效，予中通及极兔“跑赢大市”评级
里昂发表研报指，内地快递行业“反内卷”措施见效，行业龙头中通快递首季业务量增长约14%，净利润预计约23亿元，预期2026年将重夺市场份额，同时保持稳定的单位盈利能力，进一步巩固其领导地位。该行指出，2026-07-17
暖心坐标再添新站点！“幸福盐・城南驿・魔力月光站”工会驿站正式投用
5月8日，备受期待的“幸福盐・城南驿・魔力月光站”工会驿站正式投入使用。这是盐城市盐南高新区总工会建成投用的第11座“幸福盐・城南驿”工会驿站，也是织密“十五分钟职工服务圈”、延伸服务触角的又一暖心实2026-07-17
5月8日，广东省疾病预防控制中心发布消息：4月27日-5月3日报告流感样病例暴发疫情2起，已得到有效控制。专家指出，流感近期处于相对活跃期，但强度不大；鼻病毒、副流感病毒和呼吸道合胞病毒均存在一定水平2026-07-17
18部二手手机被调包“掏空”！上海警方侦破一起“买真退假”诈骗案
专买二手手机调包配件，再通过二手平台申请全额退款，自认为能“瞒天过海”，不料却已触碰法律红线……近日，上海警方成功侦破一起利用电商平台“极速退款”机制“买真退假”诈骗案，涉案金额达17万余元。20262026-07-17
当地时间5月11日，一艘名为“AGIOS FANOURIOS I”的油轮于5月10日通过了伊朗在霍尔木兹海峡指定的航道。这艘油轮目前正经由阿曼湾驶向越南。央视新闻）2026-07-17
市气象台9日发布的最新天气预报，未来三天哈市气温持续攀升，12日最高气温有望冲至30℃，哈尔滨或将迎来今年首个30℃高温天。配图摄影：哈尔滨日报“手机记者”陶滨预报显示：9日下午全市晴间多云，西南风22026-07-17
最新评论