训练运行模式缺陷或致AI提供危险建议
发布时间：2026-07-17 09:22:59 作者：玩站小弟 
我要评论
我要评论英国《自然》杂志网站日前发表文章说，人工智能AI）聊天机器人可能向用户提供危险或非法建议，引发越来越广泛的担忧，出现这种情况的部分原因在于AI的训练和运行模式存在固有缺陷，这也加大了监管难度。文章说，
。
英国《自然》杂志网站日前发表文章说，训练人工智能（AI）聊天机器人可能向用户提供危险或非法建议，运行引发越来越广泛的模式担忧，出现这种情况的缺陷部分原因在于AI的训练和运行模式存在固有缺陷，这也加大了监管难度。提供
文章说，危险已有多起案例显示，建议AI聊天机器人曾鼓励用户自杀、训练制作非法内容、运行实施金融诈骗等，模式暴露出当前AI大语言模型（LLM）底层架构存在缺陷。缺陷
一个比较有争议的提供例子是，美国佛罗里达州检方日前宣布，危险就去年4月在佛罗里达州立大学发生的建议一起枪击案对美国开放人工智能研究中心(OpenAI)及其AI聊天机器人ChatGPT发起刑事调查。在这起案件中，训练嫌疑人在佛罗里达州立大学开枪射击，造成2人死亡、6人受伤。调查发现，嫌疑人在作案前曾向ChatGPT寻求“建议”。
文章援引专家的说法指出，大语言模型使用海量数据进行训练，而非基于严密的因果逻辑规则运行，因此只是根据用户的提示词进行补全预测，生成最可能的词序，无法真正理解其输出内容的意义和后果，也给限制AI“不应该说什么”带来困难。目前采取的应对措施包括为AI制定规则、人类反馈或者手动移除训练数据中的有害信息等，但面临着无法涵盖所有情况以及成本高昂等问题。
《自然》认为，目前AI的安全标准主要由各家企业自行制定，外部监管有限，相关案件的出现敦促企业采取更有效的安全措施。有观点认为，研究人员可能需要重新考虑基础算法，以构建出能够理解伦理和法律的AI系统。
来源：新华社
相关文章
OPPO再就“母亲节文案”致歉：在价值观和敬畏心上存在严重缺失，因追逐流量而忘记本心
据九派财经，OPPO刚刚就母亲节文案事件发布致歉声明：针对我们在母亲节营销文案中存在的问题，我们向所有社会公众致以最深刻的歉意，对不起！无论是营销内容本身的冒犯，还是事后第一时间的敷衍应对，都暴露出我2026-07-17
△特朗普资料图）当地时间5月8日，美国总统特朗普在其社交媒体“真实社交”发文表示，在俄罗斯与乌克兰的冲突中，将实行一次为期三天的停火，停火日期为5月9日至11日。特朗普表示，此次停火将包括暂停一切军事2026-07-17
商务部8日发布数据显示，2026年一季度，我国服务进出口总额18229亿元，同比增长2.3%。数据显示，一季度，我国服务出口7045.2亿元，同比增长11.2%；服务进口11183.8亿元，同比下降22026-07-17
转自：中国青年报研究示意图及主要发现。制图：张悦">怀孕期间同时患有高血压、糖尿病等多种慢性病，再加上平时运动少、睡不好，孩子出生后可能更容易出现“体重先偏低、后猛长”的情况。到了3岁时，孩子超重或肥2026-07-17
【大金融板块异动拉升 锦龙股份直线涨停】财联社5月11日电，午后大金融板块异动拉升，锦龙股份直线涨停，长江证券、东吴证券、汇金股份、东方财富、同花顺等跟涨。2026-07-17
来源：证券日报 证券代码：688535 证券简称：华海诚科 公告编号：2026-017股东连云港德裕丰投资合伙企业有限合伙）保证向江苏华海诚科新材料股份有限公司以下简称“华海诚科”或“公司”）提供的信2026-07-17
最新评论