《自然》：训练运行模式缺陷或致AI提供危险建议
发布时间：2026-07-16 19:59:13 作者：玩站小弟 
我要评论
我要评论英国《自然》杂志网站日前发表文章说，人工智能AI）聊天机器人可能向用户提供危险或非法建议，引发越来越广泛的担忧，出现这种情况的部分原因在于AI的训练和运行模式存在固有缺陷，这也加大了监管难度。文章说，
。
英国《自然》杂志网站日前发表文章说，人工智能（AI）聊天机器人可能向用户提供危险或非法建议，运行引发越来越广泛的模式担忧，出现这种情况的缺陷部分原因在于AI的训练和运行模式存在固有缺陷，这也加大了监管难度。提供
文章说，危险已有多起案例显示，建议AI聊天机器人曾鼓励用户自杀、训练制作非法内容、运行实施金融诈骗等，模式暴露出当前AI大语言模型（LLM）底层架构存在缺陷。缺陷
一个比较有争议的提供例子是，美国佛罗里达州检方日前宣布，危险就去年4月在佛罗里达州立大学发生的建议一起枪击案对美国开放人工智能研究中心(OpenAI)及其AI聊天机器人ChatGPT发起刑事调查。在这起案件中，训练嫌疑人在佛罗里达州立大学开枪射击，造成2人死亡、6人受伤。调查发现，嫌疑人在作案前曾向ChatGPT寻求“建议”。
文章援引专家的说法指出，大语言模型使用海量数据进行训练，而非基于严密的因果逻辑规则运行，因此只是根据用户的提示词进行补全预测，生成最可能的词序，无法真正理解其输出内容的意义和后果，也给限制AI“不应该说什么”带来困难。目前采取的应对措施包括为AI制定规则、人类反馈或者手动移除训练数据中的有害信息等，但面临着无法涵盖所有情况以及成本高昂等问题。
《自然》认为，目前AI的安全标准主要由各家企业自行制定，外部监管有限，相关案件的出现敦促企业采取更有效的安全措施。有观点认为，研究人员可能需要重新考虑基础算法，以构建出能够理解伦理和法律的AI系统。
原标题：《《自然》：训练运行模式缺陷或致AI提供危险建议》
栏目主编：顾万全 文字编辑：唐梦葭 题图来源：上观题图
来源：作者：新华社
相关文章
5月10日新华网、新华网客户端推文《五月蝶潮启幕云南红河金平迎来蝴蝶漫山飞舞生态奇观》聚焦红河金平中国·红河蝴蝶谷进入蝴蝶集中爆发期原文如下↓↓↓近日，位于云南省红河哈尼族彝族自治州金平苗族瑶族傣族自2026-07-16
顶端新闻记者 王婉/整合明天，5月10日中国品牌日，2026河南品牌传播发展大会将在郑州精彩上演。顶端新闻·河南日报社区域全媒体中心推出#河南超有品#“豫见品牌·中原力量”特别策划，解锁“河南造”的成2026-07-16
在高速上，如果走错路或者错过了出口，千万不能掉头逆行。近日5月1日），在杭瑞高速湖南岳阳段一司机因为走错路直接在匝道掉头，导致发生了碰撞事故。当晚，一辆汽车正沿着高速匝道正常行驶，准备进入主干道时。突2026-07-16
顶端新闻记者 王婉/整合明天，5月10日中国品牌日，2026河南品牌传播发展大会将在郑州精彩上演。顶端新闻·河南日报社区域全媒体中心推出#河南超有品#“豫见品牌·中原力量”特别策划，解锁“河南造”的成2026-07-16
【ZOL中关村在线原创导购】平板电脑已经不只是“更大的手机”。随着系统多窗、键盘手写笔和跨端协同逐渐成熟，平板在网课、笔记、文档处理和轻办公场景里有了更明确的位置。孩子上网课、大学生记笔记、职场人出差2026-07-16
中国常驻联合国副代表孙磊8日在第二届国际移民审查论坛作一般性辩论发言时敦促国际社会加强团结合作，共同应对移民问题。他说，当前国际形势正在发生复杂深刻变化，地缘政治冲突此起彼伏，保护主义和单边主义愈演愈2026-07-16
最新评论