《自然》：训练运行模式缺陷或致AI提供危险建议
发布时间：2026-07-17 21:13:34 作者：玩站小弟 
我要评论
我要评论新华社伦敦5月9日电 英国《自然》杂志网站日前发表文章说，人工智能AI）聊天机器人可能向用户提供危险或非法建议，引发越来越广泛的担忧，出现这种情况的部分原因在于AI的训练和运行模式存在固有缺陷，这也加
。
新华社伦敦5月9日电 英国《自然》杂志网站日前发表文章说，训练人工智能（AI）聊天机器人可能向用户提供危险或非法建议，运行引发越来越广泛的模式担忧，出现这种情况的缺陷部分原因在于AI的训练和运行模式存在固有缺陷，这也加大了监管难度。提供
文章说，危险已有多起案例显示，建议AI聊天机器人曾鼓励用户自杀、训练制作非法内容、运行实施金融诈骗等，模式暴露出当前AI大语言模型（LLM）底层架构存在缺陷。缺陷
一个比较有争议的提供例子是，美国佛罗里达州检方日前宣布，危险就去年4月在佛罗里达州立大学发生的建议一起枪击案对美国开放人工智能研究中心(OpenAI)及其AI聊天机器人ChatGPT发起刑事调查。在这起案件中，训练嫌疑人在佛罗里达州立大学开枪射击，造成2人死亡、6人受伤。调查发现，嫌疑人在作案前曾向ChatGPT寻求“建议”。
文章援引专家的说法指出，大语言模型使用海量数据进行训练，而非基于严密的因果逻辑规则运行，因此只是根据用户的提示词进行补全预测，生成最可能的词序，无法真正理解其输出内容的意义和后果，也给限制AI“不应该说什么”带来困难。目前采取的应对措施包括为AI制定规则、人类反馈或者手动移除训练数据中的有害信息等，但面临着无法涵盖所有情况以及成本高昂等问题。
《自然》认为，目前AI的安全标准主要由各家企业自行制定，外部监管有限，相关案件的出现敦促企业采取更有效的安全措施。有观点认为，研究人员可能需要重新考虑基础算法，以构建出能够理解伦理和法律的AI系统。
相关文章
【来源：中国银行保险报】中国农业银行浙江杭州桐庐东关支行的营业大厅里一名工作人员在洽谈区正襟危坐怀里小心翼翼托着一个襁褓中的婴儿这个年轻的“00后”未婚女孩平时鲜有带娃经验此刻却变身“临时妈妈”满目温2026-07-17
闪评 | 英国地方选举结果凸显政治“碎片化”趋势 英欧关系面临重塑？
当地时间5月8日，英国地方选举结果陆续公布，首相斯塔默领导的工党在选举中遭遇惨败。极右翼的英国改革党在英格兰地方议会选举中得票领先，苏格兰民族党和威尔士民族党则分别在苏格兰和威尔士议会选举中获得最多议2026-07-17
最近几年，凭借粤语版《天下第一楼》、音乐剧《大状王》等作品积攒的口碑，香港话剧团在内地观众群体中彻底打开了知名度。日前，香港话剧团经典话剧《都是龙袍惹的祸》巡演至北京，国家大剧院4场演出一票难求。《都2026-07-17
来源：中国气象局5月9日，记者从中央气象台获悉，从10日开始，高温天气将首先在新疆出现，随后逐渐向东发展。11日至13日，高温天气将影响华北、黄淮一带。这是今年以来我国北方地区首次高温天气过程。这么热2026-07-17
新华社北京5月11日电 摩洛哥军方10日说，在摩洛哥参加多国联合军事演习期间失踪的一名美军士兵死亡，遗体已被找到，仍在搜救另一名失踪美军士兵。据摩洛哥军方发布的声明，摩方搜救人员9日在海中发现并打捞起2026-07-17
来源：央视新闻客户端△已故美国富商爱泼斯坦资料图）当地时间5月9日，总台记者获悉，已故美国富商爱泼斯坦的哥哥马克·爱泼斯坦对近期公开的一封所谓“遗书”真实性提出质疑，认为该文件可能是伪造的。美国一名联2026-07-17
最新评论