Hugging Face 中的决策模型

空逐月AI 前沿📡 BestBlogs·AI高分精选⭐ 882026-11-11897 阅读💛 90 收藏
Hugging Face 中的决策模型

📌 One-Sentence Summary

决策模型是一种新型 AI 模型,可根据预定义的问题评估输入,并以概率分布的形式返回结构化决策;在分类和路由任务中,它比传统 LLM 文本生成更高效。

📝 Summary

本文介绍了决策模型这一专注于结构化决策的 AI 方法。传统 LLM 会生成文本回复,而决策模型则接收一个状态和一组带有预定义答案的问题,并返回各个选项的概率分布。文章阐述了三种基本操作:Choice(从选项中选择)、Score(按有序尺度评分)和 Noul(二元概率决策)。文章将决策模型与传统分类及零样本分类进行比较,指出其优势包括可在运行时定义标签、同时处理多个类型不同的问题,以及原生支持概率分布。Hugging Face 生态现已通过 DecisionPipeline、AutoModelForDecision 和 DecisionConfig 类支持决策模型,从而让不同实现能够采用一致的服务与训练方式。

💡 Main Points

决策模型通过概率分布实现结构化决策,而非生成文本

决策模型接收一个状态和一组带有预定义答案的问题,并返回带有置信度分数的结构化决策。与提示 LLM 生成可能不符合架构要求的 JSON 回复相比,这种方式更高效。

三种基本操作支持不同类型的决策:Choice、Score 和 Noul

Choice 根据概率分布从多个选项中选择;Score 按有序尺度计算期望值;Noul 则使用伯努利分布返回二元概率决策。

决策模型通过运行时定义标签和支持多个类型不同的问题,区别于传统分类

传统分类器的输出类别是预先固定的,而决策模型允许在推理时定义标签,还能同时处理多个答案类型不同的问题。

Hugging Face 提供了对决策模型的生态支持

Transformers 包含 DecisionPipeline、AutoModelForDecision 和 DecisionConfig 类,既支持一致的服务与训练流程,也允许采用不同的内部实现。

💬 Key Quotes

决策模型是一种新型 AI 模型,可根据预定义的问题评估输入,并以概率分布的形式返回结构化决策;在分类和路由任务中,它比传统 LLM 文本生成更高效。

其基本接口是:状态 + 问题 + 允许的答案 → 决策 + 概率

Score 基本操作不会只返回最可能的等级,而是会计算等级索引的期望值。

决策模型的优势不在于发明了运行时定义标签或概率分类,而在于将这些能力整合到一个一致的接口中。

📊 Article Meta

AI Screening: 88

Source: Hugging Face - Blog

Author: Aritra Roy Gosthipaty, Lysandre, Pedro Cuenca, Tom Aarsen

Category: 人工智能

Language: 英文

Read Time: 13 min

Word Count: 3088

Tags:

AI 与智能应用 , 模型训练与推理 , 多模态 AI , AI 工程 , 机器学习

#AI 与智能应用# 模型训练与推理# 多模态 AI# AI 工程# 机器学习

文章评论(12)

星知秋5 天前

路过

回复
暮临风5 天前

点赞,必须点赞

回复
三分糖去冰5 天前

有没有更详细的教程,期待后续。

回复
龙文博5 天前

刚好最近在找这方面的资料,太及时了。

回复
石佳琪5 天前

很有价值的分享,感谢整理。

回复
青柠微凉5 天前

赞同,实践出真知。

回复
月沐雨5 天前

赞同,实践出真知。

回复
吴超5 天前

整理得太全面了,省了我不少时间。

回复
蓝归舟5 天前

有没有更详细的教程,期待后续。

回复
雪知秋4 天前

不错不错,已加入书签。

回复
林拾贝4 天前

讲解得很细致,新手也能看懂。

回复
蓝光4 天前

整理得太全面了,省了我不少时间。

回复