首页
搜索 搜索

微软崔宏禹:GPT-4 以后,不建议再用微调进行特定领域的模型适配 天天要闻

品玩     2023-05-27 16:19:05


(资料图片)

品玩 5 月 27 日讯,据澎湃新闻报道,5 月 26 日,微软(中国)有限公司创新技术总经理崔宏禹在上海举行的向星力 · 未来数据技术峰会(FDTC)上回应了当下一个广泛被提及的问题,即如何用自己的数据训练自己的模型,将私域数据与 GPT 的能力相融合。

崔宏禹解答道," 一般来说,我们推荐两种方式。一种是微调(在不改动预训练模型的基础上,在模型顶层增加分类器或一些特征映射,使微调后的模型能够更贴合实际使用场景),但在 GPT-4 以后,我们已经不建议或者已经不让大家使用微调的方式了。我们更推荐的是嵌入(将一个内容实体映射为低维向量,从而可以获得内容之间的相似度)的方式。"

X 关闭

华中工业网版权所有

备案号:京ICP备12018864号-26邮箱:2 913 236 @qq.com