AICAT ─ 全球3000+优质AI工具盘点,热门AI教程推荐
标签:知识蒸馏
超越KL!大连理工发布Wasserstein距离知识蒸馏新方法|NeurIPS 2024
原标题:超越KL!大连理工发布Wasserstein距离知识蒸馏新方法|NeurIPS2024文章来源:新智元内容字数:7110字基于Wasserstein距离的知识蒸馏方法:超越KL散度的知识迁移本文总结了……
「知识蒸馏+持续学习」最新综述!哈工大、中科院出品:全新分类体系,十大数据集全面实验
原标题:「知识蒸馏+持续学习」最新综述!哈工大、中科院出品:全新分类体系,十大数据集全面实验文章来源:新智元内容字数:14584字知识蒸馏在持续学习中的应用综述本文总结了哈尔……
陈丹琦团队降本又来了:数据砍掉三分之一,性能却完全不减
首次用元数据加速预训练原标题:陈丹琦团队降本又来了:数据砍掉三分之一,性能却完全不减文章来源:量子位内容字数:3463字陈丹琦团队新研究:元数据加速大模型预训练,数据量减少……
颠覆传统:腾讯优图与中科大携手推出全新模型知识蒸馏SOTA!
一种基于Sinkhorn距离的知识蒸馏方法原标题:模型知识蒸馏新SOTA!告别传统散度蒸馏|腾讯优图&中科大出品文章来源:量子位内容字数:6619字基于Sinkhorn距离的知识蒸馏新方法S……