beplay

当前位置: beplay >> 科学研究 >> 科研动态 >> 正文
beplay于国际人工智能大会发表多项重要研究成果
来源:beplay 发布时间:2020年04月24日 浏览次数:

    近日,beplay于国际人工智能领域顶级会议《International Joint Conference on Artificial IntelligenceIJCAI)》上发表多项重要研究成果:

1. Channel Pruning via Automatic Structure Search

本文第一作者是人工智能系2018级硕博连读生林明宝,通讯作者是其导师纪荣嵘教授。本文提出了一种自动化网络结构搜索的模型剪枝算法,无需消耗人力成本既能实现神经网络的压缩与加速。研究发现,深度神经网络的剪枝效果与网络大小没有太大关系,而是取决于剪枝后的网络结构,即每一层保留的卷积核个数。因此,我们将剪枝过程分为两个阶段:最优剪枝网络结构搜索和搜索模型重训练。针对第一阶段,本文提出将结构搜索问题表述成数学优化模型,并结合人工蜂群算法,开展启发式的最优结构搜索。搜索结构表明,本文提出的结构搜索方案能够得到更低的压缩模型。针对第二阶段,我们使用训练数据对压缩后的模型进行重训练,在实验中我们发现,压缩后的模型随机继承未压缩模型的权重,既能迅速恢复精度表达能力。在CIFAR-10ImageNet数据集上测试表明,本文提出的压缩与加速技术,在各种网络上,均能以更少的人力成本和训练时间成本,达到更高的压缩比和精度恢复能力。

2. Multi-label Feature Selection via Global Relevance and Redundancy Optimization

本文一作为Beplay官方网站人工智能系2016级博士研究生张佳,通讯作者是其导师李绍滋教授。本文关注经典AI中的特征选择问题,提出了一种通用的全局优化框架来处理多标记数据中的维数灾难问题。具体地,我们考虑了特征和标记之间的相关性,特征之间的冗余性,以及标记之间的相关性来进行多标记特征选择。所提优化框架能够快速获取全局最优解。此外,所提优化框架具有很强的扩展性,能够轻松利用多标记数据的内在性质进行建模。如考虑标记具有的固有属性,我们扩展了所提基础模型进行Label-specific Feature Selection。在20个标准多标记数据集上的实验结果显示:所提算法不仅学习性能远超相关算法,而且具有很高的计算效率。

3. Meta Segmentation Network for Ultra-Resolution Medical Images

beplay计算机科学系2018级硕士生吴桐、2019级硕士戴必成是该论文共同第一作者,beplay曲延云教授、华师大谢源教授为该论文共同通讯作者。该论文提出了针对大分辨率、超大分辨率图像提出了一种有效的分割框架。框架使用一种基于多分辨率输入的结构,文章首先引入元学习的方式,设计了一种简单高效的融合结构,不需要复杂或者像传统方式那样堆叠多层卷积,就可以实现收敛快、精度高的融合效果。其次,文章设计了一种新颖的权重共享机制,只需要使用一个主干网络就可以实现多个尺度的分割,在降低网络总体参数量的同时还保证了高分割精度。

4. An Iterative Multi-Source Mutual Knowledge Transfer Framework for Machine Reading Comprehension

本文第一作者为beplay软件工程系2019级硕士生刘鑫,通讯作者是苏劲松副教授。本文针对机器阅读理解任务提出了一种迭代式的多领域迁移学习框架,该框架利用了知识蒸馏技术使得不同领域间的模型迭代式地互相增强,同时引入了相似度这一概念来控制不同领域间的影响程度。实验结果表明该框架模型在多个机器阅读理解任务数据集上取得了显著性能提升。

IJCAI是人工智能领域的顶级会议,被中国计算机协会(CCF)列为A类会议。与其他理工学科不同,在全国学科评估中,唯有“计算机科学与技术”一级学科将CCF推荐的A类国际会议计入成果评估。IJCAI有着严苛的录用标准,2020年的有效投稿量高达4717篇,接受了592篇,录取率仅达12.6%,创历年录取率新低。

beplay-Beplay官方网站
Baidu
sogou
Top