AI顶会解读图信息瓶颈的子图识别与医疗图

北京看白癜风哪个医院好 https://baike.baidu.com/item/%E5%8C%97%E4%BA%AC%E4%B8%AD%E7%A7%91%E7%99%BD%E7%99%9C%E9%A3%8E%E5%8C%BB%E9%99%A2/9728824

ICLR(InternationalConferenceonLearningRepresentations),即国际学习表征会议,由深度学习三巨头之二的YoshuaBengio和YannLeCun于年创立。尽管起步晚,但其影响力已不容小觑:它被誉为“深度学习的顶级会议”,受到学术研究者们的广泛认可,谷歌学术h5指数已经排到了全榜第17名,超过了NeurIPS、ICCV、ICML。

日前它放出了今年的论文接收结果。ICLR共收到篇有效投稿,最终接收篇,其中53篇为Oral论文,篇Spotlight论文,其余为Poster论文。接收率为29%,相比去年的26.5%有所提升。

1.针对医疗图像的一种稳定性对抗攻击方法

StabilizedMedicalImageAttacks

深度神经网络使得医疗图像的自动诊疗的性能得到大幅提升。然而深度神经网络会带来对抗攻击的脆弱性等困难。因此针对普适医疗图像的对抗攻击具有明确的意义,可以有效进行分析并避免自动诊疗中带来的误判问题。

本文在现有针对自然图像的对抗攻击基础上,提出一个稳定性约束项。在对抗扰动迭代计算的过程中,该约束项衡量当前扰动和之前扰动的相似性。从KL散度的角度来看,该约束项使得对抗攻击将网络的输出引入一个错误而固定的结果。该结果不受网络结构和数据类型的影响。

在若干医疗图像分析的数据库中(包括最近的新冠数据库COVID-19),我们的方法能够稳定而有效的攻击现有的自动诊疗神经网络系统。本研究可用于分析自动医疗图像诊疗的潜在风险。例如由于医疗设备受污染带来的诊疗误判情况,以及人为的医疗保险欺诈等问题。

2.基于图信息瓶颈的子图识别

GraphInformationBottleneckforSubgraphRecognition

本文由腾讯AILab和中国科学院自动化研究所合作完成。图分类、药物分子官能团发掘、图数据去噪等任务都可以归结为寻找一个与原图标签最为相关且滤除噪声结构的子图。然而监督学习需要利用子图层面的标签,且图的不规则离散结构对算法优化带来了挑战。

本文基于信息瓶颈理论提出了信息瓶颈子图的概念和图信息瓶颈算法,并针对图的不规则离散结构提出了二层互信息优化算法与连续化松弛方法。基于该算法,不需要显式的子图标签即可有效识别这种子图。

实验表明,该算法能有效提高多种图分类算法的精度;在分子数据集上,该算法能够准确识别最能影响药物分子属性的子结构;此外,该算法对于有噪声的图分类任务有较好的鲁棒性。

本文在图深度学习中开拓出了一个子图识别的新的研究领域,并在药物发现中起到了一定的辅助分析的作用。其中结合信息瓶颈理论来解决图问题的思路也对今后的相关研究有借鉴意义。

想了解更多关于图深度学习的信息,可阅读文章:腾讯AILab联合清华、港中文,万字解读图深度学习历史、最新进展与应用

3.通过反转有限权重比特实现深度神经网络的有目标攻击

TargetedAttackAgainstDeepNeuralNetworksviaFlippingLimitedWeightBits

为了探索深度学习的脆弱性进而获取更加安全的深度模型,研究者们提出了许多的攻击范式,例如在训练阶段使用基于数据投毒的后门攻击、在推断阶段使用的对抗攻击。

本文研究了一种新的攻击范式,即通过修改部署的模型参数来达到恶意目的。我们的攻击目标为:将一个指定样本分类到目标类别(不对此样本进行修改),同时不显著降低模型在其他样本上的性能。由于网络参数在内存中是以二进制比特存储的,因此我们将识别重要比特问题形式化定义为二元整数规划问题,给出了带有约束的目标函数。

利用最新的整数规划算法,我们进一步给出了一种高效的优化方法。实验表明,该方法在多个数据集上表现显著优于启发式的方法。本研究可用于评估当前深度模型参数的鲁棒性,识别应用中的潜在安全隐患,进而促进更加安全的模型开发与部署。

来自腾讯AILab



转载请注明地址:http://www.lingzhia.com/lzcf/8161.html
  • 上一篇文章:
  • 下一篇文章:
  • 热点文章

    • 没有热点文章

    推荐文章

    • 没有推荐文章