科蒙多尔犬，kara解约，食疗减肥方法
呆板之心专栏
作者：马晨
眼前，研究者们提出了越来越多的黑盒攻击算法，此中基于「模拟」的攻击成为了一种新的攻击形式。来自清华的研究者解决了模型盗取攻击中长久以来存在的一个问题：训练代理模型的时候必要查询目标模型。训练了一个「全能的模拟器」， 能够模拟任何未知模型的输出，而且该模拟器在训练的时候无需查询目标模型。
先容
近来几年，元学习风生水起，这阵风也刮到了对抗攻击领域。本文解读对抗攻击与元学习攀亲的两篇典型的论文（本文分为上下两篇，此为上篇），进展对后来的研究者有所开导。
行使元学习，能够将黑盒攻击的查询复杂度低落几个数量级！CVPR 2021 的《Simulating Unknown Target Models for Query-Efficient Black-box Attacks》这篇论文解决了模型盗取攻击中长久以来存在的一个问题：训练代理模型的时候必要查询目标模型，因此查询量仍然很大，并且更为严重的问题是这种攻击方式能够被轻易地检测和防御。所以本篇论文的工作目标是训练一个「模拟器」（即 Simulator） 能够模拟任何未知模型的输出。为此，基于知识蒸馏的 MSE 丧失函数被应用在元学习中的内部和外部更新来学习多种分歧收集模型的输出。如此，一旦训练完成，模拟器只必要少量的查询内容微调(fine-tune) 就能够正确地模拟未知收集的输出，从而使大量的查询转移到模拟器上，有效低落攻击中目标模型的查询复杂度。
论文链接：https://arxiv.org/abs/2009.00960
代码链接：https://github.com/machanic/SimulatorAttack
在正式先容模拟器攻击之前，我们先看看对抗攻击的分类。
本文先容的方法对应于 Query-based attacks 下的 Score-based setting。
元学习帝国的崛起：配景知识
元学习的降生能够追溯到八十年代，其时的深度学习还没有现在的火热规模， Jürgen Schmidhuber 在 1987 年的论文《 Evolutionary principles in self-referential learning》一文中宣告了一种全新的呆板学习方法的降生：元学习。后来, Tom Schaul、 Jürgen Schmidhuber 两人在 2010 年的论文《Metalearning》中更是确定了元学习的复兴。时间进入 2012 年，跟着 Hinton 深度学习崭露头角，元学习与强化学习更是借着深度学习的大潮，在各个领域扩展到了极致（例如人脸辨认领域等，均可用元学习来加以强化 cross domain 的性能）。
典型的元学习手艺包含以下几个概念：
Task：元学习平日将训练内容切分成一个个小的内容子集来训练 meta-learner。“task”的意思与多任务学习的 “task” 分歧，是指元学习训练所使用的内容子集。
Support set & query set: 每个 task 分成 support set 和 query set 两个子集。Support set 对应于算法中的内部更新，query set 对应于算法中的外部更新。在本论文中，support set 被命名为 meta-train set，query set 被命名为 meta-test set。
Way：是 class（类别）的别称。
Shot：指的是每个类其余样本数量。例如：1-shot 指的并不是一共只有一个内容样本，而是每个类有 1 个样本。
本文地址：http://www.wbwb.net/bianchengyuyan/208836.html 转载请注明出处！