geyaocao鍝ヨ鎿嶄綔-geyaocao

保利今天 1

默认

摘要： 机器心脏&arxiv每周无线电台参加葛耀操：李渊、楚航、罗若坦本周的重要论文包括：利用北京大学等研究机构提出的梯度调整模块（grm）解决在线学习导致的灾难性遗忘问题；研究人员发表了...

机器心脏&arxiv每周无线电台

参加葛耀操：李渊、楚航、罗若坦

本周的重要论文包括：利用北京大学等研究机构提出的梯度调整模块（grm）解决在线学习导致的灾难性遗忘问题；研究人员发表了一份112页的deeponet架构数学分析；braingate的研究团队已经成功创建了无线脑机接口（bci）geyaocao，它与有线脑机接口geyaocao非常接近，延迟非常低。

以非迭代和终身学习的方式学习超像素深层：基于算子的普遍逼近定理学习识别微分方程的非线性算子参数偏微分方程的傅立叶神经算子从模糊攻击中保护生成对抗网络的知识产权使用域augm进行开域泛化进入元学习家庭四瘫患者使用永久无线内部脑-机接口进行基于记忆的视频对象分割学习位置和目标一致性arxiv每周辐射：nlp、cv、ml更多精选论文（含音频）论文1：以非迭代和终身的方式学习超像素

作者：lei zhu、qi she、bin zhang、yanye lu、zhilin lu、duo li、jie hu论文链接：https://arxiv.org/pdf/2103.10681.pdf摘要：为了解决在线学习带来的灾难性遗忘问题，北京大学葛耀操等研究机构提出了一种超像素分割模型lnsnet，该算法利用梯度调整模块（grm）geyaocao，通过训练特征重构中权重的作用和像素的先验空间位置来调整反向传播过程中每个权重的梯度，从而增强模型的记忆性。该研究已于2021由cvpr接收，主要由朱磊和佘琦讨论和开发，并由北京大学分子影像实验室的陆燕业老师指导。

geyaocao 模型结构模型结构

建议：与经典算法相比，参数减少近20倍，运算速度提高4倍。

论文2：deeponet：基于算子普遍认可理论学习非线性算子以识别微分方程

作者：lu lu，pengzhan jin，george em karniadakis论文链接：http://arxiv-export-lb.library.cornell.edu/pdf/1910.03193

摘要：deeponet是一种能够学习算子的深度神经网络结构。其独特的特点是其分叉结构，它在两个并行网络（“分支”和“主干”）中处理数据。前者的输入端学习许多预测函数，后者的输出端学习许多预测函数。然后，deeponet将两个网络的输出结合起来，学习操作员。在训练deeponet的每次迭代中，都会调整分支网络和骨干网络中的权重，直到整个网络的错误量可以接受为止。

二月份，研究人员发表了一份112页的deeponet架构数学分析。研究表明，该方法非常通用，可以将输入端的任何函数集映射到输出端的任何函数集。

geyaocao DeepONet 架构

建议：分岔架构具有很强的通用性，可以将输入端的任何功能集映射到输出端的任何功能集。

论文3：参数偏微分方程的傅里叶神经算子

作者：zongyi li、nikola kovachki、kamyar azizzadenesheli、burigede liu、kaushik bhattacharya、andrew stuart、anima anandkumar论文链接：https://arxiv.org/pdf/2010.08895v2.pdf摘要：傅立叶神经算子深度神经网络（fno）在求解偏微分方程时具有非常快的运行速度。例如，在求解30000个模拟（包括navier-stokes方程）的过程中，每次模拟fno只需不到一秒钟的时间，而传统的解算器大约需要18个小时。对于不存在确定偏微分方程的现象，学习神经算子可能是对这类系统建模的唯一方法。例如，在交通问题中，几乎不可能写出准确捕捉交通动态的偏微分方程，但有很多数据可以学习。

在训练数据通过神经网络的每一层之前，将对其进行傅立叶变换，然后该层通过线性运算对数据进行处理，然后将傅立叶逆变换回原始格式。最后，fno学习整个偏微分方程族的算子，并将函数映射到函数。

geyaocao 傅里叶神经算子架构

建议：它运行速度非常快，大约是传统pde解算器的70000倍。

论文4：保护通用优势网络的知识产权免受歧义攻击

作者：ding sheng ong、chee seng chan、kam woh ng、lixin fan、qiang yang论文链接：https://arxiv.org/pdf/2102.04362.pdf摘要：随着深度学习模型在工业中的应用越来越广泛，机器学习作为一种服务正在逐步兴起，这些模型也被用来创造可观的收入。由于这些深度学习模型很容易被未经授权的第三方复制和剽窃，因此深度学习模型的知识产权保护已成为企业关注的问题。

虽然有卷积神经网络的知识产权保护方法，但它们不能直接用于生成对抗网络（gan）——另一种广泛用于生成真实图像的深度学习模型。因此，本文提出了一种基于黑盒和白盒的gan模型知识产权保护方法。实验结果表明，该方法在不损害gan原有性能（如图像生成、图像超分辨率和风格转换）的同时，还能抵抗嵌入水印的去除和模糊攻击。

geyaocao

建议：第一种适用于gans模型的知识产权保护方法是基于黑盒和白盒，这根本不会损害性能。

论文5：基于领域增强元学习的开放领域泛化

作者：杨澍、曹章杰、王晨雨、王建民、龙明生论文链接：https://arxiv.org/pdf/2104.03620.pdf摘要：深度学习通常依赖于大规模的注释数据。然而，很难实现对感兴趣数据的大规模收集和注释。一种解决方案是领域泛化（dg）：从一个或多个源领域学习模型，以便它们可以直接应用于以前从未见过的目标领域。由于dg的每个源域可能来自不同的通道，并且目标域数据在训练阶段是不可见的，因此它与每个源域的标签集之间的关系也应该是开放的。

本文摒弃了所有源域和目标域都有完全相同的标签集的假设，提出使用域增强元学习（daml）框架来学习开放域泛化（opendg），并通过设计新的元学习任务和损失来进行元学习，从而在保留领域独特知识的同时，促进跨领域知识的发展。实验结果表明，daml方法优于现有的不可见域识别方法。

geyaocao DAML 架构。

建议：更好的领域识别方法。

论文6：四肢瘫痪患者在家使用percutaneous无线内部脑-机接口

作者：john d.simeral、thomas hosman、jad saab、sharlene n.flesher、marco villela、brian franco、jessica keleman、david m.brandman、john g.ciancibello、paymon g.rezaii、emad n.eskandar、david m.rosler、krishna v.shenoy§、jaimie m.henderson§、arto v.nurmiko、leigh r.hochberg论文链接：https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=9390339摘要：用于大脑操纵的脑-机接口技术并不是什么新鲜事。然而，在过去，脑-机接口设备用于通过有线系统向计算机传输脑波信号。如果使用无线技术，这将是一个重大进步。2015年，在braingate的帮助下，四肢瘫痪患者只能用自己的想法打字。然而，要完成此操作，参与者需要连接到一台固定的计算机，以便传输大量的处理数据。

最近，braingate的研究团队取得了新的突破。研究人员已经成功地创建了一种无线脑机接口（bci），它接近有线脑机接口，延迟非常低。与2015年相比，新的研究成果可以节省许多繁琐的设置，让用户不仅可以打字思考，还可以轻松浏览家中的网络内容。在这篇研究论文中，研究人员描述了两名四肢瘫痪志愿者如何使用新的无线bci系统，在windows中打开“开始”菜单并使用其中的应用程序。

geyaocao 有线和无线配置下的人类皮质内信号记录比较