前言 对抗样本大家都耳熟能详了，但是大家可能觉得离自己比较远，毕竟主要是学术界在做这方面的工作，可能还需要很多数学理论基础，所以没有尝试动手实践过。在本文中，不会提及...

  研究表明，机器学习系统在理论和实践中都容易受到对抗样本的影响。到目前为止，此类攻击主要针对视觉模型，利用人与机器感知之间的差距。尽管基于文本的模型也受到对抗性样本...

聚焦AI 安全，行业大咖共探技术难题AI安全作为科技行业的一个新战场，需要在算法、数据、应用等多个环节进行攻坚。2021年OPPO举办的安全AI挑战赛聚焦行业焦点的人脸识别难题，以...

原创： xiaoqin00 合天智汇前面我们假设了一个验证机器的场景菜鸟的AI安全乱谈（1）-通过深度学习模型攻击深度学习分类器，这篇文章我们接着那个场景来展开，在拿到模型的读写权限情...

原创： xiaoqin00 合天智汇假设场景：假如你获得了一台带虹膜验证机器的部分权限，能够进入到这个机器的部分目录中，但是只有模型文件（model.h5）的读写权限，这种情况下你要怎么进行下...

前言 本届RSA中AI/ML是一个热点，当前的人工智能其实可以简单划分为感知智能（主要集中在对于图片、视频以及语音的能力的探究）和认知智能（涉及知识推理、因果分析等），当前算法绝大...

*本文原创作者：薇拉vera，本文属于FreeBuf原创奖励计划，未经许可禁止转载 写在前面随着AI军备战进入白热化状态，越来越多的行业开始被AI带来的浪潮所影响，甚至颠覆。安全作为和众...

摘要深度学习引领着新一轮的人工智能浪潮，受到工业界以及全社会的广泛关注。 虽然大家对人工智能有很多美好的憧憬，但是现实是残酷的 -- 随着一批深度学习应用逐渐开始变成现...