人工智能聪明，但又令人难以置信的愚蠢
时间：2022-03-25 06:18:01 | 来源：行业动态
时间：2022-03-25 06:18:01 来源：行业动态
众所周知，图像识别模型极易受到愚弄。举例来说，对于一张经过精心设计的对抗性海报，这类模型会将其中极为明显的香蕉误认为为烤面包机。而在实践场景下，这意味着自动驾驶汽车可能会误读标志，或者面部识别系统无法正确判断人脸信息。
这篇论文指出，医学领域可能会受对抗性攻击受到特殊影响，且这类恶意行为往往存在着显着的动机包括经济刺激及技术漏洞等。
目前，大多数效能最出色的图像分类器普遍利用ImageNet等开源模型构建而成。这意味着攻击者对于系统的工作原理可以具备良好的认知，并更有可能以此为基础成功攻击其它AI模型。
当人工智能技术被引入临床环境之后，我们无法确定未来的医学专业人员还需要掌握多少深厚的专业知识。但就目前来讲，Finlayson与Beam表示此类对抗性攻击主要属于探索性研究。
并解释称，大家需要对数学及神经网络具备一定了解，才能正确构建起对抗性示例。然而，整个流程可以轻松实现自动化，并通过应用程序或网站进行发布，以便非专家们随时加以利用。
另外，研究团队希望这项研究能够激励从业者们更积极地研究相关议题，进而发现一切可能的基础设施防御措施，最终以更安全的方式利用图像识别为病患以及医护人员服务。
在线咨询
