脆弱的人工智能认知

时间：2022-03-20 18:18:01 | 来源：行业动态

时间：2022-03-20 18:18:01 来源：行业动态

机器在大量数据的基础上，通过不断学习和训练方能逐渐产生智能，在这个过程里机器需要不断的获取数据、生成信息、形成知识、产生智慧，其中的数据获取、数据处理等任何环节遭受攻击、发生错误，都会使得人工智能的最终认知结果和预期产生偏差，甚至产生危害性影响。

实际上，如今针对人工智能算法特点、人工智能算法在软件上的实现过程所发起的攻击在越来越多。例如对抗性攻击通过构造对抗性数据，即可欺骗人工智能的识别结果，而这些对抗性数据人类大多无法发现、察觉。加州大学伯克利分校计算机科学家Dawn Song所带领的研究团队在停车标志上放上了一些会被人们忽略的贴纸，而图像识别AI却将其误判为了每小时不超过45英里的限速标志，这对于正奔跑在美国公路上的谷歌无人驾驶卡车无疑是场噩梦。

当下，人们非常专注于人工智能算法的深度研究，但对于人工智能认知安全的研究却近乎于0！