18143453325 在线咨询 在线咨询
18143453325 在线咨询
所在位置: 首页 > 营销资讯 > 行业动态 > AI Security安全投入 算法 样本都要重视

AI Security安全投入 算法 样本都要重视

时间:2022-03-24 01:36:02 | 来源:行业动态

时间:2022-03-24 01:36:02 来源:行业动态

随着物联网技术的蓬勃发展,智能家居日渐被人们认同和普及。但家用WIFI、路由器,机顶盒等IoT设备其实却并不安全。因为IoT设备生产商,为了方便部署和调试,降低成本,给这些设备设置了雷同的弱口令,为黑客的远程攻击和控制提供了便利。智能体在算法方面,无论如何严密,都可能存在错误。特斯拉Model S在自动驾驶模式下,就曾因为算法出错,在高速公路上行驶中,撞上并钻入了一辆18轮大拖车车底,致使车主当场死亡。另外,人工智能主要依靠机器学习,需要大量的样本。一旦样本被污染,训练出来的模型将会产生偏差。

丁牛科技建议:智能体厂商要提高安全防范意识,加大安全投入。从产品设计开始就要进行安全投入,在顶层设计和成本投入方面都要做好安全考虑。其次,在算法方面不仅要考虑安全问题,还要考虑在极端情况下容错问题。例如,三方表决容错机制就很值得借鉴。三方表决容错机制即:三个厂商分别开发三个系统,每个系统都不一样,通过表决,少数听从多数,力保系统安全。最后,需要高度重视样本的纯净性和准确性,避免使用污染样本。

关键词:重视,安全,样本

74
73
25
news

版权所有© 亿企邦 1997-2022 保留一切法律许可权利。

为了最佳展示效果,本站不支持IE9及以下版本的浏览器,建议您使用谷歌Chrome浏览器。 点击下载Chrome浏览器
关闭