失控的智能体将使人类陷入衔尾蛇的魔咒
时间：2022-03-24 01:36:02 | 来源：行业动态
时间：2022-03-24 01:36:02 来源：行业动态
麦克斯泰格马克在《生命3.0》一书中，将生命进化定义为三个阶段。生命1.0即硬件和软件都来自进化的生物阶段；生命2.0即能够通过学习自己设计软件的文化阶段；生命3.0即自己设计硬件和软件，并主宰自我命运的科技阶段。生命3.0就是 智能体演进的最高境界。作者预测当智能体的算法或者智能等级足够强大后，他将超过人类决策速度，最终将脱离人类的控制。
近些年，因智能体失控引发的事件已展露端倪。2016年，Knightscope平台制造的一款打击犯罪的机器人在硅谷购物中心撞倒并打伤了一名16个月大的男孩。2017年Uber无人车在行驶途中，突发事故，撞车侧翻躺在路上。2018年亚马逊智能音箱无故发出渗人的笑声，令用户毛骨悚然。
智能体失控，将有可能使人类陷入衔尾蛇的魔咒。在《普罗米修斯》电影中，描述过这样一个假想的场景：人形机器人大卫（David）秘密地把他在考察中捡到的一个石瓶带到了船上，并将里面的黑色液体悄悄混入饮料，然后故意递给人类赫洛维让其喝下，希望借赫洛维的身体实验，以测试该液体的作用，最终引发了异形的诞生和一系列由此导致的惨剧。
在今年两会中，人工智能产业的发展被李克强总理连续第三次在政府工作报告中重点提及。人工智能在迅猛发展的同时，如何保持人工智能安全健康发展成为了当务之急。
在线咨询
