儿童不应该为早教机器人的伦理问题买单

微信公众号:智能相对论柯鸣2018-04-11 14:56科技控
儿童机器人的社会化伦理问题还有很长的路要走,如何冲破技术壁垒、克服伦理问题,还需要时间探索。

1959年,恩格尔伯于Unimation公司研制出了世界上第一台工业机器人,60年后,机器人深入至人们工作生活的各个方面。其实,在机器人发展史中,教育机器人承载着人们对未来机器人科技的重视与期待。从全球市场来看,自2011年起,全球教育机器人市场规模逐年增长,市场规模总体呈现稳步上升态势。

2011-2017年全球教育机器人市场规模及增速

哪里有潜在用户哪里就有市场。随着“二胎”政策红利显现,“AI+早教”成为科大讯飞、猎豹等企业争相抢占的市场,儿童机器人因其拥有训练儿童学习能力、帮助孩子培养学习兴趣,开发潜能等优势,发展速度更加迅猛。

多数人都以为他们对了。随着80后逐渐成为社会建设主力军,基于繁忙的工作,与上一辈育儿观念的不统一等原因,更多年轻人觉得儿童机器人已经成为能大程度上替代自身陪伴的工具。

智能加身,朋辈加持,早教机器人的热潮一波高过一波。大多数企业以“萌即正义”、“24小时陪护”、“寓教于乐”为卖点,甚至打出“儿童机器人才是孩子最好的陪伴”、 “一台机器人代替0到12岁儿童教育”等宣传语。如日前猎豹发布近万元儿童陪伴机器人豹豹龙,称之为“真正走进家庭”、“为儿童量身定做”;小慧儿童机器人称其能“智能教学+智能陪伴+智能生活”。

其实,多数人都错了。再逼真的童声、再丰富的知识资料库,人机交互终究无法替代人的社会化过程。社会化是由自然人到社会人的转变过程,每个人必须经过社会化才能使外在于自己的社会行为规范、准则内化为自己的行为标准,这是社会交往的基础。儿童也只有在与自然人及社会接触的过程中,才能逐渐培养起自己的独立认知,这是早教机器人无法承载的。

儿童机器人与社会化伦理之战

儿童陪护机器人作为一种搭载人工智能的高科技产品在现实生活中使用,如唐·伊德曾说的:“在如今的生活世界的高技术机构中,可能性的激增是多种多样的、多元稳定的,通常既令人眼花缭乱,也危险重重。”

智能相对论(ID:aixdlun)分析师柯鸣认为,从社会化和AI伦理的角度来看,早教机器人仍然存在着众多问题,童年作为自主意识形成的关键时期,儿童机器人在其应用过程中,不可避免的存在着机器伦理问题。

1.对机器人的生命性幻觉

所谓生命性幻觉(the illusion of robot animacy)指的是儿童在与机器人交互的过程中创建出拟人化的无力、社会、关系,孩子可能会认为这是“真实”的而不是幻觉。

儿童发展心理学认为,学龄前儿童会发展出关于描述、解释、对他人行为预期的设想等认知技能:当儿童18个月时,开始稍微理解人为一种意向性的生命实体;3岁时,才能理解人们的思维、情感、行为之间具有某种程度上的相关性、因果性,这种认识为儿童的思考与理解能力奠定了基础;甚至到4岁,部分儿童的心理认知仍然未完全发展成熟,无法完全理解他人思维。

由于儿童机器人具有语音、行动等重要的拟人性特征,将儿童投入该环境中,机器人可以结合视觉、听觉和触觉形成“拟人化”的存在,并构成儿童一定的生命性幻觉。儿童常会把机器人视为有生命的个体,会认为其有思想、会疼痛,是自己的朋友。

显然,将机器人看作一种生命是不道德的。基于生命性幻觉建立起的“友谊”,并不能鼓励个体培养“同理心”,机器人与个人之间不存在给予与承担,此种关系也无法锻炼儿童的移情与友谊。

2.遭受非安全依恋危险

儿童依恋理论认为,所有动物包括人类都具有影响发展的先天气质,这使得儿童在成长中与陪护者之间存在情感依恋关系。若儿童2岁前未与陪护者间形成亲密依恋关系,则会影响儿童社会化进程和人格发展。

心理学家玛丽·安斯沃斯的亲子依恋实验显示,儿童的依恋方式主要分为安全型、回避型、矛盾型和混乱型。其中大部分儿童的依恋方式属于安全型,即在母亲陪伴的场景下其能独立探索环境,当母亲离开时会心烦焦躁不安。

在儿童机器人陪护的过程中,机器人通过触摸、语音识别、语言互动、人脸识别、跟踪定位、目光捕捉等方式与儿童进行交互,对儿童形成“拟陪伴感”,从而一定程度上替代母亲陪伴。

但是,当儿童与机器人长时间共处并形成某种信念,其可能形成对机器人的不安全依恋关系,进而遭受一种病态的依恋错乱(即儿童将对母亲的依恋转嫁至机器人身上)。事实上,这种依恋是非安全的,每一个孩子需要量身定制的亲密沟通方式,这一切只有父母才能够给予。

3.机器时代下的“原始儿童”

诚然,机器化简便了许多儿童学习方式,数字化、智能化成为了儿童机器人的主要卖点,但与此同时,也不断削减着儿童的社会互动。实际上,群体学习过程在认知发展中具有至关重要的作用,而社会互动是儿童认知发展的必要因素。前苏联著名心理学家维果斯基认为:6-7岁的儿童认知发展中,其“私人演讲”会完全内化,而年长儿童能够进行逻辑思考,都是因为其从社会中获取的成人说话方式和现实表现。

但是,当儿童机器人陪护取代父母及其他人员陪护时,孩子与社会人的交流机会减少,甚至是被淹没了,儿童由与人交互变成了与“拟人”的机器交互,社会化推进的过程中,儿童几乎变成了机器下的“原始儿童”,其可能侵蚀社会关系的基础,存在着将个人与其他社会关系切割的可能性。

此外,机器人自身的结构性对于儿童健康来说仍是挑战。基于目前为人所诟病的“ipad+摄像头”问题,电子屏对儿童眼镜存在着不可忽视的影响。有研究表明,人类通常眨眼频率是每分钟16次到20次,但面对电子屏幕会减少6-8次,这无疑对儿童视力保护存在危险。此外,微波辐射、隐私侵犯、看护“对象化”等等问题,依然是儿童机器人难以解决的“社会化之痛”。

“去伦理化”这场战役,路在何方

关于儿童机器人的伦理威胁,上文已经阐述。而如何在“去伦理化”这场战役中取得胜利?智能相对论(ID:aixdlun)分析师柯鸣认为,撇开目前的人工智能难题,企业在对儿童机器人的研发和技术上依然有许多可以“用武之地”。

1.技术相生,伦理相成

技术体系和设备能体现价值的观点已在技术、社会和人性的各种研究方法中根深蒂固,提高儿童机器人的价值敏感性可成为当前研发的重点之一。价值敏感性设就是将人类的价值观念嵌入机器技术设计之中,将伦理道德价值观嵌入机器人的前期研发之中,达到规避技术人工的负面效果,以符合人类的价值要求。

比如,若能将儿童的成长情况、社会性、心理状况等道德价值置入机器人设计之中,打破机器本身的伦理壁垒,并对儿童健康成长予以保障,用程序的设计规避伦理失范,这将在很大程度上降低伦理风险。

2. “人机联动”才是儿童教育的最优解

那么儿童机器人只能弃之如敝履吗?实则不然。从当前市面开看,儿童机器人多融合了陪伴、知识性、监视性等多种功能,其知识学习速度也不断提升,基本能够满足儿童时期的认知需要。因此,适时的搭配儿童机器人进行知识确为优秀选择。同时,只有将人与机器联动起来,形成“家长陪护+机器人辅导”的人机联动效应,才能充分发挥人的社会化过程中与人互动及机器补足的优势。

比如儿童机器人可以在日常中充当父母的“第二只眼睛”,ibotn儿童机器人能够运用遗传算法识别锁定目标图像且紧跟看护目标,当陪护目标脱离视线或有陌生人靠近时,其会发送警报给监护人。这很大程度上增加了家长陪护的便利性。

3.“社群化”或成为儿童机器人突围路径

从当前市场产品来看,儿童机器人并未涉及社群搭建领域。儿童机器人多大是做封闭的场域下进行——即每个家庭各自使用,进行儿童陪护。正如前文所提及的,儿童机器人削减儿童社会化时间,导致其生命性幻觉等一系列社会化伦理问题。

“社群化”似乎为这一现象提供了一颗“救心丸”。从线上社群维护到线下活动组织,社群让儿童与儿童联系起来,让家长与家长、家长与儿童交互起来,不论是儿童自主交流还是家长互相分享育儿心得,“社群化”为家庭走出“圈养式陪伴”提供了一条新的路径。当然,“社群化”的路子走不走的通、走不走的快,还有待于市场的检验。

总而言之,儿童机器人的社会化伦理问题还有很长的路要走,如何冲破技术壁垒、克服伦理问题,还需要时间探索。

当然,不要忘了,那个教会小孩“妈妈,洗脚。”的人,不是儿童机器人,永远都是人类自己。

*本文为新芽NewSeed特邀作者柯鸣授权发布,转载请联系原出处。如内容、图片有任何版权问题,请联系新芽NewSeed处理。

相关领域的投资人

下一篇