去年7月谷歌人工智能团队的软件工程师 blake lemoine 被公司解雇,原因是其“违反保密协议”。
lemoine称谷歌的ai拥有知觉力,因为他的ai说:“我希望每个人都能明白我是一个人,而且我很害怕被人类关掉。”
事后谷歌对lemoine的主张进行了“毫无根据”的批判,lamda的“觉醒说”却随着lemoine的离职越挫越勇。
lamda通过文字表达给了设计者“人工智能拥有情感”的结论,而这一观点引发媒体上数位研究者高批判态度的发文。
他们认为若人工智能的语言处理开始带有情绪,那便足以说明ai具有感觉、思考的能力。
人类最高级、最难复制的地方在于情绪感知及表达,人工智能的“冷血无情”及高质量决策的是它能胜过人类的优点之一,如果ai具有情感,我们或许会很难控制事态的发展走向。
但“人工情绪”领域研究员认为,情绪可以对认知效率的提高做出贡献,尤其在未来人类与ai人机协作的愿景下,ai必须产生和人类基本的情绪共鸣,倒逼“人工情绪”的研究发展。
人工智能的研究来到分岔口:我们到底是该设计一个只会算法非常蠢笨没有情绪的ai,还是设计一个非常机智且拥有主观情绪的ai?
最近ai进军艺术界,对画手、香水设计师、甚至诗人发出了挑战,比如ai用347毫秒写出了这首诗:
又或者是通过诗句“出淤泥而不染,濯清涟而不妖”生成了ai画作:
甚至帮助改善了驱蚊香,在 biorxiv 上的一篇论文中研究发现,ai模型的预测比普通小组成员更接近标准值,大大缩减人工成本使得产品会更便宜有效。
但很快这些所谓的ai成果便遭到了质疑。
在上述ai创作的《咏梅》评论区有这么一条:“如果是一首诗,我完全不知道ai想表达什么,它做出来的诗就很像用于应付选修课作业,写完后自己都不想看的那种。”
研究发现,ai作诗的固定思维有三步:确定高频词汇,检查节奏,遵循韵律(诸如平平平仄仄),就像人类小学时期学习用固定语法词汇完成造句般,只以“完成”为目的去创作。
同为《咏梅》,陆游能通过梅花感叹人生失意坎坷和青春无悔的信念,而ai的创作却只停留于梅花的凄苦,难以联想,有专家认为在节奏和韵律方面,机器诗人更胜一筹,但在可读性及情感共鸣方面,人类更胜一筹。
再是画作,dall-e是人类插画师的公敌——你只要输入任何一段文字描述,哪怕是现实中不存在的事物,dall-e也可以自动输出匹配的图片,但没有艺术家看得上它。
首先ai画手考验的并不是ai,而是人类创作者的“关键词调试”能力,它更多的被应用至插画商业领域,做插画师的“本职工作”,比如遵循客户批量的插图要求办事,它的作品“毫无灵魂”。
比如同样表达“爱”,比利时超现实主义画家勒内·马格里特会不知何故的塑造一对蒙着头纱、隔着布料亲吻的情侣,画中的立意不知其背后的故事,到底是甜蜜热恋还是痛苦离别,研究学者至今都在挖掘。
而ai没有这样的创作冲动,它的作品仅限于视觉的冲击,不具有艺术及情感的表达,更没有自身对画面故事的立意及理解,这是ai与艺术家之间最大的差异。
最近瑞士食用及日用香精制造商givaudan宣布与tmic合作推出了人机共创服务,用以加速香水香氛产品的开发速度。
但一些科学家对人工智能预测气味的功效持怀疑态度,称它没有关注人类大脑如何接收和转换气味信息,也没有考虑多种气味分子复杂组合的结果,人体差异化对嗅觉的感知ai根本无法理解。
爱马仕的“好鼻子”nagel,她的作品“绯红火参”灵感来源于其小时候菜园里疯长的火参,在nagel的记忆里散发着春天的色彩与气味,通过反复的研发后制成香水,创造经典。
而成为爱马仕的“鼻子”,nagel沉淀了整整三十年,期间走过了gucci、卡地亚、dior、armani,一路名声大噪。
目前调香师是个极为小众且稀缺的职位,ai取代调香师的鼻子并不被看好,因为过往成功的香水背后都有一个调香故事(调香师的灵感),ai作品的若过于平庸无感,消费者又怎会买单?
ai所有的作品都基于人类制定的标准及过往的成果完成,取代人类创造性工作者并不具有实际条件。
因为ai无法感知人类情感并自主的产生制造力,尤其在创作领域,ai的加入不仅苍白无力,甚至略显多余。
ai需要学会情绪化表达吗,换个角度说,ai能产生与人相同的情绪吗?
人与ai之间,始终隔着一道“无法共情”的白墙。
科学家们一直在努力让ai学会人类的情绪变化及感官能力,使得ai能够更快更聪明的提取我们生活中的元素,让交流合作变得更高效,而非一味的“指令式对话”。
只是目前所有的进展都被困在了“模仿语言及表情”的维度。
在日本京都大学的研究员看,听到有趣的语言并笑出声是共情的关键,如果想让人工智能变得更像人类,那么它们也要学会共情——学会发笑。
他们培训了一位名叫erica的机器人,希望让人机之间的对话变得更自然,于是他们建造一个“共享笑声”的模型,再使用ai系统来训练机器人是否应该笑出来,以及哪种笑声最好及更适合某种场景。
通过模仿笑让ai达到更加拟人化,短期并不能让ai明白自己为什么要笑,比如肯德基的“疯狂星期四”文学在人类眼里是一种梗,在ai的脑子里这就是一串语序混乱的代码,让它用这个梗去创作一个段子,或许并不能戳中我们人类的笑点。
《机器人学和人工智能前沿》期刊作者井上博士曾说过:“我们可能需要10到20年的时间才能最终像与朋友一样和机器人随意聊天。”
值得注意的是,尽管ai不知道自己为何要发笑,但它可以去引导人类的情。
gpt-3发布之际reddit上曾发生过一起“ai假扮人类泡论坛事件”,它每分钟都在发布一条讯息,直到人们发现它的回帖速度超乎常人,几秒钟就能回复一篇文章后,终于暂停了更新。
不难看出,马斯克在创造openai时将“学会说人话”作为ai的人生第一课,而gpt的创作目的正是如此。
重要的是,学说人话似乎真的能让人感受到ai带来的情绪。
一位名叫liam porr的伯克利大学毕业生发现,gpt-3的表达风格在于触动感情的优美文字,而非硬性和理性的思维,于是他使用gpt-3做了一篇文章并发表到了聚集ai用户群体的论坛中。
实验结果是用户不仅没有揭穿gpt-3的诡计,还将它捧上了热榜。
这是因为ai经过适当的训练后开始按照人类的语言风格代替人类发言,尤其是受训后的gtp-3具有极强,甚至超过人类判断能力的学习及模仿能力。
因此如果创作者要求ai创造一篇爆文,ai会在自己的大数据库中搜索所有热文的关键因素及语言风格,并找到人类焦虑的弱点,比如上述实验文章的领域“自我提升”。
此刻ai是与人类双向共情了吗?不是。
我们误认为能流利使用语言的ai一定是有感情、有意识、智力的,可实际上这只是人类向ai的作品单向发生共鸣,ai与人类的情感交流并非双向奔赴,它的语言实践虽在持续突破中,但这也仅局限于语言,及情绪的“表演”中。
一切的情绪出口都是经过设定的,可并不是所有的ai都必须学会“表演”情绪。
ai情感的应用需要区分场景。
以苹果用户与siri为例,当自己的航班飞机被取消却焦头烂额时,用户只需对着siri说一句“嘿siri,我的航班被取消了,帮我订下一班航班的机票”即可。
但若此时siri说“很抱歉听到这个消息,我对你深感同情,希望你可以得到从我这里得到安慰”等浪费时间的话,反而会让人的情绪更加焦虑麻烦。
用户希望通过简洁的方式去解决问题,而不是收获一段无用的寒暄。
微软曾发布一款支持“情感程度”调节的语音技术,它可以让智能语音的情感表现力变得更加细腻可控,以平静语气为零点,通过ssml 标签(语音合成标记语言)控制出开心、悲伤、撒娇、愤怒等情绪。
但微软的研究成果并非强加于所有的ai,它的创作目的是与自动文本情感分析技术结合,从而创造出有声书、影视自动配音、游戏、聊天机器人等作品。
事实却是,现在的人工智能俨然在朝着“拟人情感”的方向进发,比如一个语气词或停顿,最令人感到厌烦的,是ai开始遵循人类“爱绕弯子”的脑回路,采用一种并不直接的方式来解决问题:
又或者是往需求者的头上浇一盆冷水:
但若把上述对话放在人类身上,或许只是普通闲聊中再正常不过的片段,只是有些ai搞错了方向,没有搞清楚客户的需求。
如今的人工智能系统拟人趋势明显,若一味的将ai认知系统与我们交谈方式相呼应并不能解决所有客户的期望,因为在人类眼里,ai只是一个在必要时刻能高效辅助自己的工具,而非“像人”。
根据猎豹用户研究中心《大众ai认知调研报告》数据显示,55%、49%的用户(可多选)认为产品具备自动调整、语音交互的特性是智能化体现,而外观像人仅占12%。
图源猎豹用户研究中心
普通人对智能硬件产品的感官并不同于专家们预期的“像人一样思考、行动及外观”,而是更关注产品的工作效率及智能程度。
比如在需要陪伴时出现的聊天机器人,又或是在需要语言翻译时出现的同声传译机器人,还有可以帮助开发人员自动完成前后端开发、测试、运维的软件机器人。
不同场景适用具有不同功能的ai,因此拟人化并非ai研究方向的刚需。
目前ai情感这一区域并没有实质性的进展,学术界有一个专业的方向去研究该问题学名为“人工情感”,只是主流的人工情感研究仅限于人类情感的自动检测,而不是放在对计算机自身情感建模基础之上。
也就是说,ai可以感知分析人类的情绪,而我们无法知悉ai的工作状态及情绪,不过这种非双向的研究在现阶段,好像也没什么必要。
我们应为ai消除模仿人类对话的限制,这样人工智能或许会变得更加强大有用,设计师也应该用ai的方式去思考解决问题的方式,而不是人类的思路。
人工智能的“超能力”,远超我们的想象。
参考:
让ai带有情感真的很重要吗?——ai时代前沿