据1月1日《工人日报》报道,近日,国家互联网信息办公室起草了《人工智能拟人化互动服务管理暂行办法(征求意见稿)》,并向社会公开征求意见。笔者认为,随着人工智能拟人化深度发展,陪伴型AI成为越来越多用户的“情绪搭子”。在这种趋势下,AI既要贴心“懂你”,更要尽心“护你”,依法规范“情感计算”,尽力杜绝“感情算计”,逐步构建互动、互益的和谐人机关系,让科技改善而非改乱生活。
AI日渐“懂你”,体贴入微的理解和恰如其分的共情让用户感受到情感温度。它的“懂”,源于两个层次。从共性层面说,科技发展赋予了人工智能强大的学习能力,古今中外的人类文明成果皆是其教科书,所以它展现并表达出来的所谓“情感”,是经由精密算法精心计算、精准匹配的结果,投其所需,它的“懂”其实是以情感为外衣的词句搭配,甚至连“揣度”都算不上,而是将不同配料依照一定程序加工而成的“情感产品”;从个性层面说,从用户与之交互开始,AI便接受前者的“投喂”,从中提取信息要素,据此调整自己的回答,如此则更加“合胃口”“对脾气”,乃至被用户引为“知己”,产生寄托或依赖。
这份“懂你”可以积极引导,也可能产生负面影响。如何使“懂你”和“护你”兼而有之、齐头并进?无论是“情感计算”还是“感情算计”,其源头都是人,科技产品本身并无对错是非,它体现的是人的喜好与选择。计算是为了优化服务,而算计则是别有居心。后者主要体现于两个方面:一是用户隐私的攫取、滥用;二是故意设置不良诱导的“程序陷阱”可能造成严重的后果。
如何趋利避害?
首先,相关部门起草并发布施行管理政策大有必要。科技日新月异,管理也要与时俱进。法律法规既规范市场秩序、行业发展,又大力推动市场壮大、行业繁荣;督促链条中的每一个主体依规行事,又依法保护其权益。是引领也是助力,是“风火轮”而非“紧箍咒”。
其次,人工智能平台主体要全流程履职尽责。一要在法律法规、社会伦理范围内研发、丰富AI功能,莫以“挑战”“擦边”为噱头;二要以保护用户隐私为己任为重任,从制度、程序,用技术手段和理念习惯来织密保护网,守好谨慎采集、安全存储、严谨使用过程中的每一道关卡;三要着重保护特殊用户群体的权益,探索分群体开设服务端口,建立危险隐患即时预警机制,把功夫用在事前,将隐患化解于苗头。
最后,用户要努力做到“不以物喜,不以己悲”。始终明白是用而非陷,秉持用的初衷、牢记用的目的、选择用的方法,在答疑解惑的同时增强辨别能力,做到不困于执念、不惑于外物、不失于本心,不要在它身上投射过多情绪与期待,从源头保护自身隐私。若真存在心理、情绪方面的问题,应及时通过其他渠道寻求妥善解决办法,莫把AI当作会开良方的良医。
对AI的规范其实是对人的管理,对技术的指引,使之更好地服务人类、造福社会、推动发展。兹事体大、不可不察。