记者眼|正在消失的主体性

稿源: | 作者: 徐梅 日期: 2020-10-31

你我,都不应该因为懒惰或者懈怠,甘于沉默

本刊记者 徐梅

 

跟大多数人一样,我也是从2017年开始关注人工智能,“阿尔法狗”连克李世石、柯洁,使得“AI”、“奇点”迅速成为热词儿,谁都能聊上几句。“人工智能会不会抢走我们的工作?”“AI如果具备了超人的智能,会不会毁灭人类?”

 

但很快,我们就厌倦了这样的讨论。

 

一方面,专业人士很不耐烦地提醒人们,AI只是一项技术,技术取得突破并不容易,那个机器胜过人类、甚至对人构成威胁的“奇点”可能百年以后才会到来。技术大牛吴恩达说,整天讨论这些“好比是讨论火星上人口是否会过剩一样”。

 

另一方面,对于普通人来说,AI技术并没有那么容易理解,AI威胁论说来说去也就那么几句,这一类题材的新鲜劲儿一过,连科幻作家都不爱写了。

 

从2017年开始,每年我都会写一篇关于人工智能的报道,最初是想通过对围棋产业这个被AI选中颠覆的第一落点持续观察,看看人工智能如何改变一个职业、一个行业,以及行业中的人,同时延展到对几个AI创业公司的持续观察。

 

必须承认,创业者的勇气、智慧,以及AI产业的急速发展是极其吸引人的,我自己从开始的警醒好奇,迅速被技术乐观主义“洗脑”,重新看这些稿子时,发觉当时更多看到技术“喜大普奔”,较少看到人。

 

技术大过了人,这本身就是问题了。即便“奇点”远远未至,但AI发展所带来的伦理与法律挑战已经无法回避,更何况交叉学科不断带来技术的跃迁,“奇点”越发不可预测。

 

“十一”假期前后,我因为采访,集中看了三本书——哲学教授何怀宏的《人类还有未来吗?》、日本学者的论文合集《AI联结的社会》、美国计算机专家斯图尔特·罗素的新书《AI新生》。

 

斯图尔特1995年出版的《人工智能》多年来不断再版,被128个国家的1400多所大学作为教材使用。他在《AI新生》中反思,从2014年开始,“我便公开承认,我的研究领域对我自己所属的物种构成了潜在危险。”

 

他强烈反对业界关于人类智慧有限、AI“奇点”不会到来这种“技术否定主义”,称这就像一位公共汽车驾驶员载着全人类说,“是的,我正尽我所能往悬崖边开,但是相信我,在开到悬崖边之前,我们的汽油会用完!”

 

“与人类的聪明才智打赌是鲁莽的,尤其是在我们的未来岌岌可危的时候。”跟何怀宏一样,斯图尔特对AI有可能造出的“远比人类强大的实体”充满警惕,呼吁整个社会,尤其人工智能研究领域,将“可证明有益的人工智能系统”作为超级智能机器的研究目标,“只有目标确保完整且正确,或者可以很容易地重置机器的情况下,这种模式才有效。”

 

这一目标的技术实现路径是复杂的。坦白说,这本书的后几章,我读得半懂不懂,并且最终放弃了成稿,因为无法在这个关键问题上与作者深入讨论。

 

学习的收获很大,对于未来继续观察、报道AI对社会生活和个人尊严的影响会极有裨益。

 

这三本书里还有一个共通之处,技术已经对我们的社会产生巨大影响和控制,我们的主体性已经在消失——

 

比如,内容推荐算法在社交媒体中通过“投其所好”,对我们既有偏好的强化和改变;人机协同的工作环境中,算法对人的控制和倒逼(快递小哥、与机器人协同工作的仓库分拣员等);还有AI招聘系统通过抓取分析应聘者的社交媒体账户信息完成画像分类,对个人过度监控,将复杂丰富的人格简单类型化等等……

 

人工智能所塑造的社会和系统同我们每个人都深度相关,对于我们这些不具备专业知识的普通人来说,讨论AI,除了末日危机,还有上述那些现实关切。

 

而你我,都不应该因为懒惰或者懈怠,甘于沉默。

 

 

 

网友评论

用户名:
你的评论:

   
南方人物周刊 2020 第36期 总第654期
出版时间:2020年11月23日
 
©2004-2017 南方人物周刊 版权所有
粤ICP备10217043号
地址:广东省广州市广州大道中289号南方报业传媒集团南方人物周刊杂志社
联系:南方人物周刊新媒体部