环球最资讯丨新民艺评|人人都在看屏幕 唯有机器在读书?
新民晚报| 2023-02-18 16:01:52

欧洲议会AI伦理领域的顾问安娜·菲兰德日前向欧盟提出,要对Chat GPT等生成式AI进行监管。其核心问题就是——究竟是人工智能控制人类,还是人类控制人工智能?还有一幅漫画形象地展现了我们当下所处的十字路口——街边长椅上,机器人“家长”在读书,机器人“小孩”在画画;路上,所有人毫无例外地在看手机。一旁的英文是“人类被钩住了,机器在学习(Humans are hooked. Machines are learning.)”这张图的最下一行的注释就是“人工智能”。

当下,我们的社会已经“进步”到——人人都在看屏幕,唯有机器在读书。

带着好奇拜访了一家在上海,专事Open AI的公司。神乎其神的Chat GPT,就是基于Open AI的技术而创建的。从事人工智能的技术派,首先颠覆了我们常人对“人”的定义。


(相关资料图)

在人工智能从业者来看,生命分为碳基生命——也就是包括人在内的地球上的生物,以及硅基生命——广义而言,就是指碳基生命之外可能大量更适应严酷环境的生命;狭义而言,就是硅制作的电脑,一旦具有意识那也是一种生命。因而,技术派认为,“要把人工智能当成人、当成生命去看待。”

对于无法简单把“硅基生命当‘人’去看的”,被技术派称为“伦理派”。有一门据此发展出的学科名为“技术伦理学”——探讨如何认识和约束技术发展带来的社会问题的学科。文章开头安娜·菲兰德本身也是一门AI技术的创始人,但她也同时具备技术伦理学的思考,才会提出了人工智能与人类到底会谁控制谁的问题。

先来了解一下人工智能是如何“学习”的,笼统而言方法有二。一是读书——真的是读书,可以“喂”给它一座图书馆、一座博物馆、一座美术馆、一座档案馆……甚至在数量上可以远远不仅限于“一座”。如果说“大数据”还仅仅停留在数据(这里的数据不单单是数字也可以包括可以被数字化的文字、图片、影像等等)的梳理、归档等,那么人工智能已经可以消化、分析、提炼、联想、创造乃至融会贯通、举一反三等。举个最简单的例子,我们把几本书堆叠在桌上并拍张照片输入电脑,然后“下令”:“我需要一幅城市建筑的落日图景”,于是,在电脑屏幕上,图片里几本书的轮廓就幻化成城市落日下的高楼大厦。它识别图书的外形线条,模仿、勾勒、推演、再造出符合我们指令的画面。

二是对话——真的是与其使用者反复沟通。上海音乐学院早在2020年就有一位人工智能少女“小冰”成为音乐工程系的“荣誉毕业生”。“她”的学习,是基于上音老师去听“她”创作的海量音乐,并给予系统性的点评。上音老师与此同时还要教会创造“小冰”的程序员团队基本的乐理知识、包括编曲技巧,优化其创作模型。然后,“小冰”不断学习、不断交作业、老师不断给反馈,循环往复。“她”能毕业是基于其创作水平与人类同学相似且趋于稳定。老师对“小冰”的评价是“学习能力超强的学生”,人类学生完成一首曲目的周期是一周,而“小冰”可以瞬时学会数百首。

其次,技术派打比方,人工智能的“养成”,就如同人类“养娃”。就上音毕业的“小冰”的“养成”过程可见一斑;就漫画中机器人“家长”与机器人“孩子”的状态也可见一斑。技术派正在让人工智能,像人类孩子那样学习。在电脑远远没有普及的上世纪90年代之前,人类确实在长椅上读书,人类孩子在一旁画画。哪怕当下,家长很自然地在送孩子去上学习班、艺术班的空隙中掏出手机看屏幕,但他们内心深处还是希望孩子不要看手机,要去读书、去学习。

与此同时,技术派还在展望“数字永生”这样的话题。意思是,以碳为基础的肉体消失之后,意识可以转化为全息影像,生成一个“数字人”,依然可以与自己重重孙子跨时空拥抱。为了这个目标,技术派已经可以让“人工智能丈夫”骗过了妻子。妻子接了“丈夫”的一个电话,双方谈话超过15分钟。在通话最后一分钟里,电话那头问妻子:“你觉得刚才与你通话的人是你丈夫吗?”妻子深信不疑:“是呀!”技术派团队解释道:这是“数字永生”可以成立的第一步。

“数字永生”这个话题里已经埋藏着诸多伦理问题。“数字永生”一旦成立,人类的世界观、人生观、价值观将被重塑,更谈何如何看待实现过程中诸多半是欺骗半是善意的谎言?技术派认为,此举起码可以帮助到丧偶、丧独家庭——但是,这个世界如果只有得到,没有失去,会平衡吗?如果我们只有白天没有黑夜,都会睡不着。

寒意骤增——技术派整个儿颠覆了全球社会人文学科的存在意义。社会人文学科研究的是人——人的文学、人的审美、人的思想、人的心理、人的观念……在好莱坞科幻电影里早已预告了唯技术带来的只有“废土”——文明破灭后的混沌世界。好莱坞电影《终结者》里,机器终结了人类。

在安娜·菲兰德的文章里提及:“道德和法律方面的违规行为,通常发生得很微妙,也很突然,可能小到无法察觉,但是极有可能造成指数级的损失。”例如,深度造假在技术上已经可行。BBC剧集《真相捕捉》第二季的内容就是,英国国防部长明明人在家,却被人工智能伪造出的影像上了BBC新闻,发布了与其政见相左的言论,从而陷入政坛危机。现实生活中,学术造假已经无法发现。Chat GPT代笔的论文,无法被教授、评委分辨。

欧盟的人工智能立法,即《人工智能法案》将于2024年正式生效,旨在要求成员国必须任命或建立不止一个监督机构,确保“必要的程度得到遵循。”

技术派是技术专业人士,对技术的热情是祭奠式的:“哪怕死在自己发明的机器手上也很有荣誉感”——早在1818年玛丽·雪莱的小说《弗兰肯斯坦》中就有鲜明呈现。但是,偶然诞生于地球的碳基生命的我们,难道不能珍惜一下自己吗?我们为何要养娃,不是为了人类作为种族的繁衍吗?我们为何要养机器娃呢?是为了创造一个“弗兰肯斯坦”吗?

我们应该把机器当人吗?如果必须,那我们自己首先要多读书。(朱光)

财经
资讯
精彩新闻