欧洲议会AI伦理领域的顾问安娜·菲兰德日前向欧盟提出，要对Chat GPT等生成式AI进行监管。其核心问题就是——究竟是人工智能控制人类，还是人类控制人工智能？还有一幅漫画形象地展现了我们当下所处的十字路口——街边长椅上，机器人“家长”在读书，机器人“小孩”在画画；路上，所有人毫无例外地在看手机。一旁的英文是“人类被钩住了，机器在学习（Humans are hooked. Machines are learning.）”这张图的最下一行的注释就是“人工智能”。

当下，我们的社会已经“进步”到——人人都在看屏幕，唯有机器在读书。

带着好奇拜访了一家在上海，专事Open AI的公司。神乎其神的Chat GPT，就是基于Open AI的技术而创建的。从事人工智能的技术派，首先颠覆了我们常人对“人”的定义。

(相关资料图)

在人工智能从业者来看，生命分为碳基生命——也就是包括人在内的地球上的生物，以及硅基生命——广义而言，就是指碳基生命之外可能大量更适应严酷环境的生命；狭义而言，就是硅制作的电脑，一旦具有意识那也是一种生命。因而，技术派认为，“要把人工智能当成人、当成生命去看待。”

对于无法简单把“硅基生命当‘人’去看的”，被技术派称为“伦理派”。有一门据此发展出的学科名为“技术伦理学”——探讨如何认识和约束技术发展带来的社会问题的学科。文章开头安娜·菲兰德本身也是一门AI技术的创始人，但她也同时具备技术伦理学的思考，才会提出了人工智能与人类到底会谁控制谁的问题。

先来了解一下人工智能是如何“学习”的，笼统而言方法有二。一是读书——真的是读书，可以“喂”给它一座图书馆、一座博物馆、一座美术馆、一座档案馆……甚至在数量上可以远远不仅限于“一座”。如果说“大数据”还仅仅停留在数据（这里的数据不单单是数字也可以包括可以被数字化的文字、图片、影像等等）的梳理、归档等，那么人工智能已经可以消化、分析、提炼、联想、创造乃至融会贯通、举一反三等。举个最简单的例子，我们把几本书堆叠在桌上并拍张照片输入电脑，然后“下令”：“我需要一幅城市建筑的落日图景”，于是，在电脑屏幕上，图片里几本书的轮廓就幻化成城市落日下的高楼大厦。它识别图书的外形线条，模仿、勾勒、推演、再造出符合我们指令的画面。

二是对话——真的是与其使用者反复沟通。上海音乐学院早在2020年就有一位人工智能少女“小冰”成为音乐工程系的“荣誉毕业生”。“她”的学习，是基于上音老师去听“她”创作的海量音乐，并给予系统性的点评。上音老师与此同时还要教会创造“小冰”的程序员团队基本的乐理知识、包括编曲技巧，优化其创作模型。然后，“小冰”不断学习、不断交作业、老师不断给反馈，循环往复。“她”能毕业是基于其创作水平与人类同学相似且趋于稳定。老师对“小冰”的评价是“学习能力超强的学生”，人类学生完成一首曲目的周期是一周，而“小冰”可以瞬时学会数百首。

其次，技术派打比方，人工智能的“养成”，就如同人类“养娃”。就上音毕业的“小冰”的“养成”过程可见一斑；就漫画中机器人“家长”与机器人“孩子”的状态也可见一斑。技术派正在让人工智能，像人类孩子那样学习。在电脑远远没有普及的上世纪90年代之前，人类确实在长椅上读书，人类孩子在一旁画画。哪怕当下，家长很自然地在送孩子去上学习班、艺术班的空隙中掏出手机看屏幕，但他们内心深处还是希望孩子不要看手机，要去读书、去学习。

与此同时，技术派还在展望“数字永生”这样的话题。意思是，以碳为基础的肉体消失之后，意识可以转化为全息影像，生成一个“数字人”，依然可以与自己重重孙子跨时空拥抱。为了这个目标，技术派已经可以让“人工智能丈夫”骗过了妻子。妻子接了“丈夫”的一个电话，双方谈话超过15分钟。在通话最后一分钟里，电话那头问妻子：“你觉得刚才与你通话的人是你丈夫吗？”妻子深信不疑：“是呀！”技术派团队解释道：这是“数字永生”可以成立的第一步。

“数字永生”这个话题里已经埋藏着诸多伦理问题。“数字永生”一旦成立，人类的世界观、人生观、价值观将被重塑，更谈何如何看待实现过程中诸多半是欺骗半是善意的谎言？技术派认为，此举起码可以帮助到丧偶、丧独家庭——但是，这个世界如果只有得到，没有失去，会平衡吗？如果我们只有白天没有黑夜，都会睡不着。

寒意骤增——技术派整个儿颠覆了全球社会人文学科的存在意义。社会人文学科研究的是人——人的文学、人的审美、人的思想、人的心理、人的观念……在好莱坞科幻电影里早已预告了唯技术带来的只有“废土”——文明破灭后的混沌世界。好莱坞电影《终结者》里，机器终结了人类。

在安娜·菲兰德的文章里提及：“道德和法律方面的违规行为，通常发生得很微妙，也很突然，可能小到无法察觉，但是极有可能造成指数级的损失。”例如，深度造假在技术上已经可行。BBC剧集《真相捕捉》第二季的内容就是，英国国防部长明明人在家，却被人工智能伪造出的影像上了BBC新闻，发布了与其政见相左的言论，从而陷入政坛危机。现实生活中，学术造假已经无法发现。Chat GPT代笔的论文，无法被教授、评委分辨。

欧盟的人工智能立法，即《人工智能法案》将于2024年正式生效，旨在要求成员国必须任命或建立不止一个监督机构，确保“必要的程度得到遵循。”

技术派是技术专业人士，对技术的热情是祭奠式的：“哪怕死在自己发明的机器手上也很有荣誉感”——早在1818年玛丽·雪莱的小说《弗兰肯斯坦》中就有鲜明呈现。但是，偶然诞生于地球的碳基生命的我们，难道不能珍惜一下自己吗？我们为何要养娃，不是为了人类作为种族的繁衍吗？我们为何要养机器娃呢？是为了创造一个“弗兰肯斯坦”吗？

我们应该把机器当人吗？如果必须，那我们自己首先要多读书。（朱光）