AI会取代人类么？成都世界科幻大会上科学家与科幻作家一起探讨

　　说到人工智能，就不得不谈到美国科幻小说黄金时代的代表人物艾萨克·阿西莫夫和他在20世纪40年代提出的机器人“三定律”。

　　时隔八十余年后的今天，人工智能早已不再只是文学作品中的天马行空，战胜世界围棋冠军的阿尔法狗、聊天机器人程序ChatGPT、AI绘画软件等人工智能的诞生和惊人表现，在引发公众的震惊和赞美之余，也面临着海量质疑。

　　人工智能的发展会不会失控？机器人三定律背后的逻辑足够缜密吗？它在人工智能新时代还适用吗？在19日于成都举办的2023成都世界科幻大会主题沙龙——“科幻与未来科学”现场，与会嘉宾进行了有趣的思维碰撞。

　　据了解，“三定律”具体包括：第一定律是机器人不得伤害人类个体，或者目睹人类个体遭遇危险却袖手旁观；第二定律是机器人必须服从人类给予它的命令，除非这一命令与第一定律相矛盾；第三定律是不违反第一定律和第二定律的前提下，机器人要尽可能地确保自己的生存。

　　在人工智能科幻作品《造神年代》作者严曦看来，“三定律”本身的问题在于：语言本身是不包含三原则的，“把对机器人的约束标准放到非常抽象的语言层面，这只是人类的想法。因为机器人的语言和逻辑是很底层的，它会通过各种强行的细节解释去绕过这些定律。”这也是他之所以认为“三定律”可能对机器人约束性不够强，也不会被好好实施的原因。

　　“这涉及到了下一代AI，或者说语言智能的发展到底会遵循一个怎样的路径。”中国科学技术大学信息科学与技术学院教授宋彦表示，这个问题实际上也是作为AI的研究者和从业者经常会被问到的一个问题。在其看来，从以往的经验来看，人类一直都在按照最拟人化的方式来构建人工智能系统，包括现在用巨量的参数推动去学习，其实都是在不同的方面来推动机器人往拟人的方向发展。“未来几年内，可能还是会遵循这样的路径。”

　　在“不变”中，也有几个变化。宋彦举例，比如，人类的知识系统怎么去表达，以及自然语言跟其他模态的组合的发展。“下一步，可能在其他模态的辅助下，我们有效减少数据，就能达到想要的效果。再下一步，实现让机器人自己去思考。”而如果发展到这一步，机器人的发展可能就能达到今天我们想要它实现理解语言的效果了。

　　严曦认为，当我们谈到AI伦理，当前可能更需要约束的是AI的开发者，而不是AI本身。“在早前，当AI技术还不够成熟的时候，我们想到AI，总是从人的既定思维出发，把它想象成类人的东西。不管其形态、语言还是思维方式，都没有脱离人的轨道。但我们现在越来越清楚地看到，很可能将来的强人工智能不怎么像人，甚至跟人完全不同，其思维方式从底层开始就跟人分道扬镳，就可能出现有一天人类跟AI讲伦理的时候，已经讲不通了。”严曦认为更应该关注开发者们的道德观和伦理问题，“不要‘喂’给你的AI，这样会形成一个垃圾的无限循环，会把内容带到不可回归的歧路上。”

　　“将AI融进我们的生活之中，将有很多种可能。”科幻作家、2024年格拉斯哥世界科幻大会主宾肯·麦克劳德举例说，有些人可能觉得使用AI做的艺术作品是没有灵魂的，但依然会有一些作品令人震惊。他提及，他曾读过一本科幻小说，在那本书中，每句话都能让AI产生一幅图画，这些画有不同的风格。当时他的心情十分复杂，“当我们去看这些图画的时候，确实能有一些呼唤，这是十分奇特的感觉。”一方面，他觉得对于这些艺术家来说，这其实也是一种威胁。但另一方面，他也可能会喜欢AI所写的科幻小说。

　　美国科幻作家、雨果奖得主詹姆斯·帕特里克·凯利则认为，人类之间的经验是不可互换的，一个强大的AI有自己的体验，这个AI其实是处理了其他人的经验。长久以来，AI就会形成这样的习惯，去传达人类喜欢的信息。“这个我是十分支持的，因为我可以去读其他人写的作品。”(成都商报—红星新闻记者 彭祥萍 摄影记者 王勤)

　　想爆料？请登录《阳光连线》（）、拨打新闻热线，或登录齐鲁网官方微博（@齐鲁网）提供新闻线索。齐鲁网广告热线，诚邀合作伙伴。

　　中新社多伦多10月19日电加拿大外长乔利19日在渥太华向媒体证实，加方已有41名外交官及他们的40多名家属撤出印度。印方此举的理由是外交对等...[详细]

　　在2023抖音美好奇妙夜上，中央音乐学院青年教师，古筝演奏家李杨冠宇为观众带来了一场民乐表演。与此同时，她注册抖音，开始用短视频和直播...[详细]

　　10月19日，OPPO正式发布全新一代折迭旗舰FindN3，以划时代的技术创新，提供下一代折迭旗舰体验，引领折迭屏手机进入新世代。此次发布的Find...[详细]

　　日前，由《银行家》杂志社组织的“2023银行家金融创新论坛暨银行家金融创新成果发布会”在北京召开。论坛以“金融创新与中国式现代化”为主...[详细]

　　为广泛延揽社会优秀人才服务军队建设，中央军委政治工作部近日部署展开2024年军队文职人员公开招考工作。考生可于2023年10月23日8:00至11月...[详细]

　　原标题 浙江省杭州市逾九成中小学校和中职学校向社会开放体育场馆家门口运动健身有了好去处图① 杭州市青蓝小学安全员石学勤协助市民刷卡进...[详细]

　　在河南郑州纬五路第一小学外的一家超600平方米的书店里，大河书局董事长李建峰向来自海峡两岸的媒体人介绍这家普通书店的特别之处。图为大...[详细]

　　新华社成都10月20日电题 从青藏高原到成都平原“合作飞地”助推高质量发展新华社记者谢佼在位于四川省德阳市绵竹的德阳-阿坝生态经济产业园...[详细]

　　中新网10月20日电据国家统计局网站消息，日前，国家统计局社科文司《中国创新指数研究》课题组进一步完善了中国创新指数编制方法并发布了测...[详细]

　　中新网10月20日电据法新社报道，当地时间19日，法国14个机场收到炸弹威胁，至少9个机场进行疏散。凡尔赛宫也在不到一周的时间内第4次进行疏...[详细]

　　新华社北京10月20日电为广泛延揽社会优秀人才服务军队建设，中央军委政治工作部近日部署展开2024年军队文职人员公开招考工作。考生可于2023...[详细]

　　一年一度的猎户座流星雨将迎来最佳观赏期。天文科普专家介绍，今年该流星雨将于10月21日夜间至22日凌晨迎来极大，ZHR为20，即理论上每小时...[详细]

　　与会各国部长呼吁强化移民和寻求庇护者背景审查，并更快遣返被视为“安全威胁”的人员。这次会议在布鲁塞尔枪击案发生3天后召开，各国部长...[详细]

　　山东省党政代表团在重庆考察对接东西部协作工作 更加坚定扛牢政治责任 不断开创鲁渝协作工作新局面

　　全省网络安全和信息化工作会议召开 深入贯彻习近平总书记关于网络强国的重要思想 奋力开创我省网信事业高质量发展新局面

　　山东省党政代表团在甘肃考察对接东西部协作工作 强化使命担当提升协作质效 携手推动鲁甘协作再上新台阶