ChatGPT发布以来,国内涌现了大模型创业热潮。伴随着以大模型为代表的人工智能技术的发展,其与人类的共生关系也进一步引发讨论。

人工智能技术的发展对人类主体性是强化还是弱化?诸如这样的伦理之争,在今年世界人工智能大会引发专家热议之后,同样在聚焦前沿科技的外滩大会上涌动各方观点。

在前不久的一场“见解论坛”上,来自计算机科学、哲学、历史和文学领域的知名学者,以及人工智能领域企业家共同探讨大模型时代的人机关系、硅基生命和碳基生命的未来之争等话题。

在论坛的主题演讲中,小i集团董事局主席兼CEO袁辉甚至抛出了一个听上去有些“危言耸听”的观点:“无论是人工智能还是大模型,人类在既定程序中循环,人类最大的威胁不是人类本身,而是碳硅之争。人工智能按照目前的趋势发展,如果人类不能重新认识世界和自己,人工智能或将毁灭人类。”

生存还是毁灭,这是一个值得思考的问题。这场看似人工智能技术维度的探讨,蕴含着丰富的哲学与人文意味。

袁辉首先就提示人工智能可能给人类带来的挑战:“人类在最初创造人工智能时,对它的定义就不是一个科技或工具。大家可以想一想,自己所期待的人工智能是一个怎样的概念?显然,它是一个具备自我意识的人工智能。这在未来是人类可能面临的最大挑战。”

那么,当前涌现大模型是否会造成这种威胁?袁辉认为并不会。“即使大模型在今天叠加了无数的算力,数据和算法,但本质上并没有突破。从这个角度讲,大模型并不会直接创造我们所担心和恐惧的级别,但这个序幕已经开始了。因为在一定的量变的基础上,大模型已经出现了所谓的思维链、举一反三,甚至具备了人类的一些基本的核心要素,所以从通用人工智能这个角度,(这种挑战)已经开始了。”

不可否认的是,大模型正在赋能各行各业。“过去的人工智能技术只能在某些行业和场景中实现商业化的转化,比如呼叫中心、智慧城市等。但今天大模型最大的价值,是有能力在同一时间推动所有行业的全线爆发,大模型能够直接帮各行各样进行大幅的降本增效。”

正是这种快速发展的速度,让袁辉感到警惕。“如果人工智能按目前的趋势发展下去,人类如果不能重新认识世界和自己,人工智能对人类将会是毁灭性的。”

感到警惕的还有复旦大学计算机科学技术学院教授肖仰华。他表示,人类智能发展受限于缓慢的生物进化速度,其认知能力是有限的。发展具备认知能力的机器,是认知日益复杂世界的必经之路。当前生成式大模型成为认知智能的新底座,“涌现”出了令人惊讶的“智能”,GPT-4等大规模生成式语言模型在“形式上”具备了人类思维的核心能力。

“它已经不单单只是在文本领域,它现在朝着多模态化、具身化,朝着操纵我们的这个世界的机械方向去发展,它已然掀起了通用人工智能的技术。而且这一波通用人工智能技术,绝不单单只是一次技术。”肖仰华说。

他承认,在大模型时代,人机交互形式统一为了自然语言,更消灭了专业语言鸿沟,机器“理解”专业语言不再存在障碍。但这也导致人机边界日益模糊,传统的图灵测试已难以胜任大模型时代的人机区分任务,这会带来重大社会治理问题,需要重建人机伦理关系、人机区分机制,规范AIGC(生成式人工智能)的使用,防止虚假与欺诈泛滥,积极调整产业结构以应对AI对人力的替代。

“未来AI大模型被广泛应用之后,最大的挑战是预防人类智力的,智能的必然引起人类主体性的丧失与文明的崩塌,因此必须重建大模型时代的新型人机关系,人类的新角色是智能机器的‘牧羊人’,人最重要的能力是使用和驾驭AI的能力。”

一个新技术的诞生,在为经济社会发展带来新机遇的同时,也势必会伴随着各种各样的问题。人工智能的发展,除了给学界、业界带来有关对人类主体性的思考,实际上,已经切实地产生了诸如传播虚假信息、侵害个人信息权益、数据安全和偏见歧视等问题。如何统筹生成式人工智能发展和安全引起各方关注。

日前,由国家互联网信息办公室等七部门联合发布的《生成式人工智能服务管理暂行办法》于8月15日正式施行,这也是我国首个针对生成式人工智能产业的规范性政策。

此后,多家国产大模型产品陆续通过《生成式人工智能服务管理暂行办法》备案,正式上线面向公众提供服务。

作为人工智能领域的深度参与者,小i机器人日前已经发布了通用大模型“华藏”。袁辉如何看待上述监管措施带给市场的影响?

袁辉接受21世纪经济报道记者专访时透露,“华藏目前正在申请备案,时间表也按照正常节奏推进。”其还提到,“备案只是一个开始,因为人工智能的发展速度远超人类想象,而我们国家监管总体上是包容支持的,这一点是非常好的。”

袁辉还表示,“与目前市面上的通用大模型不同的是,华藏的目标是能让成千上万的企业能够直接去生成To B或者To C的应用。目前类似于Open AI向公众开放一个公用版本,其所创造的商业价值是有限的。所以二者侧重点会有些不同。”

另外,与ChatGPT发布伊始国内大模型如雨后春笋般涌现不同,近两个月,市场上有关大模型的发布不再如此密集。这两个月里,包括华藏在内的大模型公司有哪些进展?

袁辉还是用“马拉松”来形容这场大模型竞赛。“今天的大模型竞赛,是刚刚响起了发令枪,参赛者可能才跑出去一公里到三公里,所以你最开始会看到乌泱泱的一堆全部涌现,群众选手是非常多的。在头一公里之内的话,你几乎看不出来谁是冠军,但是没关系,他不是一直在跑嘛,3公里5公里,你就发现有很多人就慢慢就掉队了。所以我们现在会看到,好像比一开始参与的人少了,因为这是一个漫长的长跑。”

关于华藏的最新进展,袁辉透露,下个月华藏将有一场发布会以展示其通用能力,并公布合作伙伴和客户,让他们基于华藏“秀”自己真正的商业应用和价值。

作者 admin