时评 大模型的未来趋势与挑战

2023-11-18 11:10:59 字數 2794 閱讀 4432

自2023年11月起,以chatgpt为典型代表的大模型在全球数字科技界引起了极大关注。全球范围内的大模型数量受其影响在不到一年的时间内就已超过一百种。

截至2023年10月,大模型技术已经步入了快速发展的阶段。在中国,超过10种大模型已完成备案。其中,的文心大模型升级至4.0版本后,在理解、生成、逻辑和记忆等四项核心能力上均实现了显著的提升。与此同时,openai的chatgpt也经历了一次重大升级,除了多模态视觉能力、dall·e 3以及语音合成api的开放。最引人注目的升级是,为每个用户提供了一种名为gpts的工具,使用户能够构建专属的gpt模型。

微软公司创始人比尔·盖茨公开表示,自2023年首次看到图形用户界面以来,以gpt为代表的大模型是他所见过的最具革命性的技术进步。对于大模型未来的产业发展趋势和面临的挑战究竟如何,我们可以从三个方面进行**。

其一,人类种群知识库从外化、索引化到智能化的三部曲。

我们在《崛起的超级智能》一书中提出,生物的竞争本质上是种群知识库的竞争。在过去的几亿年里,恐龙因为灭绝导致种群知识库消失为0,鲨鱼一直保持在海洋中游荡,种群知识库没有发生大的变化,熊猫因为趋于灭绝从而种群知识库不断萎缩。

只有人类在近200万年里,在知识和智慧上不断扩展和加速,在最近数百年里随着蒸汽机、工业革命、核能的出现,人类种群知识库出现了巨大的增长。特别是互联网诞生后,第一次将人类的种群知识库外化成一个庞大的网络知识库,通过万维网的发明进一步促使人类种群知识库急剧扩容。表现在科技领域就是21世纪大量新科技新概念不断涌现。

面对海量的互联网公共知识,如何索引就成了人类必须解决的重要课题。20世纪90年代,搜索引擎出现了蓬勃发展,其中优秀和典型的代表分别是谷歌和,它们成长背后的推动力也是人类种群知识库发展的必然要求。

互联网知识库被索引之后,如何智能化也就成为了一个重要议题。在过去的近30年里,以谷歌、为代表的搜索引擎公司加大了智能化的步伐,人工智能的兴起也与此有密切的关系。

2023年openai的chatgpt成功引发了大模型的兴起,标志着互联网这个外化的人类种群知识库完成了从索引化到智能化的转变。但不能忘记的是,openai chatgpt的成功离不开谷歌提出的transformer注意力机制模型,也离不开微软通过bing搜索引擎提供的海量数据和巨大资金支持。

从搜索引擎的发展看,通过激烈的竞争,搜索引擎最终形成了若干个巨头公司为人类提供互联网海量数据的索引服务,同样我们认为作为搜索引擎的升级版,人类社会也不需要很多大模型提供同质的服务。我们判断包括搜索引擎、大数据、社交网络等领域拥有优质大数据、人工智能技术积累和广泛应用场景的公司中,在未来的竞争中会脱颖而出一家或若干家为人类提供集中统一的智能服务。

其二,行业垂直大模型建设思路:继续提升通用大模型智能水平。

应该指出,当前人类社会对大模型充满了热情,特别在中国,很多人希望大模型能够与金融、法律、工业、农业、电力、建筑等等行业领域结合,从而实现快速发展。

其实大模型的成功并不仅仅是参数量大,而是用大规模预训练+微调的方式,对海量的跨领域知识进行学习时涌现出来新的能力,而且这些新的能力往往与创新有关,如翻译、创作文章、创作图像等,然而这种创新能力并不稳定,会出现“幻觉”和胡编乱造的情况。同时由于神经网络本身的特点,其可解释性问题也一直没有解决,因此对于需要精密控制或精确结果的产业领域,大模型并不是可靠的工具和技术。

还有一个误区是,认为用大模型的训练方法加上行业产业的大数据就可以形成高质量的行业大模型。这个观点并不符合大模型涌现出创新能力的规律,过于单一领域的知识反而会降低大模型涌现出新能力的水平。因此应继续提高chatgpt、文心一言、llama等等通用大模型的智能水平,通过通用大模型平台与其他可靠性高的人工智能技术协同工作,并与各个行业结合,这种路径要比建设专门的行业大模型更为稳健和有效。

其三,值得期待的大模型未来。

大模型的不断发展和与其他技术产品结合的过程将是持续探索和尝试的过程。无论如何,大模型的出现的确是一个革命性的突破,有很多科学家认同chatgpt等大模型已经可以突破图灵测试,未来在智能和意识的基础原理上也将带来更多突破性的启发。

在产业应用上,大模型与其他不同类型的人工智能技术、网络技术、大数据技术结合,与不同的办公、学习、生产、生活结合会持续产生出具有非凡想象力的应用。例如微软办公office接入gpt-4,由ai驱动的 microsoft 365 copilot ,打破了传统办公软件办公的方式,能自动生成文档、电子邮件、ppt。的文心行业大模型的数量已经达到了 11 个,覆盖能源电力、金融、航天、传媒、影视、汽车、城市管理等多个领域,openai计划再推出gpt商店。这将类似于苹果的app store,让开发者可以在商店中上架他们的自定义gpt,供其他用户购买和使用。

虽然大模型有着令人惊叹的智能表现,但我们还需要耐心等待大模型的持续发育和成长,如果从以chatgpt3.5为代表的大模型大规模向人类提供服务算起,毕竟它还是一个从出生来到全人类面前还不到1年的婴儿。

未来乡村发展的趋势与挑战

随着退耕还林政策的推行,农村地区的耕地面积逐渐减少,这导致了退耕还林劳动力的缺失问题。未来乡村的发展将面临一系列的挑战和变革,但也将迎来新的机遇与发展。一方面,退耕还林政策的实施确实给农村地区带来了一定的劳动力压力。由于农村劳动力的外流,农村的劳动力缺失问题日益突出。特别是年轻一代的农村劳动力更倾向...

展望未来二十年的教育 趋势 挑战与机遇

编辑 老红木你都。老红木你都。阅读此文约五分钟,祝您阅读愉快。教育一直以来都扮演着塑造社会和个体的关键角色。它是知识的传承 文化的传承以及智慧的传递的媒介,也是培养未来领袖和创新者的摇篮。回顾过去二十年,我们可以清晰地看到教育领域的快速演进。信息技术的革命将我们的生活方式彻底改变,而教育也未能幸免。...

大模型时代 机遇与挑战并存

在大模型语料数据推介会上,北京晴数智慧科技 的数据专家乔天指出,随着大模型的兴起,对数据采集和标注的要求也变得非常高。处理一条数据的成本甚至能达到几百元。这也为ai数据服务商带来了更多的订单需求,同时也提高了数据产品和服务的成本。大模型时代,机遇和挑战并存。大模型的布局可能成为一个确定的 摇钱树 但...