百花齐放般的大模型深刻展示着人工智能技术的魅力。南都·琶洲π特别策划琶洲“模术”秀系列人物专访，专访位于广州海珠琶洲的国内首个人工智能大模型应用示范区的大模型专家，揭秘大模型背后的技术原理，走进人工智能技术的最新应用场景。

作为上世纪80年代末华南理工大学计算机系的毕业生，邹均一直站在信息科技的最前沿，无论是区块链还是人工智能，这些如今让人耳熟能详的技术名词早在学界内部讨论的初期就被他关注到。

他很早就涉猎人工智能发展过程中的各种技术路线，从符号逻辑到神经网络和深度学习，最后到机器学习和大模型，同时还编写了国内第一本区块链技术专著。在人工智能领域，他带领创业团队首先提出了大模型中间件（Inter GPT）的概念，并且发布了国内第一个人工智能大模型中间件的团体标准。

作为技术老兵和人工智能行业的创业者，他眼里的人工智能产业可以分成四层：第一层是算力硬件，主要是英伟达、华为等硬件科技公司；第二层是基座大模型，主要是中美的头部科技企业和一些大模型创业公司；最上面一层是智能体、垂直领域的大模型应用，主要是大模型在各个行业层面的应用；“其实还有第三层就是大模型中间件，有了它，千行百业才能安全合规地真正把大模型用起来，而这正是我们的机会。”

广州中科智达数字科技有限公司创始人、广州运通链达金服科技有限公司CEO 邹均

国内率先提出了大模型中间件的概念

大模型的出现让AI成为一种普惠技术，人人都可以方便地使用大模型来实现问答对话、翻译、绘图、写文案等功能。然而对企业来说，要让企业真正可以将大模型与企业业务结合，同时又不用担心数据安全和合规的风险，则需要一个桥梁。这个桥梁就是大模型中间件。

首先是大模型缺乏行业的内部数据，专业知识深度不够，数据更新不及时，缺乏与真实世界的连接，这注定了大模型难以克服“数据幻觉”的缺点，在许多专业领域中用户能够很明显地感受到大模型在一本正经地“胡说八道”。

企业解决这个问题需要向大模型提供大量最新的专业数据，但这又会带来安全隐患，特别是涉及商业机密的数据很难让企业放心交给大模型进行训练。对于大企业来说，采取本地化部署或许是解决这一问题的方案，但本地部署需要的算力支持和高昂成本对于众多中小微企业来说显然并不现实。

“像数据安全管控、合规控制、智能体开发工具、运维监控等功能，既不可能在基座大模型上做，也不可能让每个企业在自己的大模型应用端上做，这样会导致重复，最佳的解决方案是设置中间层，这就是大模型中间件的市场”，邹均表示。

所谓中间件，就是介于大模型应用与大模型底座之间的一套DevOps（开发运维）软件，是在企业端用来管理维护大模型、开发智能体的工具。它可以帮助企业进行自身数据管理，让数据脱敏后再提供给大模型训练，利用知识库、知识图谱等工具抑制大模型幻觉，还能让企业根据不同场景综合调用各类型大模型，统一纳管大模型环境，包括本地部署的私有化大模型，以及线上的SaaS大模型，“概括地说，中间件就是一整套的管理工具，让企业大幅降低使用大模型的门槛。”

大模型中间件原理解释图。

他告诉南都·琶洲π记者，2023年在国内首次提出大模型中间件的概念后，自己带领团队迅速做出了产品和落地应用案例，但是现在很多头部企业也看到了其中的机会，目前市场竞争已经比较激烈，一些国内厂商如浪潮、东方通也推出了类似产品，只是有些不叫这个名字，但是概念很类似，都是给企业提用一些开发工具。不过他认为，相比而言中科智达旗下的产品更成熟更全面，除了开发还有运维工具，让企业能够更方便跟自己业务集成，同时能够在兼顾成本和性能的前提下满足安全合规的要求。

据他介绍，中科智达的大模型中间件已经被许多本地企业使用。广州一家液压研究院用它来构建了内部液压行业大模型，进行内部培训，改变了以往师傅带徒弟的传统培训模式。另外还有本地高校利用中间件作为工具，让教师能够利用大模型做教案和阅卷，还有一家电力系统的科技企业采购了中间件进行施工安全监测。

在邹均看来，中科智达下一步的市场机会在于差异化竞争，“我们跟大厂不会直接pk，他们更擅长做2C的标准化大规模的产品，而我们的优势是做2B，用贴身定制和服务解决企业的需求。”

区块链和人工智能技术的融合是下一个机会

除了大模型中间件之外，目前中科智达还推出了一些垂类应用的行业大模型，专门用于安检识别的极安大模型XSafeGPT就是其中之一。

他告诉记者，极安大模型是公司跟白云机场合作的项目，主要用于即将投入使用的第三航站楼，届时新航站楼将引入人工智能来进行安检，改变以往单纯依靠人眼识别的局限，此外中科智达还有意将极安大模型继续推广到地铁、快递、景区和重大活动的安检场景中。

开发落地极安大模型的过程很好地体现了中科智达跟大厂差异化竞争的理念。首先x光安检的领域避开了传统安监行业巨头海康威视和大华技术，后者更侧重视频图像识别，x光图像并不是它们的重点。同时，在训练极安大模型时，中科智达直接采用的是阿里开源的视觉模型，同时采购了x光机厂家的数据进行了训练，最后做出了专门用于x光图像识别的垂类模型并且获得了商业落地的机会。

展望未来，邹均表示未来人工智能还有一个增量机会是跟区块链技术的融合。他认为，未来对人工智能技术的监管会日益重要，但监管不能完全靠人，也得靠技术，而区块链正好有监管和溯源机制，两者是互补的，区块链可以作为监管技术的一部分。

此外，随着国内数据日益成为一种生产要素，对数据的治理和流动也需要用区块链来保证数据的权益，大模型训练需要用到的数据也可以通过区块链进行合规授权。他最后也告诉记者，未来会继续强化中科智达的人工智能业务，增加在海珠的落地推广。

谈琶洲

琶洲不仅拥有算力基础设施，还有大量的垂直应用集聚和针对大模型应用示范的强大补贴，这三大特点注定琶洲可以成为国内大模型应用示范的高地。

南都广州新闻部出品

采写：南都N视频记者 魏凯

图片：受访者供图