00后华人小伙大模型创业，被硅谷顶级投资人抢投，引来行业关注。

近日，AI初创公司Kinesys AI被曝拿到了Zoom系、Getty家族和快手系的天使投资。据悉，这家公司的创始人是一位00后华人小伙，团队成员也只有7个人，但他们却开发了目前AI开发者们最需要的大模型中间件Cortex，这也是他们获得资本青睐的原因。

在AI竞赛的大背景下，一些创业公司去类似ChatGPT的大模型开发，显得力不从心，无论是从资金还是技术上，都比不过那些据图企业。但这些创业公司去做一些AI竞赛中还少有人做的“小而美”的项目，可能会收到意想不到的效果。

01

Cortex改变了什么？

让Kinesys AI成功逆袭的大模型中间件Cortex，目前在国外已经火了起来。

首先我们来看Cortex为何这样受欢迎？

Cortex也被称为大模型的中间件。什么是大模型中间件？比较官方的定义是，大模型中间件是在底层大模型和上层应用之间的中间层基础软件，主要用以解决大模型落地过程中，集成数据、应用、知识库，以及大模型融合级功能协同这些问题。

Cortex的技术底层逻辑是这样的，它对于底层大模型的作用是提供了包括 GPT-4 在内的诸多大模型 API、数据接口等，让AI应用的开发者门可以根据需要直接调用，实现大语言模型的协同应用，不再像以前那样从头搭建环境，然后再逐个置入需要的API，最后还得反复进行测试。Cortex节省了AI开发者大量的人力和时间成本。

与此同时，Cortex还向用户提供了一些第三方数据的API接口，可以外接私有数据，做一些特定领域的私有版GPT。目前已经支持的第三方数据包括Notion、Slack、Google Drive等。值得一提的是，Cortex提供诸多领域的大模型应用，不局限在个别领域。

另外，Cortex在应用层的作用是帮助AI应用的开发者营销，用户可以直接使用发布在 Cortex 上的应用，并且可以在原有基础上调整参数，进行个性化的二次开发。

Cortex还有一个私人copilot功能，比如制作PPT、撰写草稿、编写电邮、总结会议等等这些基础工作，Cortex都能轻松应对。

其实Cortex最大的优势就是将之前AI开发者二三个月才能完成的工作缩短到了几分钟，以前AI开发者要一项一项的完成的任务，Cortex都给你打包搞定了。

目前已经有十几家付费企业用户和上千个个人用户，市场前景十分广阔，因此能得到硅谷投资人的青睐并不意外。

根据公开资料显示，Kinesys AI公司目前只有7人全职，2名创始人均为华人，其中创始人兼CEO，Nemo Yang是00后，求学之路比较传奇，只花了两年时间就拿下了佐治亚理工学院本硕学位。另外他之前在字节跳动、飞书和微软这些超级大厂工作过。

据悉，中学时代的Nemo Yang就超级喜欢计算机，后来自己一个人来到硅谷留学。

另外一位创始人兼CTO，名叫Jian Cai，也是华人，并且其还是毕业于北京大学计算机系的学霸，曾在谷歌工作过8年，有着丰富的互联网工作经验。

除了中国外，还有员工来自美国，印度，韩国等国家，并且多人与Nemo Yang是斯坦福校友。

02

资本青睐“大模型中间件”

除了Kinesys AI，还有一些大模型中间件创业企业获得融资。

自从2022年底ChatGPT大火之后，全球掀起了AI竞赛，AI相关创业如潮水般汹涌，就大模型中间件来说，同样是一众创业者涌来。

如果更简单的理解大模型中间件作用的话，那就是由于ChatGPT作为底层基础模型，可以直接为普通用户提供具备一定专业水平的内容，但与专业用户的需求仍有差距，于是为大模型中间件带来了的市场机会。同时，这些开发大模型中间件的创业企业也被资本看中，接连获得融资。

ChatGPT发布之后，短短几个月内就出现了许多大模型中间件项目。

由LangChain Inc公司开发的LangChain，与Cortex有些相似。相关资料显示，LangChain是一个大语言模型应用开发库，希望将各种大语言模型整合起来，结合其他知识来源或计算能力创建一个实用的应用程序。具体来讲就是Langchain为开发者提供了多模型访问、Prompt的封装、多数据源加载等多种接口，让开发者构建AI应用更简单。值得一提的是，Langchain在GitHub上短短几个月内收获了超过4万个Star，十分受市场欢迎。

LangChain也在今年3月获得1000万美元种子轮融资，由风险投资机构Benchmark Capital投资。

另一家LlamaIndex公司推出的大模型中间件Routing，为AI开发者提供语义检索、基于事实混合查找、访问总结数据，并且可以提供统一索引。

相关资料显示，LlamaIndex公司由前Uber研究科学家Jerry Liu创立，目前LlamaIndex完成了850万美元的种子轮融资，参与投资的包括Greylock，OpenAI创始人Sam Altman的弟弟Jack Altman等硅谷顶级投资人或机构。

Fixie也是一家大模型中间件初创公司，近期刚刚融资1200万美金。Fixie将自己定位为大语言模型的自动化平台，旨在帮助开发人员将任何大语言模型集成到客户自己的应用程序中。该公司在社交媒体上的资料显示：Fixie 可用于自动化业务流程，并将自然语言理解活用于现有产品、API 集成和数据托管。

Fixie 支持流行的模型，如 OpenAI 的 GPT-4 开箱即用，但客户可以提供自己的模型或选择其他商业和开放模型。

中国国内的大模型中间件初创企业也在崛起，灵奥科技推出的AI大模型中间件Vanus AI，也十分值得关注。Vanus AI可以帮助企业链接大模型和构建知识库，并进行提示词调试，最终搭建AI开放者自己的AI应用。

Vanus AI基于向量数据库，帮助企业完成向量压缩、模型打通、混合检索、语义增强等过程，让企业得以为大模型更新数据、用准确的企业知识库结合提示词工程消除幻觉，并提升安全性。

灵奥科技也在今年7月完成数百万美元的种子轮融资，投资方为靖亚资本，Plug and Play。

灵奥科技团队人数也较少，有十余人，是属于初创型公司。团队成员除了来自中国外，还有来自加拿大、澳大利亚等国家。

该公司CEO 厉启鹏曾就职于阿里云等知名大厂，对于 AI 和云基础设施有丰富经验。团队其他成员也多在华为、字节跳动、Forrester这些科技或互联网大厂工作过，并且都是毕业于北京大学、伦敦国王学院、纽约大学、蒙特利尔大学这样的顶级学府。

还有一家国内大模型中间件厂商澜码科技”于近日完成数千万元A轮融资，该轮由IDG资本、联新资本、Atom Capital参与投资。

公开资料显示，澜码科技是一家基于大语言模型的数据飞轮公司，2023年2月在上海成立。基于底层⼤语⾔模型，澜码科技通过提供新一代⾃动化平台，在专业场景下复现专家的专业技能，助力企业提升业务流程质量和效率。

澜码科技表示，本轮融资将继续用于技术研发与产品创新，探索更多场景下大模型技术的应用和落地，赋能更多企业构建AI能力。

IDG资本对澜码科技寄予厚望，称后者在AI领域有很强的技术落地和商业化能力。澜码科技率先填补了国内大模型中间层的空白，能够助力企业实现AI能力的快速落地，共同挖掘AI大模型应用的高价值场景。

AI企业的创始人，往往都是名校学霸。澜码科技创始人兼CEO周健毕业于上海交通大学计算机系，于2002年获得亚洲首个ACM国际大学生程序设计竞赛世界冠军，2006年加入谷歌负责中文网站搜索质量优化，之后他又加入了了弘玑Cyclone 担任CTO，后又在Google、阿里、依图和MediaV任职，主要从事分布式系统研发。

03

大模型中间件的市场机会有多大？

大模型在落地过程中会有许多问题，有的是非常棘手的，比如有资源调度、数据集成、模型训练、应用集成、知识库与大模型融合等问题。其中有三大主要问题，具体来讲，第一方面是知识库的构建。企业需要将存在现有系统中的语料汇总到向量数据库，形成企业自有的知识空间。第二是AI应用的集成。AI应用需要服务的用户可能存在于飞书、微信、Slack或者企业自有的业务系统。第三是数据安全性的问题，由于企业数据向量化的过程中需要调用公有云大模型Embedding接口。这个过程需要将企业数据切块之后发送给大模型，具有安全隐患。

这些问题的解决，都是以大模型中间件为最佳。

对于AI创业而言，现在在美国硅谷是这样的，大模型中间件的开发走向繁荣，像ChatGPT那样的大模型却很少有人再想去做。

由于目前那些科技和互联网巨头们都在搞大模型，中间层这块肥肉他们现在还无暇顾及，这位哪些初创公司提供了巨大的机遇，在海外市场，中间层正在蓬勃发展，超过大家的想象。

正如云计算时代，Snowflake和 AWS 相互成就一样。大模型时代，中间层和底层算力平台也正在相互成就。我们都知道，这是因为算力供应商面对的最终消费者是AI开发者，而中间层的公司正在帮助AI开发者快速部署大模型，这进一步增加了底层云计算资源的消耗，为这些算力公司带来利益。

这样来说，中间层的火爆，直接决定了底层算力供应商管道的能开多大，同时也是上层AI应用开发者得以成功的重要条件。在硅谷，开发大模型中间件的一批公司正站在各自不同生态位上，把应用层抬进大模型时代，在这过程中，中间层自身也获得了更大的利益。

在中国市场中，目前有两家大模型中间件公司规模较大，一家是东方通，另一家是宝兰德，其中间件产品主要应用于金融行业。

今年6月9日，创业板上市公司东方通在互动平台表示 ,AI大模型训练需要依托大量的硬件基础设施来对海量数据来训练和优化，在数据处理和部署管理方面有着很高的要求。因此需要有高效的数据处理和管理中间件来支持大规模数据的存储、传输和处理，支持模型的快速部署、监控和调优等，还需要通过中间件来支持多种不同的硬件和软件环境，以满足不同场景下的需求。因此，AI大模型和垂直应用模型的爆发将会加大中间件的需求。

同样是上市公司的宝兰德的董事长易存道在接受媒体采访时表示，目前布局中间件的企业不是很多，因为中间件的技术门槛还是比较高的，想做好不是很容易。尤其在信创环境下，想把中间件做好更不容易。

由此可见大模型中间件的市场在国内来说，竞争不是很激烈，因为技术门槛高，进入该领域的企业少之又少，目前来看是AI领域细分市场中的风口行业，初创公司如果能抓住机会。

风险投资机构XVC合伙人陆宜接受媒体采访时表示，我们目前投了两家与大模型相关的公司，一家做基于大模型的个人情感陪伴聊天，一家为大模型及AI应用落地提供基础设施（大模型中间件）。当下国内大模型市场还处于快速发展的早期，虽然大量大厂、行业领袖已经躬身入局，但是对于创业公司来说，大模型基础设施公司和应用型公司还有大量机会等待挖掘，投资机构也会紧密跟踪。

虽然大模型中间件的市场前景很大，但这些相关创业公司也面临着一定的市场威胁。比如最近半年来，一些大模型的能力也一再进化，并且还开放了插件。这样对于大模型中间件厂商就提出了更高的要求，必须同时进化自己的产品，做大模型所不能做的事，这样才能在竞争中立于不败之地。

参考资料：http://news.sohu.com/a/685058743_115128

几分钟开发 AI 应用成为可能，为什么说大模型中间件是 AI 必备软件？