亚马逊全新大模型Olympus,2万亿参数,比GPT-4更强
图片来源:由 无界 AI 生成
在这波近一年的大模型浪潮中,亚马逊不能说一直默默无闻,至少也是神隐了许久,现在终于要对外公布最新进展了。据外媒爆料,亚马逊正在训练自家的第二个大模型,内部代号Olympus(奥林匹斯),与曾经在国内风头无二的日本相机品牌奥林巴斯同名。亚马逊打算将Olympus接入自己的在线零售商店、Echo等设备上的Alexa语音助手,以及为AWS平台提供新功能。
据说这款大模型的参数高达到2万亿(2000B),比传言中参数约为1万亿的GPT-4更多,可能在今年12月上线。 之所以说“传言”是因为OpenAI曾经透露过GPT-3.5的参数量高达1750亿,而今年三月GPT-4上线后对此问题却一直三缄其口,外界的多种猜测都被奥尔特曼驳斥为“完全是胡说八道”,但究竟有多少他也始终没有透露。
就在刚刚过去的上个月,亚马逊设备和服务高级副总裁Dave Limp(戴夫·林普)还曾经在一次公开活动上表示, 亚马逊的AI助手Alexa将会像其他竞品一样,帮助用户起草邮件,用自然语言即可完成生活中的各种任务 。他认为等到那个时候,Alexa也将会独立于Amazon Prime收费,因为云端运行的模型会有“可观的推理成本”。而且Alexa会和Amazon Prime一样“为用户创造难以估量的巨大价值”。
而这一切的前提,是亚马逊拥有能力超群的大模型,最好是自研自开发。
一、时代浪潮中的亚马逊
1994年,网络电子商务行业方兴未艾,杰夫·贝索斯(Jeffrey Preston “Jeff” Bezos)也渴望参与其中,因而在其自称的“遗憾最小化框架”(以自己的努力实践击退日后可能萌发的后悔之情)驱动下,在华盛顿州贝尔维尤一间的车库中,亚马逊公司正式成立,成为继迪士尼,苹果后又一家诞生自车库的传奇企业。
2017年的杰夫·贝索斯
亚马逊一开始的名字叫Cadabra,但是贝索斯希望公司名以A开头,这样在按字母排序的列表中就能更快地被人发现。在翻阅字典后,贝索斯决定使用Amazon这个名字,因为他觉得这是个“富有异国情调且与众不同”的地方。同时亚马逊河是世界上流域面积和水流量最大的河流,这也与贝索斯希望公司成为世界之最的期望不谋而合。从2000年起,亚马逊的标志中出现了一条从字母A指向字母Z的微笑箭头,象征着其旗下的商品包罗万象,从A到Z无所不包。
亚马逊的业务始于在线书店,1995年7月,Amazon.com正式上线,卖出的第一本书是美国学者、作家道格拉斯·理查·郝夫斯台特,也叫侯世达(Douglas Richard Hofstadter)的《流体的概念和创意类比:电脑模型的基本机制的思路》。当年十月,亚马逊开始面向公众,商品也开始逐渐多元化。在最初的两个月中,其商品就能销往全美50个州,以及海外45个国家,每周的销售额达到2万美元。然而即便有此亮眼的成绩,此时的亚马逊依然没有盈利。
位于华盛顿州西雅图亚马逊总部的“亚马逊球”,2018年完工落成
这其实与贝索斯本人的考虑有关,他并不急切地期望在四到五年内就实现大规模盈利。但这也引起了许多股东的抱怨,他们认为亚马逊的业绩增长不够迅速,无法为他们的投资提供合理的回报,甚至能否在激烈的市场竞争中活下去都是个问题。然而当21世纪初的互联网泡沫破裂后,亚马逊并没有像其他电子商务公司那样应声倒下,而是一直顽强奋斗至今,并最终成为现在的网络零售业巨头之一。2001年的第四季度,亚马逊首次实现盈利,财报显示当季营收超过10亿美元,净利约500万,这也证明了贝索斯这种非传统的商业模式并非痴人说梦。1999年,《时代》杂志将贝索斯设为当年的时代年度人物,作为对他与亚马逊向全美全球推广网络购物的表彰。
2020年2月,亚马逊市值正式突破万亿美元的关口,此前曾于2018年9月及2019年盘中两度达标可惜未能保持至收盘,成为美国继苹果,微软,谷歌后第四家市值突破万亿美元的上市公司。2021年7月,贝索斯卸任CEO职务,此前负责亚马逊云计算服务的安迪·贾西(Andy Jassy)继任CEO职务。
2021年的安迪·贾西
贾西于1997年和其他几位哈佛MBA一起加入亚马逊,担任营销经理。2003年,贾西和贝索斯提出了创建云计算平台的想法,该平台后来被称为Amazon Web Services,即现在常说的AWS,并于2006年正式推出。 从通过互联网远程提供的简单计算和存储服务开始,AWS不断定义企业计算的新时代,并为基于AWS或围绕AWS构建新的商业模式。贾西在2021年7月继任CEO后,将AWS打造成了价值800亿美元的企业,这是一家大公司能孕育新一家巨型公司的罕见范例,令许多竞对手艳羡不已。
二、亚马逊与大模型
之前介绍沃尔玛时曾经说过,作为常年霸榜“世界500强”第一名的存在,怎么可能只依赖传统的商业模式而对高新技术无动于衷?亚马逊也一样,前面就说过它是继苹果,微软,谷歌之后第四家市值突破万亿的公司,自然不可能是只靠传统模式与手段就能达到的成绩。
六年前,亚马逊推出了一系列新鲜AI技术,其中包括一款软件工具SageMaker,Intuit和通用电气(GE)等公司都用它来构建自己的机器学习大模型。此外AWS甚至还参与过OpenAI的原始融资。贾西和亚马逊都与OpenAI及其年轻有为的CEO奥尔特曼关系相当不错。亚马逊是OpenAI的早期投资者,当时OpenAI还坚守着马斯克提倡的非营利模式,而且OpenAI也曾使用过AWS。 贾西确信,亚马逊在帮助客户运行各种机器学习大模型方面的历史,将为其深入拓展AI领域奠定良好的基础。 此外也有AWS高管指出,云计算AI服务市场刚刚起步,AWS有足够的时间。
据外媒The Information周二的预测,在未来一年内,仅OpenAI一项AI服务的收入就可能超过10亿美元,但与AWS去年公布的800亿美元总收入相比顶多是九牛一毛。AI领域的发展,尤其是大模型体现出的能力,在当今的时代和经济背景下激起了一朵难得的浪花。大模型正在打破科技界的平衡,在与炙手可热的OpenAI结成战略联盟后,微软的地位也随之水涨船高。
亚马逊作为全球数一数二的云服务厂商,多年来在基础设施方面的建设,以及技术层面的积累,使其拥有不可小视的竞争优势。Olympus是一个明确的信号,表明亚马逊希望在AI领域掌握自己的命运,开发属于自己的大模型。 在关键技术上独立自主,自力更生,这不失为明智之举。
除了目前还在秘密训练的Olympus之外,10月亚马逊刚刚完成的对大模型独角兽企业Anthropic的一笔总价值40亿美元的投资。Anthropic的创始成员与OpenAI关系密切,其中不少都参与开发过GPT早期版本GPT-2和GPT-3,也因此Anthropic的大模型产品Claude系列有“GPT最强平替”的别名。
位于希腊的奥林匹斯山,在希腊神话中有崇高的地位,将新产品以此为名也可以看出亚马逊的决心和信心
当时根据二者签署的协议,在这笔40亿的投资之后,Anthropic的大模型也成为了AWS服务中的一部分,用户可以通过Amazon Bedrock访问Claude,让AWS能够向客户提供最先进的大模型服务。不久后一些知名企业就通过AWS,接入了专门针对自己产品微调的Claud 2。
同时Anthropic还会使用亚马逊研发的两款AI芯片Trainium和Inferentia进行大模型的推理和训练,和亚马逊一起在未来共同开发AI芯片。
这笔40亿美元的投资让亚马逊和Anthropic,建立起了类似于微软+OpenAI这样的传统巨头+巨型独角兽的联盟。 对于一个拥有全球数亿用户的购物平台来说,训练自己的大模型,让自己能够在即将到来的新时代掌握住自己的命运,这也是顺理成章,合情合理的事。就像在十多年前,亚马逊从一个在线购物平台进入云计算服务行业,成为如今的云计算巨头一样。亚马逊有能力,也有必要在AI与大模型赛道再次完成这样的转身。
Bitcoin Price Consolidates Below Resistance, Are Dips Still Supported?
Bitcoin Price Consolidates Below Resistance, Are Dips Still Supported?
XRP, Solana, Cardano, Shiba Inu Making Up for Lost Time as Big Whale Transaction Spikes Pop Up
XRP, Solana, Cardano, Shiba Inu Making Up for Lost Time as Big Whale Transaction Spikes Pop Up
Justin Sun suspected to have purchased $160m in Ethereum
Justin Sun suspected to have purchased $160m in Ethereum