金磊 明敏 发自 上海量子位 | 公众号 QbitAI
挤爆了，险些要被大模子公司们给挤爆了。
来感受一下这个feel：
绝不夸张地说，国表里叫得上来的大模子公司基本上都来了——
Anthropic、Meta、Mistral.AI、Stability.ai、月之暗面、智谱AI、百川、MiniMax……
到底是什么样的事情能让它们纷繁鸠合到了一谈？
不卖关子，这恰是“云运筹帷幄一哥”亚马逊云科技所举办的中国峰会，整场行径的关节词即是大热的生成式AI。
不外有一说一，自打AIGC大战开局以来，全球科技巨头如谷歌、微软、OpenAI等一直呈现出你追我赶的态势。
而亚马逊云科技的“出镜率”似乎并莫得它们那么高，但这场行径又为何会引来如斯多的厂商和围不雅各人？
其确实深刻了解和体验一番之后，咱们不难发现，亚马逊云科技在AIGC这件事上果决是“全栈+万能”的情景了。
依然不错上岗的AIGC应用
之是以说是全栈，是因为亚马逊云科技的才智依然袒护到了生成式AI最为关节的三大层面，即：
算力层：用于基础模子执行和推理的基础门径模子层：使用基础模子加快生成式AI应用构建应用层：开箱即用的生成式AI应用
至于才智怎么，咱们径直来看下最为直不雅的后果。
在生成式AI应用方面，亚马逊云科技面向企业和开发东谈主员所推出的是生成式AI助手——Amazon Q。
它相等于给企业配备了一个量身定制的AI巨匠，不错字据企业既有的东谈主员、变装和权限对每个用户交互进行个性化的定制。
举例用上Amazon Q Developer(开发者版)，编程这件事就只需爽气的“点点点”和“提条目”。
以功能开发和代码治愈为例，开发者只需要向Amazon Q刻画想要的新功能即可，然后它就能我方进行蓄意、扩充和迭代：
而且Amazon Q还会字据任务的内容，动态地分派最合适的大模子，让性能作念到Pro Max。
再如Amazon Q Business(企业版)，雷同亦然只需要爽气的言语输入，就能匡助职工简化任务、加快方案。
举例职工不错字据公司已有但分别的数据信息，让Amazon Q来作念整理和分析的职责，从而给职工答疑解惑、增多职责服从：
诸如整合分析、撰写请问和制作PPT文稿等职责亦然不在话下：
除此以外，亚马逊云科技为了让擢升服从这事更进一竿，还推出了Amazon Q Apps，它是Amazon Q Business中的一项功能，不错让职工能够速即且安全的基于企业信息创建、共享应用法式。
而且Amazon Q Apps是无需任何编程教学、不错基于历史对话、自动化的那种。
举例一个HR若是要创建一个新东谈主的入职30天探究，就只需要向Amazon Q Apps“喂”职工姓名和工号即可。
而通盘过程，也只需要短短几秒钟的时候！
在数据分析处理方面，亚马逊云科技则是将Amazon Q集成到了QuickSight中。
以往生成一个交易智能姿色盘可能需要数个小时的时候，但当今，几分钟就不错措置了。
而且统共职工都不错字据这么可视化的数据内容，向Amazon Q提议我方的问题，让复杂的数据分析任务变得爽气且高效。
一言以蔽之，纵不雅Amazon Q的后果和才智，亚马逊云科技主打的即是用生成式AI的力量把繁琐复杂的职责任务变得爽气，爽气，再爽气。
但Amazon Q之是以能在企业场景作念到如斯方方面面且丝滑，离不开背后大模子的才智。
不会有一个大模子一统天地
亚马逊云科技的大模子才智对外输出，主要依靠处于模子层的Amazon Bedrock。
它是亚马逊云科技负责加入大模子海潮竞争的标识，亦然亚马逊云科技和微软OpenAI正面硬刚的关节。
基于Bedrock打造的生成式AI应用，依然多达数十种，让东谈主看得头晕眼花。
爽气清楚，Bedrock是一个集成了多种先进AI大模子的平台，只需单个API，就不错提供包括Claude、Mistral、Llama、Stable Diffusion、自研Titan系列在内30个模子的才智。通过提供预执行、微调、学问库、RAG、模子评估等功能，能够生动定制大模子或应用。
亚马逊全球副总裁、亚马逊云科技大中华区总裁储瑞松在峰会上示意，亚马逊云科技一直以为“不会有一个模子一统天地”，企业有从多个大模子中作念遴荐的权利。
因此，在Bedrock上被摒弃了数十个业界最初的大模子供企业遴荐。包括和GPT-4并驾王人驱的Claude 3、主翻开源的Llama系列和Mistral AI、以及图像生成方面的Stable Diffusion。
同期还包括亚马逊云科技自研的Titan系列，咫尺已不时推出7个模子，才智范围包括文本摘录检索生成、图像生成、RAG、想维链、问答、搜索、个性化、推选等。
具体才智上，Bedrock要点和顺4个方面：
丰富生动的模子遴荐松驰定制模子简化AI应用集成保险阴私安全最舛错的，构建生成式AI应用关节的一步是找到合适的模子。
Bedrock提供了业内最庸碌的模子遴荐，并推出Model Evaluation功能，救援企业快速分析和比较不同模子。
一般需要企业先给出评估尺度，比如瞄准确性、鲁棒性的条目，并上传自稀有据集/领导词库，或者从Bedrock内置的、公开可用的资源中遴荐。一些主不雅或需要概述判断的的评判内容，平台会引入东谈主工审核，字据特定应用场景的方针进行评估。
完成缔造后，Bedrock便可运转评估并生成请问，最短仅需几个小时，企业就能找到得当我方的模子。
在遴荐好模子后，企业可哄骗专稀有据，通过RAG、领导词工程或微调来定制对应大模子功能，以创建独到模子。
比如针对Command R、Llama 3、Titan Text Lite等模子，只需爽气几步即可进行微调。若是遴荐了Titan Text模子，还能对未象征的数据握续预执行，以更适协议意行业和边界。
Bedrock学问库可自动扩充完竣的RAG职责历程，包括接管、检索、领导词增强和援用。
同期，Bedrock还推出了自界说模子导入（Custom Model Import）功能。企业当今能将我方定制模子导入到Bedrock中，以完全托管的API形势进行探询。由此，自界说模子不错毛糙地被集成到现存应用法式和职责流中，并雷同得回阴私安全保护。
咫尺Bedrock专有模子导入功能已推出预览版并救援Flan-T5、Llama和Mistral三种盛开模子架构。
模子推理方面，Bedrock Batch救援灵验扩充大批数据的模子推理任务，可在大范畴推理任务中幸免限流问题，无需编写代码即可处理故障并重启，适用于基础模子及用户自界说模子。
AI应用层面，Bedrock Agents功能救援构建基于企业系统和数据来扩充当务的Agent。使生成式AI应用能够使用当然言语来扩充多法子的业务任务。
包括哄骗LLM使用当然言语进行交互和相应；任务拆分和编排；通过动态调用API完成任务扩充；跟踪基础大模子想维链历程并优化底层Agent的领导工程。
比如使用Bedrock构建一个AI造型师，后果概况会是酱婶儿的。
终末在安全阴私保险方面。Bedrock的Guardrails功能在基础模子的原生才智之上提供了安全保护，可违背85%无益内容。
企业只需通过当然言语来界说不予浮现的内容，就能快速创建一个Guardrail。同期还可缔造阈值以过滤带有仇恨耻辱、暴力、袭击性等内容，并移除任何个东谈主信息和明锐信息。
这一功能可用于Bedrock上的统共大模子，况兼能与微调、Agent功能鸠合使用。
回来来看，Bedrock以企业定制大模子为起点，提供模子遴荐、定制、应用开发、安全保险等一系列功能，使百行万企能更加爽气毛糙用上大模子。
在负责推出1年之后，Bedrock为亚马逊云科技带来的增长和影响依然在具体数据直不雅体现：
亚马逊2024年第一季度财报浮现，亚马逊云科技收入一语气两季度加快增长，运牟利润率创下历史新高，达到37.6%。
为啥能增长如斯速即？亚马逊云科技的最强基本盘——算力基础门径，为其提供了最关节的保险。
还有“云运筹帷幄一哥”的看家身手
基础门径一直都是亚马逊云科技的坚强。
2023年第四季度数据浮现，亚马逊云科技依旧是“云市集一哥”，领有全球31%市集份额。
全球1000家独角兽中，跨越80%都使用亚马逊云。咫尺亚马逊云科技的年化收入依然跨越1000亿好意思元，况兼还在以17%的增长率增长。
在前大模子期间，亚马逊云科技构建了劳动全球245个国度和地区的基础门径开荒、跨越200大类的云劳动，往日十余年中已劳动全球数百万客户。
其底层算力组成主要由两部分组成，不错为企业提供高性能、高性价比、低功耗的算力遴荐：
和英伟达密切和谐握续参预自研芯片一方面，亚马逊云科技和英伟达的和谐依然长达13年，二者保握长久的计谋和谐关连，曾共同推出了全国上第一个GPU Cloud实例。
在败露的最新进展中，亚马逊云科技将推出基于英伟达最新一代Blackwell架构GPU的Amazon EC2(Amazon Elastic Compute Cloud)，以加快构建及运行数万亿参数大模子的性能。
同期将提供首款搭载英伟达Grace Hopper超等芯片的云AI超等运筹帷幄机，以及首款经受英伟达GH200 NVL32的NVIDIA DGX Cloud。
另一方面，在算力瓶颈更加昭彰的环境下，亚马逊在很早期便运转自研芯片。
2019年亚马逊云科技推出了高性能机器学习推理芯片Inferentia，2020年底又推出了定制机器学习执行芯片Trainium。
咫尺最新一代用于AI执行的Trainium 2可救援千亿、万亿级参数大模子执行。与上一代比拟，其执行性能擢升4倍，能效功耗比擢升2倍，内存增多3倍。
一个Amazon EC2可部署多达16个Trainium 2，相较于部署同类芯片的EC2，部署Trainium 2的可从简50%执行老本。
用于AI推理的Inferentia 2挑升针对千亿参数大模子进行优化，与上一代比拟，运筹帷幄性能擢升3倍，内存扩大4倍，糊涂量擢升了4倍，延长裁减至1/10，并可救援大模子散布推理。
Inferentia 2是Amazon EC2中首个推理优化实例，可通过加快器之间的超高速联结救援横向扩展散布式推理。
搭配SageMaker Hyperpod和SageMaker Jumpstart, 可进一步加快基础模子推理与执行。
前者可简化大模子基础执行的过程，后者则提供了一个机器学习中心，通过提供一系列基础模子，让用户无需我方从新构建和执行模子，进行快速执行和部署。
当今亚马逊云科技还在不停拓展中国区域SageMaker Jumpstart中的基础模子种类，引入最初的华文基础模子。亚马逊云科技在中国峰会2024上通知，由百川智能提供的基础模子Baichuan2-7B行将登陆中国区域SageMaker JumpStart，由零一万物提供的基础模子Yi-1.5 6B/9B/34B负责登陆中国区域SageMaker JumpStart，在为中国企业提供丰富模子遴荐的同期空隙了企业对安全合规、快速扩展、免运维的需求。
算作首批登陆中国区域SageMaker JumpStart的华文基础模子，Baichuan2和Yi-1.5与亚马逊云科技托管劳动深度集成，助力中国企业应用一流的生成式AI技艺已毕原土改革与业务转型。
如上多个方面，共同组成了亚马逊云科技的底层算力开荒，更为其生成式AI全栈架构提供塌实底座。
在生成式AI大潮下，亚马逊云科技提议，将来真确能创造最大价值的将是生成式 AI 的行业应用。如金山办公、沐瞳科技、涂鸦智能、礼来科技等拥抱大模子的厂商都遴荐与亚马逊云科技和谐。
其中，礼来制药是一家全球跨国药企。客岁运转，他们要点布局打造以生成式AI为中枢的AI基础才智。基于亚马逊云科技提供的生成式AI云劳动，他们快速打造了职工聊天问答机器东谈主、医学文件援用考证、竞品及市集扩张分析、基于医学内容的FAQ生成。
本体上，这亦然亚马逊云科技一直以来强调的道路与理念。
他们提议，企业应用是行业应用未被泛化的一个个实例。
而亚马逊云科技当下要作念的，即是成为企业构建和应用生成式AI的首选，以鼓励各个行业真确酷爱上拥抱生成式AI大潮。
从浩荡前景到具体行径，亚马逊云科技的生成式AI计谋果决全盘托出。
那么当下，也就到了再行注视亚马逊云科技的时刻。
AIGC期间，怎么评价亚马逊云科技？
开端，不管是大模子期间确当下照旧此前的传统AI期间，一切的一切都绕不开算力这个中枢关节点。
而亚马逊云科技早早发力于云运筹帷幄边界，果决在全球范围内处于公认的“云运筹帷幄一哥”的位置。
加之与英伟达的密切和谐，亚马逊云科技无疑是在Scaling Law为主旋律确当下妥妥的算力大玩家。
其次，在模子层面上的计谋，亚马逊云科技走的是一条“集大成者”的道路——当下每个大模子都各自擅长的才智，将它们集成到一谈，毛糙客户采纳。
也正如储瑞松在此次Keynote中所述：
大模子已不再是企业生成式AI改革的唯孤单分；企业在细陌生成式AI场景之后，需要字据自己的条目遴荐合适的大模子。不同的模子在应用过程中所擅长的边界是不同的，要最大进展生成式AI的才智，需要将它们鸠合起来产生复合效应，从而擢升系统举座的才略水平。
恰是基于这么的一个想路，在更表层的应用方面，诸如Amazon Q这么的应用才能作念到“多、快、好、省”地上岗诸多边界。
而这亦然恰当当下“应用为王”的大趋势。
一言以蔽之，有算力、有模子、有应用、有市集足球投注app，亚马逊云科技统统是AIGC期间谢绝小觑的巨头之一。