大模型新贵还是绕不过云计算大佬

打印 上一主题 下一主题

主题 844|帖子 844|积分 2532


图片来源:unsplash
▎****大模型改换云计算江湖?亚马逊云科技可没同意。


至少有那么一小段时间,云计算行业真的开始担心亚马逊云科技会落后。
彼时微软押中OpenAI,风光一时无两,激动人心的故事背后是一场豪赌,就连比尔·盖茨也曾警告萨提亚·纳德拉不要投资OpenAI,随后ChatGPT的现象级热度让一切质疑消弭于无形,OpenAI GPT和微软Azure的组合似乎稳赢。

图片来源:unsplash
在“名不见经传”的OpenAI爆火之前,谷歌一直是人工智能范畴技术的标杆,OpenAI也是站在谷歌的肩膀上才有所成绩,好比Transformer架构最早由谷歌推出,涌现现象由谷歌研究员发现。如果AI是云服务将来最大的变量,那么谷歌云一定是最有力的竞争者,位次还要在微软Azure之前。
不得不向微软Azure和谷歌云脱帽致敬,他们加速了人工智能改变一切的节奏,也让云服务的焦点转向AI。这是一场“AI or die”的竞赛,云巨头不仅要具备AI本领,还要比直接竞争对手有更突出的差异化上风。
当外界广泛为亚马逊云科技担心时,Adam Selipsky显然不这么想,亚马逊云科技遍布举世的巨大根本设施和繁荣的合作伙伴生态,是其长久以来的领先壁垒,外界都在期待亚马逊云科技的新底牌。
那些认为微软Azure和谷歌云能够凭借大模型凌驾亚马逊云科技,大概说缩小与其差距的观点,也同时抱有另一种期待,即一旦亚马逊云科技将AI纳入其提供给客户的强大服务生态体系,亚马逊云科技失去的任何阵地都会很快被补充回来。
这就是2023年4月Amazon Bedrock诞生时的背景。相比于微软和谷歌主推的OpenAI和Google PaLM,亚马逊云科技采取了不同的计谋。
起初Amazon Bedrock主打多模型接入,亚马逊云科技的根本模型(Amazon Titan),和各种第三方模型(如AI21 Labs、Anthropic、Stability AI等),都可以通过API的方式接入。同时发布的尚有代码生成器以及用于练习和推理的云上算力。
此后Amazon Bedrock不停更新,增加全新根本模型、根本模型供应商以及Agents功能,提供微调、知识库、代理、模型评估等各种丰富的功能,同时还能与亚马逊云科技其他工作负载无缝集成。

图片来源:pixabay
总结来说就是三大方面,简化选择:多样化业界根本模型选择;简化定制:提供连续预练习,fine-tuning, RAG等方式;简化集成:Agent on Amazon Bedrock。
最新一次的重磅更新,亚马逊云科技数据和人工智能副总裁Swami Sivasubramanian形容其为“Significant new capabilities make it easier to use Amazon Bedrock to build and scale generative AI applications–and achieve impressive results”。
重大更新、更易利用、效果显着,成为Amazon Bedrock本次更新的关键词。
大模型向下看,仍旧是云平台


Amazon Bedrock对外发布已有一年,已往一年,大模型依然在不停迭代,甚至迭代得有些过于快速,以至于企业客户不知道把应用做到什么程度,Amazon Bedrock给出的答案是,云厂商不但负责大模型,而是对终极的业务效果负责。
Swami Sivasubramanian表现,Amazon Bedrock聚焦于客户所需的关键范畴,以得当的成本和速度构建可投入生产的企业级生成式AI 应用步伐。
当全部人都在关注大模型的时候,更应该关注支撑大模型所必须的云服务,通过一系列的更新,Amazon Bedrock打造了一个端到端的、对客户业务效果负责的平台,也让业内再次把目光聚焦到亚马逊云科技。
起首,新增了Llama 3的Llama 3 8B和Llama 3 70B版本模型,目前最强的开源模型正式GA。Llama 3 8B擅长文本摘要、分类、情感分析和翻译,得当有限资源和边缘设备场景。Llama 3 70B在内容创建、对话式人工智能、语言理解、研发、企业、准确摘要、细致分类/情感分析、语言建模、对话体系、代码生成和指令跟踪方面表现出色。
同时Amazon Bedrock还预告了Amazon Titan Text Embeddings V2,Embeddings V2提供256、512和1024向量空间尺寸,优先思量低落成本,同时保存RAG用例97%的准确性,性能优于其他领先模型。
以及即将支持Cohere的Command R和Command R+企业FM。Command R+是Cohere最强大的模型,针对长上下文使命进行了优化,而Command R则针对大规模生产工作负载进行了优化。
值得关注的是,Amazon Bedrock 的模型评估工具全面可用,能够根据特定应用场景的指标(如相关性、风格和品牌声音)对模型进行评估,为客户评估、比力和选择得当其应用步伐的最佳模型,将评估模型的时间从几个星期紧缩到几个小时,评估后还会提供评估报告,为更多模型利用者提供参考。
钛媒体App观察到,现阶段客户并不希望被一个模型绑定,根本模型在进化,应用场景也在调试,客户希望更多选择、更低成本、更易调试不同的模型,来测试自己的业务效果,模型评估工具就很有必要且应景。
另外尚有非常实用的Amazon Titan图像生成器现已全面推出,客户可以利用自然语言实现低成本、大量高效地生成图像,而且每张图像都包罗不可见水印,有助于低落知识产权风险。
其次,如何让企业更安全地定制模型,并将其集成到特定业务用例,Amazon Bedrock实现了自定义模型导入,客户现在可以导入和访问流行的开放模型架构(包罗Flan-T5、Llama和Mistral)构建自定义模型,作为Amazon Bedrock中完全托管的应用步伐编程接口 (API)。
如此,客户可以接纳在Amazon SageMaker或其他工具上定制的模型,并将其轻松添加到Amazon Bedrock,而且颠末自动验证后无缝访问其自定义模型,就像Amazon Bedrock提供的模型一样,效果和体验拉满,这也完全体现了Amazon Bedrock的开放性。
末了是安全,Amazon Bedrock的Guardrails现已全面上市,可资助客户防止有害内容并管理应用步伐内的敏感信息。客户能够定义内容计谋、设置应用步伐活动边界并实施针对潜在风险的掩护措施。 据了解,与Amazon Bedrock上FM本身提供的掩护相比,它可以资助客户制止多达85%的有害内容。
GenAI,延续亚马逊云科技的第一性原理


不得不说,轮到行业继承向亚马逊云科技脱帽致敬了,老大哥依旧是老大哥。
Amazon Bedrock仅用一年时间就扭转了风向,行业依然关注大模型本身的技术进步,但更关注大模型能不能为我所用,这涉及到巨大的根本设施、工程本领、生态体系等。
亚马逊云科技没有选择只做大模型,而是以另一种方式,也是他们所擅长的方式,将人工智能融入到原有的生态体系中,数以万计的客户正在利用Amazon Bedrock来构建和扩展大模型应用步伐。

亚马逊云科技就此构建了完备的生成式AI全栈布局,企业构建生成式AI 应用的三层架构,包罗:用于根本模型练习和推理的根本设施、利用根本模型进行构建的工具、利用根本模型构建的开箱即用的应用步伐。
在底层算力层,一方面,亚马逊云科技继承提供来自英伟达的计算实例,包罗最新的NVIDIA Grace Blackwell GPU的Amazon EC2实例等;另一方面是亚马逊云科技自研芯片,包罗推理芯片Inferentia和Trainium系列。

中间层是Amazon Bedrock以及各种附加功能。上层是包罗Amazon Q在内的应用步伐,Amazon Q可以毗连到企业自己的数据、信息和体系,可以根据客户的业务定制Amazon Q,企业中的营销职员、项目司理以及销售代表等,都可以利用Q进行定制对话、解决问题、生成内容、采取行动等等,据悉,亚马逊云科技即将带来进一步的更新。
如果说大模型改变了云计算行业的游戏规则,那么如今行业人士会发现,亚马逊云科技制定的游戏规则,在更广泛的层面还在发挥着作用。
OpenAI GPT和Google PaLM足够引人注目,但同时也为微软Azure和谷歌云制造了新的竞争问题,市面上尚有很多模型公司,Amazon Bedrock为这些模型公司创建了一个雷同的起点,客户得以同等体验不同的模型。
在钛媒体App看来,亚马逊云科技不论是做云还是做生成式AI,其根本理念和逻辑如出一辙,所以亚马逊云科技不必摇摆去思索到底怎么做、做什么,而是直接按照第一性原理,做出最得当亚马逊云科技的Amazon Bedrock。
早年Andy Jassy做云计算的理念是——“将IT根本设施细分到最小单元,让步伐员可以最大自由来选择与组合”,亚马逊云科技简直是这么做的,到了大模型依然如此。
翻阅Swami Sivasubramanian在Amazon Bedrock刚发布时的观点,“我们生活在一个呆板学习非常激动人心的时代。我可能每年都这么说,但是本年它甚至更特别,因为这些大型语言模型和根本模型确实可以支持如此多的用例,在这些用例中,人们不必组建单独的团队来构建特定于使命的模型。呆板学习模型开发的速度将真正提高。”
“但在将来几年里,除非我们让这些模型对每个人都更容易利用,否则你不会到达你想要的终极状态。这就是我们在SageMaker早期的呆板学习中所做的,这也是我们在Bedrock及其全部应用步伐中必要做的。”他说。
人工智能是比IT更复杂的技术堆栈,亚马逊云科技依旧兑现了此前的承诺,让企业内的任何开发职员都能够自由构建生成式AI应用,而无需关注复杂的呆板学习或底层根本设施,也让人工智能成为到达云计算应许之地的关键一跃。

免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!更多信息从访问主页:qidao123.com:ToB企服之家,中国第一个企服评测及商务社交产业平台。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复

使用道具 举报

0 个回复

倒序浏览

快速回复

您需要登录后才可以回帖 登录 or 立即注册

本版积分规则

八卦阵

金牌会员
这个人很懒什么都没写!

标签云

快速回复 返回顶部 返回列表