(网经社讯)3月20日消息,亚马逊云科技全球客户技术支持与服务副总裁Uwem Ukpong近日表示,2024年,亚马逊云科技的布局重点,就在Amazon Q和Amazon Bedrock。
据网经社云计算台(CC.100EC.CN)获悉,Amazon Bedrock是亚马逊的云托管服务,在此之上已有不少大模型服务商接入,包括最近炙手可热的Claude 3。而Amazon Q是通用生成式AI助手,由亚马逊云科技去年11月底于re:Invent大会上发布。
谈及与企业合作时,Uwem Ukpong表示,“全球范围内,(过去)不少企业在云技术采纳方面是非常慢的,当你和这些企业谈云时他们会保持沉默,没有坚定的信念做出这一决定。但现在,他们面临着来自不同利益相关者和股东的压力,要求他们在生成式AI方面有所作为。而当客户企业需要开启生成式AI之旅,就意味着需要上云。”如今,亚马逊云科技的全球服务覆盖了全球51个国家和地区。
“20多年来,人工智能和机器学习一直是亚马逊关注的焦点。只不过我们以前不把它叫做生成式AI。事实上,亚马逊的零售业务已经大量地采用了人工智能的技术。”Uwem Ukpong说。他坦言,目前,亚马逊云科技基于生成式AI,提供了三层服务架构,包括利用基础模型构建的应用程序、使用基础模型进行构建的工具和用于基础模型训练和推理的基础设施。
第一,云基础设施服务。过去五年,亚马逊云科技持续加大在自研芯片方面的投入,不断突破性能和价格的极限,以支持对此有极高要求的机器学习训练与推理等工作负载。Amazon Trainium和Amazon Inferentia芯片可以提供极低成本地在云上训练模型和运行推理。除此之外,在GPU方面,英伟达多款先进算力均率先在亚马逊云科技落地。
这一层是亚马逊云科技的王牌产品,也是亚马逊云科技加固的重点。目前,亚马逊云科技基础设施遍及33个地理区域的105个可用区,并计划在马来西亚、墨西哥、新西兰、沙特阿拉伯和泰国等新建6个区域、18个可用区。
第二,模型层。基于Amazon Bedrock云托管服务,允许企业通过API访问从文本到图像的一系列在Amazon Bedrock之上的基础模型,如AI21 Labs、Anthropic、Cohere、Meta、Stability AI、Mistral AI等的基础模型以及Amazon Titan基础模型。并支持客户基于私有数据差异化定制。
第三,应用层,即生成式AI驱动的应用程序。目前主要是Amazon Q。Amazon Q于去年11月在re:Invent大会上发布,这是一种新型生成式AI支持的助手,可以根据客户业务进行定制,专门用于满足办公场景需要。可以通过连接如代码仓库、网址、数据库、文档、email等各种信息库,来帮助企业或者个人以自然语言对话的方式,提供历史数据检索、摘要生成、内容撰写等服务。