2024年re:Invent过半,亚马逊云科技不断展示从基础设施到中间层,再到讹诈层,亚马逊云科技为生成式AI举座系更新云设想系统,展示出系统改进智商。
彰着,亚马逊云科技是不应允“在GenAI谈路上追逐”这一说法的,要作念就作念GenAI 落地讹诈的引路者。
在Monday Night Live中,亚马逊云科技高档副总裁Peter DeSantis不仅科普了云设想时期和AI时期基础设施的变化,还共享亚马逊云科技从芯片到数据中心的改进,以此得志大模子教师和Gen AI的业务需求。
亚马逊CEO Andy Jassy
亚马逊云科技CEO Matt Garman
在周二的主论坛中,亚马逊云科技CEO Matt Garman邀请“云设想教父”亚马逊CEO Andy Jassy同台,连接围绕亚马逊云科技在云设想中枢规模设想、存储、数据、模子推理的紧要改进,以及生成式AI讹诈构建管事Amazon Bedrock,AI助手Amazon Q进行紧要发布。
亚马逊云科技AI与数据副总裁Dr.Swami连接聚焦在SageMaker AI的品牌升级, Amazon Bedrock的全面更新,以及生成式AI助手Amazon Q紧要发布,最新发布Amazon Bedrock Marketplace,提供了来自培植供应商的100多个新兴和专科基础模子,为客户提供更多采取,来加快GenAI 的落地的讹诈次序。
亚马逊CEO Andy Jassy的出场无疑成为本年大会的一大热门,当他发布生成式AI基础模子Amazon Nova时,现场更是火爆起来。新发布的Amazon Nova基础模子共包括四大模子:可用于肤浅任务的超高性价比翰墨处分Micro模子;三种多模态模子——低本钱的Lite模子;兼具准确性、速率和本钱的Pro模子;用于复杂的推理任务同期也可进行蒸馏定制的Premier模子。
Nova模子复古微调(Fine-tuning),蒸馏(Distillation)教师更小的模子。Nova模子与Amazon Bedrock学问库深度集成,可用于RAG,以把柄我方的数据生成反映。
此外,亚马逊云科技还发布图像生成模子Amazon Nova Canvas和视频生成模子 Amazon Nova Reel。Andy Jassy先容,在2025年一季度傍边,亚马逊云科技将提供语音到语音的模子,辞别是Speech-to-Speech和Any-to-Any模子。
Amazon Nova模子推出后,客户当然要与同类模子比拟,从官方给出的数据来看,无论是Nova Lite已经Nova Pro,Nova在总共基准测试中都是相配或更好,极具竞争力。
亚马逊云科技AI与数据副总裁Dr.Swami
而在周三的主题演讲中,Dr.Swami连接发布两大模子AI模子Poolside Assistant、Luma AI等。
与亚马逊云科技生成式AI居品总监Sherry Marcus博士合影
会后,亚马逊云科技生成式AI居品总监Sherry Marcus博士在收受采访中暗意,跟着期间的推移,客户需求关乎三点:但愿模子优设想好,本钱、时延低但准确要高。因此,团队在构建Nova的时候,将本钱裁减了75%,试念念当亚马逊云科技拦截市集壁垒,给了本钱更低的采取,用户会有更多购买的意愿。
同期Sherry Marcus暗意,比如绝大无数的这种模子供应商在谨慎发布之前,进入出产本领之前都会作念微调,不错针对一些偏见或者一些常见的这种挫折算作进行微调,这个进程不错称为层的防护。在的确这些模子上到Amazon Bedrock 之前,亚马逊云科技会针对它的诚笃性,无偏见性,矜重性和安全性再进行测试和评估。这是第一册领。第二个本领是针对使用模子的客户,亚马逊科技提供Guardrail管事,客户不错用这个管事来针对我方的需求,致使制定一个更高的安全的圭臬和条件。
在问谈Amazon Nova和 Amazon Titan的区别时,Sherry Marcus暗意,但愿通过名字定名,告诉用户这是一套不同的系列,二者进行多式联动的同期还不错使本钱大幅裁减。Nova是一个全新的系列,主要用到了新的专科学问,包括学术界和行业方面蕴蓄的辅导,比如金融行业。与此同期,亚马逊云科技连接在Amazon Titan这个东谈主工智能基础模子上头加大插足。
从 LLAMA 2 到 LLAMA 3,大模子的升级也就三个月期间,当谈到Nova的升级设想时,Sherry Marcus期待概况以和竞争敌手等量皆不雅的速率来推出升级。但前提是:基于客户使用Nova之后的反馈来作念升级,不错感受到看来亚马逊云科技的价值不雅恒久开放在每一个居品构建单位中。
正如CEO Matt Garman所言,把柄客户需求进行改进,恒久是亚马逊云科技发展和前行的能源,无论是把柄场景进行芯片测考考据,已经把柄需求提供多种大模子采取,亚马逊云科技将险些总共本事智商领会为颓落的组件——“构建单位”(building blocks),以易用、高性价比的组件体式管事客户,以得志客户多样场景的需求。
这不仅是亚马逊云科技捏续改进的能源,亦然GenAI落地的基本叙事逻辑。