负载均衡_高性能_人工智能研究方向

2021-03-30 16:12

负载均衡_高性能_人工智能研究方向

人工智能(AI)的采用正处于一个转折点,因为越来越多的组织开发他们的人工智能战略,以实现其组织内的革命性技术。然而,人工智能的采用仍然面临着重大挑战;事实上,解决方案的成本和缺乏熟练的资源被认为是采用人工智能的最大障碍。即使技术领域经历了巨大的变化和破坏,组织为技术支付的方式也没有跟上。传统的定价模式是基于一种永久性的许可模式,在这种模式下,企业必须估计需要什么样的技术以及需要多少技术——通常是在未来三到五年内。一旦决定,该组织将购买容量并预付费用。然而,这个模型有一个很大的问题——如果估算错误,组织最终会在使用不足或未使用的技术上浪费资金,导致技术成本与实际业务价值脱节。许多SaaS和基于云的技术首先通过引入基于云的订阅模型来打破这种定价模式。由于不需要在数据中心安装硬件或软件,而且灵活的订阅允许需求的波动,这种以消费为基础的定价方式打乱了企业评估和购买信息技术的方式。人工智能供应商将需要遵循这一原则,朝着更精细的定价方向发展,这有利于基于交易的模型,以帮助他们的客户克服实施人工智能解决方案的成本障碍。人工智能堆栈的构建影响人工智能定价模型人工智能涵盖了广泛的应用,包括自然语言处理、机器学习、图像/视频分析和深度学习等。虽然组织必须选择是购买现成的人工智能,在本地构建自己的人工智能解决方案,还是外包人工智能构建,但在构建其人工智能能力时,有三种主要的方法:使用现成的、培训模型,或者集成一个预先制作好的模型,在组织内部工作需要推断(在云中训练后,在边缘执行AI和ML驱动的预测,在云中数据存储和处理能力丰富且可扩展)。一个组织决定将现成的嵌入式人工智能解决方案用于其业务计划,无论它是在本地、公共云上还是在边缘位置运行。供应商通常不会对嵌入式人工智能服务收取任何额外费用;这种定价反映了市场对嵌入式人工智能能力的期望。一个组织决定培养一个模型。有4种不同的方法可以训练此模型:模型的建立和训练是在-经营场所部署在企业内的商用人工智能软件平台通常按每个座位定价,并根据有权访问数字服务或产品的个人用户数量授予年度软件许可证。为本地人工智能软件平台提供永久许可的供应商通常会根据传统的产品和方法进行许可,并且应该转向订阅定价模型。组织选择在本地培训模型的人将需要底层基础设施来支持该平台。为了加速价值实现,一些领先的人工智能技术供应商正在提供人工智能优化的硬件和软件捆绑解决方案。这些优化解决方案的定价方法正在演变为以年度订阅为基础。模型的建立和训练是在公共场合进行的云。这里,数据科学家可以选择使用流行的深度学习框架和接口启动虚拟实例,以训练复杂的定制人工智能模型,作为商业用途的人工智能软件服务。什么时候使用商业化的人工智能软件平台作为服务,人们只需为自己所使用的东西付费。构建、培训和部署ML模型通常由第二方付费,最少一分钟,没有最低费用,也没有预先安排承诺。但是,当使用预配置的环境时,培训时间通常乘以各种形式的容量单位,以反映计算能力或底层虚拟机实例(取决于所选实例的类型)。选择加速芯片会在基础价格的基础上增加另一项成本。模型的构建和培训外包给域服务提供者。这个培训在客户和域服务提供商之间建立了伙伴关系。域服务提供商负责人工智能模型的构建和培训,客户提供他们的自定义/专有数据集和业务流程信息来微调模型。这个在这种情况下,定价动态是按业务约定定制的。预训练模型可以作为公共云服务使用。组织的专有数据被上传到公共云,并用于调整或定制预训练的这里是模型,一个经过预训练的模型可以作为公共云服务使用。一个组织的专有数据被上传到公共云,并被用来调整预先训练的模型,然后作为一个API部署,以便与应用程序集成,以进行运行时推断。这个场景的定价细节与使用预先训练的公共云模型作为API进行推断(3.2,如下所述)是相互依赖的。组织将现成的预训练模型或优化模型集成到应用程序中。此集成所需的推断可以通过以下三种方式之一进行:预先训练的模型可以作为公共云服务使用,并按需实时调用推断。这里,预训练的模型或AI应用程序可以作为公共云服务提供,并按需实时调用推断。组织只为他们使用的东西付费,不收取最低费用或强制使用服务。对于一些API选择,例如视频搜索、图像分类或文本到语音转换,支付是根据API请求的执行频率,以每分钟视频几美分或几美元,或数千幅图像或数千个字符的文本来完成的推断。一些技术供应商包括他们的人工智能应用程序对于他们的核心应用程序包的无限版本,开心返利,但是对于其他云sku来说,额外的每月费用会根据您要求的数百万预测单位而增加软件。一些领先的人工智能营销云供应商进行基于订阅的授权,并收取三年的固定费用,从而带来以下好处:客户做的决定/建议/预测越多,他们使用的人工智能软件越多,他们的定价就越好。作为公共云服务提供的预训练模型使用专有数据进行调整,然后将该功能部署为推断。那个预训练模型在这里作为公共云服务提供,大数据分享,组织的专有数据被上传到公共云,并用于调整预训练模型,创建一个自定义模型,然后将该功能部署为推断。这个场景定价还包括上述场景2.4中提到的培训定价。虽然组织只为他们使用的东西付费,返利微信,没有最低费用和预先承诺,微信返利机器人,但在这种类型的培训推断组合中,还有三种额外的成本类型:培训时数:根据客户提供的数据,定制模型所需的每小时培训成本。数据存储:存储并用于训练客户模型的每单位数据容量的成本。预先训练的模型存储在DevOps风格的edge存储库中推断。这个推理方式是非常新的,并且在边缘资源的缺乏。然而,供应商已经开始引进技术、平台和设备,这些技术、平台和设备可以经济高效地将人工智能和机器制造能力扩展到网络的边缘。这些设备与公共云服务协同工作,能够在本地处理大量数据,并实现高度本地化和及时推理。组织只为他们使用的东西付费,不收取最低费用或强制使用服务。对于一些API选择,如视频搜索、图像分类或文本到语音转换,支付方式是根据发送API请求以执行推理的频率为基础,每分钟视频支付几美分或几美元,或数千张图像或数千个字符的文本。人工智能供应商如何帮助客户降低人工智能成本成本是企业采用人工智能的最大障碍之一。供应商可以通过为所有人工智能产品(从核心技术、应用程序、API或服务)提供细粒度的、基于消费的定价和灵活的许可,使客户能够克服这一障碍。对于人工智能模型的内部构建和培训以及边缘推断,技术提供商应提供人工智能优化的硬件/软件捆绑解决方案。这将有助于减轻资源调配和管理的复杂性,并控制总体成本。另外,公共云上的人工智能产品应该在作业完成后自动终止实例,并且只对作业的运行时间进行计费。基于消费的定价使客户能够为他们需要的东西买单,降低了抑制因素,促进了人工智能的采用。在IDC的《市场视角:人工智能产品的定价动态:基于粒度和真实消费的方法的快速出现》中了解更多人工智能定价模型。具有颠覆性人工智能能力和成熟度的组织正在获得多重利益。观看IDC的网络广播,了解这些创新企业如何利用人工智能,以及他们在人工智能合作伙伴身上寻找什么。现在就看

,大数据指的是什么
分享到:
收藏
相关阅读