亚马逊云科技 -- AIGC 时代的数椐基础设施|社区征文

2023总结

亚马逊云科技 -- AIGC时代的数椐基础设施

  • Amazon OpenSearch(AOS):开源搜索和分析引擎
  • Amazon SageMaker:全面机器学习服务
  • Amazon Bedrock:完全托管服务
  • Amazon Augmented AI:机器学习预测的人工审核
  • Amazon CodeGuru Security:机器学习自动推理开发周期检测、跟踪、修复代码安全漏洞

Amazon OpenSearch(AOS)

Amazon OpenSearch(AOS)亚马逊云计算服务提供开源搜索和分析引擎,基于开源项目Elasticsearch和Kibana,AOS提供了一个可扩展的、高可用性的搜索和分析平台,轻松构建和管理大规模的搜索应用和日志分析系统

picture.image

可视化和分析工具:集成 Kibana 提供丰富可视化和分析功能,使用 Kibana 创建仪表板、图表和报告

高可用性和容错性:提供自动的故障转移和数据复制机制,确保系统的高可用性和数据的持久性,支持多个可用区和跨区域复制,提供更高的容错性

分布式架构:采用分布式架构,水平扩展处理大规模的数据和请求,支持数据分片和副本

Amazon SageMaker

Amazon SageMaker 全面机器学习服务,通过完全托管的基础设施、工具和工作流程为任何用例构建、训练和部署机器学习 (ML) 模型,帮助开发者和数据科学家更轻松地构建、训练和部署机器学习模型

picture.image

端到端机器学习平台:提供端到端的机器学习平台,涵盖数据准备、模型训练、模型部署和推理等各个阶段,可以在集成的环境中完成整个机器学习工作流程,简化开发和部署的过程

灵活的模型训练环境:支持多种机器学习框架和算法,包括TensorFlow、PyTorch、Scikit-learn等,可以选择熟悉的框架和算法来训练模型,并使用强大的分布式训练功能加速训练过程

可扩展的模型部署:Amazon SageMaker 将模型部署到生产环境中,提供高可用性和可扩展性,支持多种部署选项,包括实时推理、批量推理和边缘推理,以满足不同应用场景的需求

Amazon Bedrock

Amazon Bedrock 是完全托管的服务,使用单个 API 提供来自 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和 Amazon 等领先人工智能公司的高性能基础模型(FM),以及构建生成式人工智能应用程序所需的一系列广泛功能,维护隐私和安全的同时简化开发

picture.image

自动创建提示语:根据开发者提供的指令完成任务所需的 API 架构,以及来自知识库(例如 Amazon OpenSearch 无服务器的向量引擎、Pinecone 和 Redis Enterprise Cloud)的公司数据来源详细信息创建提示语,试验不同基础模型的提示语时,自动创建提示语可以节省数周时间

检索增强生成:Amazon Bedrock 代理可安全地连接到公司的数据来源,自动将数据转换为数值形式,并使用相关信息增强用户请求,以生成更准确、更具相关性的回应

编排计划:可将用户请求的任务分解为较小的子任务,从而做出周密安排将任务分解,代理会确定正确的任务顺序,并处理中途出现的任何错误状况

Amazon Augmented AI

Amazon Augmented AI 轻松实施机器学习预测的人工审核,根据特定要求对机器学习预测实施人工审查和审计,轻松地将人类判断和人工智能集成到所有 ML 应用程序

picture.image

简化的工作流程:Amazon A2I 提供简化的工作流程,使开发者能够快速创建和管理人类审核任务,使用预定义的模板或自定义工作流程来定义任务的类型、审核者的角色和审核流程

弹性和可扩展性:根据需求自动扩展,适应不同规模的审核任务,处理大规模的任务并提供高可用性和可靠性

安全和隐私:提供多层次的安全性和隐私保护措施,包括数据加密、身份验证和访问控制等功能,确保审核任务和数据的安全性

Amazon CodeGuru Security

Amazon CodeGuru Security 使用机器学习和自动推理在开发周期的任何阶段检测、跟踪和修复代码安全漏洞,旨在帮助开发者提高其应用程序的安全性和质量,基于机器学习技术,提供一系列工具和功能,用于自动发现潜在的安全漏洞和代码质量问题,并提供有针对性的建议和修复建议

picture.image

安全漏洞检测:Amazon CodeGuru Security 使用静态代码分析和机器学习技术,自动扫描应用程序的源代码,以发现潜在的安全漏洞和漏洞模式,可以检测常见的安全问题,如跨站脚本攻击(XSS)、SQL注入、敏感数据泄露等

持续集成和持续交付(CI/CD)集成:可以与CI/CD工具集成,如 AWS CodePipeline 和 AWS CodeCommit,以便在代码提交和部署过程中自动执行安全扫描,可以早发现和修复安全问题,减少漏洞在生产环境中的存在时间

安全报告和可视化:生成详细的安全报告和可视化图表,显示应用程序的安全状况和问题分布,帮助开发者全面了解应用程序的安全性,并跟踪改进的进展

InfoQ 首发文章的原文链接 : https://xie.infoq.cn/article/66e3e59a164c0ec6b29bcdce2

34
0
0
0
关于作者
相关产品
评论
未登录
看完啦,登录分享一下感受吧~
暂无评论