全部社区征文Kubernetes边缘计算计算Flink大数据中间件Meetup数据中台云存储云原生可观测数据库容器服务技术大讲堂微服务数据治理ClickHouseService MeshGoServerless边缘云容器与中间件2023总结容器KubeWharfGPU开源镜像机器学习开发与运维CDN与加速
展开 
云原生2023总结
2023年已经接近尾声,总结了一下自己2023年的工作内容,发现在公司从0到1实现了DevOps实践是一件比较有挑战和成就感的事情,所以这里想和大家分享一下自己是如何在完成云原生DevOps实践的。在云原生爆火的时代,DevOps的理念早已深入人心,大家对DevOps的理解也都不尽相同,很多人以为DevOps是由develop+operation两个单词组成,顾名思义DevOps的出现是为了打通开
云原生Kubernetes2023总结
此前我们部门已经完成了业务上云的目标,而随着业务请求量的激增,上云应用系统也面临着一些复杂的故障和挑战。下文我就结合最近的容器排障工作,跟大家一起探讨如何优化系统的性能、扩展性和容错能力,为读者提供参考和借鉴,以确保系统的高效运行和可靠交付。用户反馈出现了一个异常任务,它长时间出于“进行中”的状态;用户上传的源物料大小是 568MB 左右,预期能够半小时出结果,实际过了 6 个小时都没有结束任务。
云原生中间件数据中台
在 KubeCon CN 2023 的「 Open AI + 数据 | Open AI + Data」专题中,火山引擎软件工程师胡元哲分享了《使用 KubeRay 和 Kueue 在 Kubernetes 中托管 Ray 工作负载|Sailing Ray workloads with KubeRay and Kueue in Kubernetes议题。以下是本次演讲的文字稿。本文将从 Ray 为何
云原生KubeWharf
我们经常说 Kubernetes 已经取代了 Linux 成为下一代的操作系统了。此话怎讲,看下面这张图片,传统Linux不管是用户态还是内核态,在 k8s 里面都有与其对应的服务。所以在 云原生时代,有很多 以 Kubernetes 为内核构建的分布式操作系统。就像 Linux 时代的 ubuntu,centos 一样。最有名当属 KubeWharf 、sealos、KubeSphere。官网
云原生2023总结大数据
云原生容器技术是指利用云计算的特性,构建和运行基于容器的应用程序的一种技术。容器是一种将应用程序和其依赖的环境打包成一个轻量级、可移植、可隔离的单元,可以在任何支持容器的平台上运行的技术。云原生容器技术可以提高应用程序的可移植性、可扩展性、可观察性、可靠性和安全性,实现快速交付和持续创新。容器的创建是指将应用程序和其依赖的环境打包成一个容器镜像的过程,容器镜像是一个包含了文件系统层和元数据的二进制
云原生KubeWharf
  随着云计算的迅速发展,越来越多的企业开始使用云原生技术构建自己的应用程序。 Kubernetes作为容器编排工具的代表,已经成为了云原生平台的标准。 KubeWharf作为一套基于Kubernetes的分布式操作系统,可以帮助企业更方便地进行云原生化的部署和管理。  KubeWharf是一套以Kubernetes为基础构建的分布式操作系统,由一组云原生组件构成。它的目的是提高系统的可扩展性、功
云原生KubeWharf
KubeWharf 是一套基于 Kubernetes 构建的分布式操作系统,致力于提高系统的可扩展性、功能性、稳定性、可观测性和安全性。它由一组云原生组件构成,专注于支持大规模多租户集群、离线混部、云原生化存储和机器学习等复杂场景。在本文中,我们将深入了解 KubeWharf 的优势、不足之处,并通过实际实践案例来加深对该项目的理解。KubeWharf 项目地址:https://github.co
云原生KubeWharf
“2016 年,字节跳动启用 Kubernetes 技术栈,开始对业务进行大规模容器化改造,到 2018 年,内部部署的容器单集群已经达到了上万个节点。时至今日,字节跳动实现云原生化的应用比例已超过 95%,我们计划和开源社区合作,逐步开放规模化云原生落地的工具和最佳实践。”字节跳动宣布正式开源 KubeWharf 项目。KubeWharf 是字节跳动基础架构团队在对 Kubernetes 进行了
云原生2023总结
不知不觉 2023 年又到了年末。这一年,火山引擎开发者社区持续给大家带来高质量的技术内容,社区小伙伴们也终于能在线下相互交流学习。这一年见证了 AIGC 与大模型技术的井喷式发展,AI 技术加速渗透到千行百业;云计算基础设施和 AI 基础设施也在加速更迭以支撑算力需求庞大的 AI 应用开发。那么在 AI 浪潮再次席卷的 2023 年,开发者朋友们对技术有哪些洞察?大家在这一年尝试了哪些工具?个人
云原生中间件数据中台
银行业数据中心的服务大体上分为在线服务和离线作业,在线服务主要是交易类服务,其流量存在周期性,但是对服务质量(SLA)却有极高的要求,主要负载出现在白天工作时间段,夜间的交易负载较低,计算资源的使用呈现日高夜低的特征。离线作业一般是大数据分析、批量任务或者模型训练,属于资源密集型服务,主要负载出现在夜间,可以容忍一定的时延甚至中断,计算资源的使用呈现日低夜高的特征。这两类服务的负载高峰存在明显的时
云原生Severless大数据数据库
更多技术交流、求职机会,欢迎关注字节跳动数据平台微信公众号,回复【1】进入官方交流群作为云计算的下一个迭代,Serverless 可以使开发者更专注于构建产品中的应用,而无需考虑底层堆栈问题。伴随着近年来相关技术成熟度的增加,市场对 Serverless 的接受程度也变得越来越高。可以说时至今日,Serverless 已迈入了向成熟稳定方向发展的高速轨道。作为一款火山引擎推出的云原生数据仓库,By
云原生中间件数据中台
Flink Forward 是由 Apache 官方授权的 Apache Flink 社区官方技术大会,作为最受 Apache Flink 社区开发者期盼的年度峰会之一,FFA 2023 将持续集结行业最佳实践以及 Flink 最新技术动态,是中国 Flink 开发者和使用者不可错过的的技术盛宴。今年 Flink Forward Asia(以下简称 FFA ) 回归线下,将于 12 月 8 - 9
云原生大数据数据库
更多技术交流、求职机会,欢迎关注字节跳动数据平台微信公众号,回复【1】进入官方交流群近期,火山引擎 ByteHouse 升级了基于 ClickHouse 的物化视图能力,为解决数据量爆炸式增长带来的查询速度和响应时间缓慢等问题提供了有效手段。火山引擎 ByteHouse 是一款云原生数据仓库,为用户提供极速分析体验,能够支撑实时数据分析和海量数据离线分析,同时具备便捷的弹性扩缩容能力,极致分析性能
云原生Severless云原生可观测大数据
更多技术交流、求职机会,欢迎关注字节跳动数据平台微信公众号,回复【1】进入官方交流群作为云计算的下一个迭代,Serverless可以使开发者更专注于构建产品中的应用,而无需考虑底层堆栈问题。伴随着近年来相关技术成熟度的增加,市场对Serverless的接受程度也变得越来越高。可以说时至今日,Serverless已迈入了向成熟稳定方向发展的高速轨道。作为一款火山引擎推出的云原生数据仓库,ByteHo
云原生中间件数据中台
在某客户日志数据迁移到火山引擎使用 ELK 生态的案例中,由于客户反馈之前 Logstash 经常发生数据丢失和收集性能较差的使用痛点,我们尝试使用 Flink 替代了传统的 Logstash 来作为日志数据解析、转换以及写入 ElasticSearch 的组件,得到了该客户的认可,并且已经成功协助用户迁移到火山。目前,Flink 已经支持该业务高峰期 1000+k/s 的数据写入。本文主要介绍
云原生人工智能与算法容器服务容器与中间件
Langchain 是一个基于大语言模型进行应用开发的框架,它提供了方便的组件库,方便开发者将 LLM 模型与各种外部数据源连接起来。本文介绍了在火山引擎上部署 Langchain-ChatGLM 的方法。登录火山引擎控制台,创建 VKE 集群,集群版本选择 1.24,容器网络模型选择 VPC-CNI,开启公网访问。选择立刻创建节点,节点规格选择 GPU 计算型,ecs.gni2.3xlarge
云原生开发与运维容器服务容器与中间件
公测申请 | www.volcengine.com/product/artifacts制品仓库作为现代软件研发的基础服务之一,对于研发效率、软件质量和安全性的提升起到了重要支撑,是不可或缺的服务。21 世纪初,敏捷开发这个概念被提出,用于替代上世纪八九十年代瀑布模式的传统开发方式,经过 10 年左右的发展,在 2010 年,这种理念的采纳程度已经上升到接近 40%。近些年,随着 CI/CD 、 D
云原生容器服务容器与中间件混合云
公测申请 | www.volcengine.com/product/dcp云计算是信息技术发展和服务模式创新的体现,多年来在政策、市场和需求的推动下蓬勃发展。从技术层面看,云计算已全面转向云原生;从形态方面看,云计算无处不在。分布式云原生作为新兴的云服务模式,其背景可追溯到云计算的发展和云原生技术的应用。随着企业数字化转型的深入,对云计算的需求日益增长,多云环境已成为常态。然而,多云云原生管理方面
云原生Kubernetes
在dhorse 1.4.0版本之前,一直使用k8s官方提供的sdk与k8s集群交互,官方sdk的Maven坐标如下:但是自从1.4.0版本以后,dhorse开始支持fabric8的sdk,fabric8的sdk的Maven坐标如下:那么,为什么要替换为fabric8的sdk与k8s交互呢?1.社区方面两者的关注度上,都差不多,没有太大差别;但是,fabric8的sdk提供的文档和示例更加完善,而k
云原生中间件数据中台
幸福里业务是一种典型的交易、事务类型的业务场景,这种业务场景在实时数仓建模中遇到了诸多挑战。本次分享主要介绍幸福里业务基于 Flink & Paimon 构建流式数仓的实践经验,从业务背景、流批一体数仓架构、实践中遇到的问题和解决方案,借助 Paimon 最终能拿到的收益,以及未来规划方面进行介绍。作者:字节跳动基础架构工程师-李国君幸福里业务是字节旗下关于房产的业务线,围绕这个业务有很多针对 B