Grpc 服务优化 GC 的一个问题,请教一下大佬们
背景:
客户端用的是 grpc 协议,这个动不了。所以服务端必须用 grpc 协议,但是我们的服务流量非常大。proto 中的 bytes 会比较大,会卡在 gc 上,性能上不去。
方案
服务端不用 grpc 框架,自己用 netty 来实现,就是两层,一层用 Netty Http2 相关的封装,一层自己手动解析 proto 的二进制,遇到 bytes 字段直接用 ByteBuf ,省掉了拷贝到堆内存的 byte[],进而节省这部分的 gc 。返回的时候直接编码成二进制 proto 的格式。
有人做过类似的吗,有什么坑吗?
或者有没有其他更好的方案解决 gc 问题,提高性能?
补充一下信息:java17ZGC堆内存 40GBgrpc 请求单个最大几十 M
服务端非用 java 不可吗?
外包给 1 楼
我以为你说 Golang 呢。原来是说的 Java 。Java 的瓶颈也不在 GC 上吧。
一个大部分连续的 bytes 卡住 gc ,听起来还是很离谱的,除非你给出详细测试步骤,不然很难证明你的前提是对的。即便你前提成立,也可以简单粗暴的直接上 ZGC 来解决,不需要你重复发明任何东西。
gc stw 时长是多少
proto 中的 bytes 会比较大,会卡在 gc 上比较大是多大,卡在 gc 是怎么卡呢?最简单的办法就是不动任何其他参数然后使劲拉内存
流量大概快 2GB/s 了,每秒生成的垃圾也比较大。然后 grpc 用堆内存也得拷贝一份,cpu 也会高
目前是 ZGC ,流量太大 2GB/s ,堆都用了 40G 了,偶尔还是会有内存分配暂停。单个 grpc 请求比较大,可能会有几十 M
用的 ZGC ,stw 比较短,但是会有 Allocation Stall ,几百毫秒
最大可能几十 MB ,单机流量快 2GB/s 。用的 ZGC ,主要是 Allocation Stall 内存分配暂停。
对,必须得用 java
zgc 设置了每隔多久强制 gc 吗?我猜测需要根据目前 gc 的具体情况做下 gc 调优,调节一些 gc 参数
都不用强制 GC ,每分钟十几次,主要是流量大 2GB/s ,垃圾多,算下来也是这么个 GC 频率。gc 调优治标不治本。所以才想不用 grpc ,自己去解析 ByteBuf
描述:单个请求最大几十 MB ,单机流量 2GB/s ? +++++++++++++++我觉得这种还是去你们自己测试环境复现一下,把 jvm 的内存占用详细的用 arthas jfr 等工具抓一下,用那种火焰图工具看一下。+++++++++++++++++++++++++ 现在这隔靴瘙痒的,并不清楚,到底是那部分占用内存过多。最近看到的最详细的 Java 极限性能调优过程的 1brc 挑战的 blog ,参考一下大牛是怎么极限调优的。 questdb.io/blog/billion-row-challenge-step-by-step/
流量录制+回放,就是一种不错的复现方式
可以试试 Vertx, 不过我认为并不能解决你现在的问题 github.com/LesnyRumcajs/grpc_bench/discussions/354
grpc.io/docs/languages/go/basics/#server-side-streaming-rpcServer + Client Streaming 是思路么
inside.java/2023/11/28/gen-zgc-explainer/不知道分代 zgc 能解决不,得升级到 jdk21
都知道卡 gc 了,直接的方法就是不让他参与 gc 嘛……unsafe 去 malloc 到非堆上,然后自己做对象生命周期管理就行啊……
堆机器,负载均衡,试试看?
arena ,把 payload 弄到堆外面去,手动管理。但是这么一来…protobuf 自己解析想想就很麻烦。长期来看这只能是个权宜之计,以后不能这么设计 API ,搞出大量大体积的 bytes
试试 intern ,和上面的 arena 一个路数,但是实现简单一些,本质都是避免多次分配。
挺好奇,是什么场景会有如此巨大的 grpc bytes 需求给到 java 服务端?
有一批数量在 100 万张的图片需要进行去水印的操作,有没有好用的工具 直接搜索去水印在线服务,然后把你的图片扔进去试下就可以了。 你这样问,别人不知道你的图片水印是啥样…
新的加密货币,从这个域名看就很牛逼,说明该项目是很有实力的,一次可以免费领几十个,可以兑换美元。 需要使用 telegram 操作,在装有 telegram 的电脑或手机上点…
一个叫Fabrice Bellard的程序员写了一段Javascript在Web浏览器中启动Linux(原网页,我把这个网页iframe在了下面),目前,你只能使用Firefo…