当前位置:首页 > 技术文章 > 正文内容

线上项目CPU,内存都跑满了,怎么调试?

arlanguage4个月前 (12-29)技术文章34

记得第一次当整个电商项目负责人的时候,在使用量高峰期时,运维的同事突然跑过来说,xx服务的某台机器的CPU,内存暴了(OOM了),赶紧想办法怎么做。当时的心情既高兴,又紧张。高兴的是产品真的有使用在使用了,有价值了;紧张的是出问题,要怎么解决?

出现这种问题有2种情况,一种是直接服务程序终止,一种是服务程序在还在(线程通过PS命令查看还在运行),但无法对外提供服务。

当然出现这种情况,都是第一时间让运维同事将nginx上的upstream对应的IP注释掉,不让流量在进来到故障的机器上。

对于第一种程序直接终止的,在启动的命令中,加上

-XX:+HeapDumpOnOutOfMemoryError \
-XX:HeapDumpPath=${HeapDumpPath} \

输出当时的jvm内存镜像,然后通过jconsole来进行分析。

最头痛的是第二情况,服务程序还在运行,但是CPU/内存都满了,这种也就是假死,通过日志文件啥的,很难分析到问题,在纠结的时候,有同事看到了Arthas,我靠,可以直接在线debug,于是乎就搞起来,但当时(三年前吧)只是命领行格式。当初通过

- dashboard
- thread
- jvm
- memory
- trace

等几个命令,就可以去分析问题。而最终的问题原因,都是程序没写好(哇?? 又写bug了

  • 程序对象没控制好,在高并发时拼命产生对象,加大jvm的回收。
  • 下游服务接口慢,然后调用方没有控制好,卡线程(积压),挂。
  • 其它单服务达到瓶劲,只能扩服务(这锅可以不背了)。

最近由于项目的需要,又去逛了一遍Arthas的官网,发现Arthas加上了很多功能,感觉更加强大了。比如:

1? 提供了Web Console的界面功能

通过Web浏览器就可以连接Arthas,在web界面就可以输入各种命令来查看信息,简单强大的不要不要的,来看看它的界面:

Arthas目前支持Web Console,用户在attach成功之后,可以直接访问:http://127.0.0.1:8563/。可以填入IP,远程连接其它机器上的arthas。

默认情况下,arthas只listen 127.0.0.1,所以如果想从远程连接,则可以使用 --target-ip参数指定listen的IP,更多参考-h的帮助说明。 注意会有安全风险,考虑下面的tunnel server的方案。

2? 提供springboot快速集成 arthas-spring-boot-starter

不像以前的使用方式,是在运行java的服务器,单独启动Arthas来查看对应的java进程的数据。传统是这样使用,启动,选择对应的进程来看。

$ java -jar arthas-boot.jar
* [1]: 35542
  [2]: 71560 member-api.jar
  [3]: 38871 order-api.jar

由于大部分的开发人员都不具备服务器的权限,根本无法执行上面的操作,官方大佬要考虑到这种情况,提供了arthas-spring-boot-starter,让使用者零代码接入(简直神器来的),只需要在pom中引入:

        <dependency>
            <groupId>com.taobao.arthas</groupId>
            <artifactId>arthas-spring-boot-starter</artifactId>
            <version>${arthas.version}</version>
    </dependency>

当前只支持spring-boot 2.0以上的版本。

默认情况下,arthas-spring-boot-starter会禁掉stop命令。

当前版本是:3.6.1

集成arthas后,项目启动成功后,可以访问如下的URL,看是否集成成功。

http://localhost:8080/actuator/arthas(假定endpoint端口是 8080)

{
    "arthasConfigMap": {
        "agent-id": "hsehdfsfghhwertyfad",
        "tunnel-server": "ws://47.75.156.201:7777/ws",
    }
}

配合 Arthas Tunnel,实现完美的界面查看。

3? 提供了Arthas Tunnel的集成功能

这是一个Arthas的管理功能,在一般的情况,普通的开发人员是不具备服务器的使用权限,没办法登录到指定的机器上去看具体的命令Console,而这个服务,可以实现一种远程管理/连接多个Arthas(Agent)的功能。

Arthas Tunnel是一个spring boot的应用程序,可以从官网/github上进行下载,直接java -jar启动:

java -jar  arthas-tunnel-server.jar

默认情况下,arthas tunnel server的web端口是8080,arthas agent连接的端口是7777。

启动之后,可以访问 http://127.0.0.1:8080/ ,再通过agentId连接到已注册的arthas agent上。

通过Spring Boot的Endpoint,可以查看到具体的连接信息: http://127.0.0.1:8080/actuator/arthas ,登陆用户名是arthas,密码在arthas tunnel server的日志里可以找到,比如:

32851 [main] INFO  o.s.b.a.s.s.UserDetailsServiceAutoConfiguration

Using generated security password: f1dca050-3777-48f4-a577-6367e55a78a2
复制代码

上面中的password,就是登录arthas的密码。

然后对第2点集成arthas时,添加上如下的配置,配置tunnel server实现远程管理:

arthas.agent-id=hsehdfsfghhwertyfad
arthas.tunnel-server=ws://47.75.156.201:7777/ws
复制代码

agent-id 不是必须的,不配置的话,会自动产生一个随机数,看实际的需要来配置。



原文链接:https://juejin.cn/post/7101501357500137479


扫描二维码推送至手机访问。

版权声明:本文由AR编程网发布,如需转载请注明出处。

本文链接:http://www.arlanguage.com/post/547.html

标签: nginx 随机数
分享给朋友:

“线上项目CPU,内存都跑满了,怎么调试?” 的相关文章

Linux 系统安装 Nginx

Linux 系统安装 NginxCentOS 7 Nginx 源代码编译安装# 官网下载最新版 https://nginx.org/en/download.html # 系统安装必备组件: yum install gcc gcc-c++ pcre pcre-devel zlib-devel ope...

基于Docker一键LNMP(Nginx+MySQL+PHP7/5+Redis)安装程序

一键部署LNMP环境的目的,该环境特点:完全开源支持多版本PHP切换(PHP5.4、PHP5.6、PHP7.2...)支持绑定任意多个域名支持HTTPS和HTTP/2PHP源代码位于host中MySQL data位于host中所有配置文件可在host中直接修改所有日志文件可在host中直接查看内置完...

「每天一道面试题」Nginx 502错误原因和解决方法

Nginx 502错误原因和解决方法不管你是做运维还是做开发,哪怕你是游客,时不时会遇到 502 Bad Gateway 或 504 Gateway Time-out。出现这页面,把服务重启下,再实在不行重启下服务器,问题就解决了,特殊情况请继续阅读。状态码解释502 Bad Gateway:作为网...

nginx 解决 readv() failed (104: Connection reset by peer)

查看nginx error错误,发现上传接口报以下错:2019/10/10 19:58:25 [error] 299784#0: *5967188 readv() failed (104: Connection reset by peer) while reading upstream, clien...

nginx检查提示“unknown directive &quot;stream&quot; in /etc/*/nginx.conf”

yum安装nginx检查时提示“unknown directive "stream" in /etc/nginx/nginx.conf”yum安装nginx,在配置反代时,出现错误:nginx -tnginx: [emerg] unknown directive "strea...

SeaTunnel 实践 | SeaTunnel 帮你快速玩转 Spark 数据处理

Databricks 开源的 Apache Spark 对于分布式数据处理来说是一个伟大的进步。我们在使用 Spark 时发现了很多可圈可点之处,我们在此与大家分享一下我们在简化 Spark 使用和编程以及加快 Spark 在生产环境落地上做的一些努力。01一个 Spark Streaming 读取...