V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  liuxu  ›  全部回复第 29 页 / 共 145 页
回复总数  2900
1 ... 25  26  27  28  29  30  31  32  33  34 ... 145  
2021-11-09 16:14:00 +08:00
回复了 yuandj 创建的主题 Linux 高并发服务器 tcp 内核参数优化及对于连接池配置数量请教
@yuandj 突然想起来,如果你没能通过 Timer 解决问题,我建议你再次从 kafka/mysql/redis 阻塞分析,原因是你 kafka 使用的是协程而不是异步任务,协程只能解决单线程 io 阻塞问题,只是能让程序并行处理多个任务,并不能让单个请求的时间减少(并不是多线程执行,请求的线程把任务扔给任务线程后直接返回请求 response )

如果你 kafka 节点有问题的话,一个请求中,协程依然会等待任务执行完(等待途中 yield 让别的请求执行),等待结束继续处理这个请求,然后返回请求。如果你的框架请求一开始就创建了 mysql 和 redis 连接而没有主动释放,kafka 的阻塞会导致 swoole 维持它们,所有 kafka/mysql/redis 连接数都多。因为 swoole 执行慢,所以 nginx 连接维持时间长,连接看上去也会多

当然还是希望是 Timer 问题,事情就简单很多
2021-11-09 12:34:54 +08:00
回复了 yuandj 创建的主题 Linux 高并发服务器 tcp 内核参数优化及对于连接池配置数量请教
@yuandj 根据你#17 的信息,我也觉得可能是 timer 的业务问题,由于 linux 内核的调度器频繁把 cpu 切到定时间的线程执行任务,导致影响了接口主线程执行。但是你的 cpu 负载并没有满,只用了 50%左右,这很奇怪,会有这么大的影响么。还是说你的定时器任务和接口中的代码有关联,导致接口需要等待定时器的任务结果。

如果 swoole 方面不好解决,可以把 nginx 的负载均衡改成最小连接数应急,不过这个方案你应该也知道
2021-11-09 11:07:38 +08:00
回复了 yuandj 创建的主题 Linux 高并发服务器 tcp 内核参数优化及对于连接池配置数量请教
我先给出问题的结论:
你的 kafka 集群中,存在某个单节点写入过慢 /负载过高。而且你的 kafka 负载均衡被连接后会固定写入某个到了某个节点。



首先和你的内核参数关系不大,qps 600 只要 ulimit -n 调大一点,就一切 ok 。

根据你提供的信息,我整理下现状:
1. 有问题的服务器 php 和 ruby 的 cpu 占用都大,但是 cpu 使用率都没有达到 100%。
2. 有问题的服务器 swap 占用过多,但不明显,只有 100MB 。
3. 有问题的服务器存在大量 connection 存在 dose not exists 。
4. nginx 是轮询 php 后端。
5. php 业务链接 kafka/mysql/redis 。
6. 有问题的 swoole 对 kafka 有多 1 倍的连接数,对 nginx 的连接数比正常的少 20%。
7. 只有 3 台固定的 swoole 有以上问题。
8. 有问题的 swoole 请求时间过长。




下面说下问题解析,如果以上信息没有提供错误的话,可以得到以下结论:

一、 主要现象是 php 接口过慢。所以一下现象可以正常解释:
1. 会出现大量 connection 错误。因为接口慢,所有 client 等不及关掉连接,或者刷新。
2. php 、ruby(fluentd)、supervisord 的 cpu 过高,但是 ruby 内存占用小。因为大量 connection 错误,所以 swoole 频繁写入日志,从而导致 fluentd 频繁调起读取日志发送或写入 buffer 。而日志都是 connnect 错误,字符少,所有内存占用少。同时我可以推测你的 fluentd 是 supervisord 管理的,所以 supervisord 频繁调起 fluentd ,导致它自己的 cpu 也高。

二、另一个现象是 3 台固定的 swoole 有问题。这个问题可以排除和定位问题:
1. nginx 没问题。虽然我推测可能是 nginx 负载均衡算法问题,或者说 nginx 轮询没有真实的运行,但是这个是解释不通的。首先 nginx 基本不可能出问题,有问题也极难遇到,当然我说的是你用的 stable 版。即使是 nginx 问题,那么出现 3 台固定 swoole 有问题,只有可能是有人用固定几个 ip 在 cc 攻击,才会导致 nginx 转发到这 3 台 swoole 。但是你 600 的 qps ,能 cc 0.6k 我还没见过这么抠的。
2. swoole 业务代码自身没问题。如果是 woole 业务代码逻辑问题,那么问题应该是随机出现在不同 swoole 服务器上,而不是固定 3 台。
3. swoole 所在物理服务器没问题。可能是内存颗粒有问题,导致处理业务数据过慢。但是我想你用的应该是 kvm 云服务器。而 3 台都落在一台云服务物理服务器可能性不大,即使存在云服务商应该能检查出来,会即使通知你,并更换内存条。当然也有极微可能是这个问题。
4. swoole 所在屋里服务器随机 io 满负荷。这个是有可能的,可能是你这 3 台 swoole 由于 connnection 错误日志太多,php 写入和 fluentd 读取导致 io 爆满。但是你的是 8H8G 的服务器,而且只有 600qps ,所有基本不可能。

三、为什么我推测是 kafka 单节点有问题。
1. 不是 mysql 问题,如果是 mysql 问题,例如业务 sql 读取大量数据,问题应该是随机出现在不同 swoole 服务器上。
2. 不是 redis 问题,原因如上。
3. kafka 情况有点不同,我推测你的 swoole 和 kafka 之间是 swoole 启动时和 kafka 创建的长连接,所以这 3 台固定写入到某个节点,而这个节点写入过慢,写入过慢所以 swoole 会维持连接,你看到的连接数就会更多。同时写入过慢所以你的 php 接口慢,这就都解释通了。
2021-11-03 19:51:14 +08:00
回复了 bfc 创建的主题 程序员 开发速度最快的 Web 框架?
spring-boot 开发快,但是 laravel 很多时候不需要开发,只需要 composer install 包就行了
2021-11-03 19:20:57 +08:00
回复了 liuxu 创建的主题 Java spring-boot 如何引入同一个包多个版本
@hand515 b 没有源码,正在从项目入手
2021-11-03 19:20:05 +08:00
回复了 liuxu 创建的主题 Java spring-boot 如何引入同一个包多个版本
@ic2y 多谢,我看看怎么整


@renmu123 目前是在升级到 v2 ,但是解决了一个问题却引出千千万万个问题,我看怎么搞
2021-11-03 09:51:17 +08:00
回复了 liu1996 创建的主题 Java 接口访问次数多了变慢是 tomcat 限制还是服务器 cpu 限制?
我的电脑平时用的挺好了,开了个软件就卡了,怎么回事,是不是我的电脑限制了这个软件运行,求大佬解答
2021-11-02 21:45:19 +08:00
回复了 777777 创建的主题 程序员 小组长因为预算问题不想购买第三方 API,让我写爬虫。
有期徒刑 2 年,2023 年见朋友
2021-11-02 12:19:55 +08:00
回复了 devinww 创建的主题 Elasticsearch 服务器 ip 地址改变是否只需要修改配置文件 ip
@liuxu broadcast
2021-11-02 12:18:23 +08:00
回复了 devinww 创建的主题 Elasticsearch 服务器 ip 地址改变是否只需要修改配置文件 ip
ip ,netmask ,boastcast ,gateway 都确认一遍
2021-11-02 10:45:34 +08:00
回复了 godev2021 创建的主题 Go 编程语言 Goland 开源许可证一年到期还能续吗?
用 vscode 写其实问题不大
2021-11-02 10:39:20 +08:00
回复了 kikione 创建的主题 程序员 多线程事务可行吗?
基于 CSP 模型做事务
2021-11-01 10:19:01 +08:00
回复了 imp258 创建的主题 Linux 银河 kylin 如何安装 suricata。
编译应该用 configure 文件,没用就用 automake 生成,我建议你看看官方文档

https://suricata.readthedocs.io/en/latest/install.html

或者建议你系统用 ubuntu ,直接 apt 安装
2021-10-31 20:21:28 +08:00
回复了 guoqiao 创建的主题 Linux 2021 年 10 月,在 Ubuntu Linux 上如何使用微信 ?
我用 ubuntu 的系统上不用腾讯系软件,wine 依赖太多了
rtmp 局域网推流就可以了
2021-10-29 17:16:07 +08:00
回复了 z0ro 创建的主题 硬件 有鉴别矿卡的路子吗?
买有 sn 码的,近两个月生产的卡
2021-10-29 17:15:10 +08:00
回复了 huangmingyou 创建的主题 Kubernetes 老问题,现在流行什么方法管理多个环境下的 k8s 项目
我是一个 helm 包下面多个 values.yaml ,helm 可以指定 value 文件 --values xx.yaml
2021-10-27 21:21:46 +08:00
回复了 ysy950803 创建的主题 PHP PHP 服务挂了之后是不是就能查看. PHP 文件源码了?
#97 s/不会暴露密码 /不会暴露代码 /
2021-10-27 21:11:14 +08:00
回复了 ysy950803 创建的主题 PHP PHP 服务挂了之后是不是就能查看. PHP 文件源码了?
首先我忘了回复楼主。
1. 如果 php 文件和 index.html 同目录,但是 nginx 配置文件配置了请求 php 路径的 location ,不会暴露密码。
2. 如果 test.php 不渲染任何东西,但是 nginx 通过 fastcgi 访问 fpm ,fpm 运行 test.php 后实际上会返回 http 200 OK ,nginx 会把这个返回给浏览器,所以浏览器显示空白是正常情况,但是你如果观察 header ,是有对应的 header 头的。显示空白只是 http 的 content 是空的而已。
3. 如果满足 1 的配置要求,fpm 挂了,nginx 一般是抛出 502 错误页。
4. 只有没有按 1 的要求配置,才会返回 php 代码文件。



@void1900
@hxy100

我不是想打谁的脸,我回复的目的主要是为 25 楼这样的小兄弟解答,以及其他看到这个帖子的新人。
我看各位的注册年限都好几年,工作经验起码 3-5 年以上了,也正是因为这个原因,你们对技术比较专业的讨论,如果没有正确的回复,会非常误导人。

下面的回复不是针对谁,我就是给其他刚入行的小兄弟看的。

问:后缀是不是 MIME media type ?
答:不是。
原因:
1. 从理论角度来分析,MIME 是有 RFC 的,但是 RFC 中并没有任何有关后缀和 media type 的关系定义。
image/png 中,image 是 type ,png 是 subtype ,中间用 /分开,为一个 MIME media type 。而.png 没有任何定义。
https://en.wikipedia.org/wiki/MIME

2. MIME media type 的列表是 IANA 定制的,而且大部分也说明了 MIME media type 对应的文件后缀,下面以 text/html 为例,见“File extension”部分。
https://www.iana.org/assignments/media-types/text/html

那么从以上两点可以知道 MIME 是 MIME ,文件后缀是文件后缀。




说到这里我想扩展一下。

1. 一个软件(nginx, file)识别一个文件的 MIME 有 2 中方法。
a. 像 nginx 一样提供一个 mime.types 这样的有 mime 和文件后缀对应的列表。
b. 像 linux 命令 file 一样分析文件内容。

按 a 的话效率很高,毕竟分析文件内容会导致 nginx 消耗额外资源,而且只要配置列表齐全,就不会出现不识别问题。
而 file 是按 b ,所以 file 判断一个文件 test.php 文件的时候,把文件名改成 test ,也就是删掉.php ,也可以识别正确。原理是看文件是不是"<?php"开头。

$ cat test.php
<?php

t$ file --mime test.php
test.php: text/x-php; charset=us-ascii

$ mv test.php test

$ file --mime test
test: text/x-php; charset=us-ascii

但是这个是有缺陷的, 因为 php 可以 html 和 php 代码混合。
$ cat test
<!DOCTYPE html>
<html>
<body>
<?php
echo "I'm liuxu.\n";
?>
</html>

$ php test
<!DOCTYPE html>
<html>
<body>
I'm liuxu.
</html>

$ file --mime test
test: text/html; charset=us-ascii

可以看到明明是 php 文件,但是 file 却说文件是 text/html ,因为 file 读取文件开头是"<!DOCTYPE html>",所以判断这个文件是 html 文件。
同时也可以看见即使没有.php 后缀,文件也可以识别执行。原因是 php 读取文件就是单纯的 fopen()。


问:那么我用 php 执行一个单纯的 html 会怎样,甚至是一个 txt 会怎样。
答:会原样输出文件内容。
$ cat test.html
<!DOCTYPE html>
<html>
<body>
</html>

$ php test.html
<!DOCTYPE html>
<html>
<body>
</html>




2. nginx+php-fpm 的原理,我就以 nginx 官方配置说明为例。
server {
location / {
fastcgi_pass localhost:9000;
fastcgi_param SCRIPT_FILENAME $document_root$fastcgi_script_name;
fastcgi_param QUERY_STRING $query_string;
}

location ~ \.(gif|jpg|png)$ {
root /data/images;
}
}

首先这个配置没有匹配.php 后缀,而是匹配所有请求。如果请求时.gif .jpg .png 结尾,则会去 /data/images/加上请求路径拼接查找对应文件,也就是请求 /test/a.jpg ,会查找 /data/images/test/a.jpg 。然后如果找到了文件,会根据后缀.jpg 在 mime.types 查找到 mime 设置到 Content-Type ,然后返回。

但是如果不是上面的请求后缀,则转发到后端 php-fpm 。转发整个过程是:
a. 匹配请求路径,如 /test1.html ,/test2.php 。
b. 设置 fastcgi_param SCRIPT_FILENAME ,设置的值为 root 目录加请求路径,也就是 root 是 /data/project/,请求是 /test2.php 的话,SCRIPT_FILENAME 为 /data/project/test2.php 。然后把这个路径发送给 php-fpm 。php-fpm 使用 fopen()打开这个文件,由于是绝对路径,所以 php-fpm 不会读取到错误的工作目录。然后 php 执行 test.php ,得到输出返回给 nginx ,包含 header ,最后 nginx 做一些其他操作后将 php-fpm 的返回值返回给浏览器。

所以从 b 的的解析来看,即使你请求"/test3",也就是没有后缀,那么假如 /data/project/test3 问一个 php 内容的文件,php-fpm 一样会执行返回。




3. 然后我普及下十几年前 asp/php 当道的年代,一个人尽皆知的 webshell 攻击手法,也是和 mime 有关。
a. 首先网站有个上传图片功能,php 验证文件的方式是读取文件的 mime ,也就是看是不是 image/jpeg 或者 image/png 。
b. 攻击者上传 muma.php ,由于这个会上传时 Content-type 不是 image/jpeg ,所以使用工具劫持请求,然后更改上传文件的 Content-type 为 image/jpeg 后发送请求。然后 php 会验证通过,将文件存放到磁盘上。最后攻击者访问这个文件的链接就拿到了 webshell ,所以现在 php 验证一般是验证文件后缀。这也是说明 mime 和文件后缀虽然有联系,但是要区分对待。



4. 最后我想说一下 php 的 mime 问题,有点意思。从我查询有限的信息来看,php 是有 mime 的,但是还没有被 IANA 收录。
首先 IANA 定义的 MIME media type 叫官方 MIME ,然后还有一些 subtype 为 x-开头的,叫非官方定义,为的是以后官方定义避免名字冲突所以加上了 x-。
现在就有一个有趣的事情,我看前面有人说 apache 中 php 的 mime 要设置成 application/x-httpd-php ,实际上 linux 都有一个文件,叫 /etc/mime.types ,里面有 IANA 定义的 MIME 列表,但是 php 相关是注释掉的。
$ cat /etc/mime.types | grep php
#application/x-httpd-php phtml pht php
#application/x-httpd-php-source phps
#application/x-httpd-php3 php3
#application/x-httpd-php3-preprocessed php3p
#application/x-httpd-php4 php4
#application/x-httpd-php5 php5

然后用 file 看 php 文件的 mime 是 text/x-php 。

$ file -i test.php
test.php: text/x-php; charset=us-ascii

这个其实很有趣,原因是命名规范问题。

首先有官方定义 application/javascript 和 text/html ,原因是 js 是程序代码,html 是 html 文本。但是 php 很特殊,因为 php 可以是单纯的<?php 开头的 php 文件,也可以是 html+php 混合文件。如果是混合文件,那么开头就是<!DOCTYPE html>或者<html>,这样读取分析文件会是 text/html ,明显是错的。然后有人说 application/x-httpd-php 这个是有问题的,因为 php 和 html 一样是可读文本,所以 type 应该是 text ,mime 应该是 text/x-php 。所以 IANA 应该是考虑到这个问题,就把 php 相关的 mime 去掉的。但是 apahce 现在还在用,linux 命令 file 或者 php 自己的方法 mime_content_type()返回 php 文件的 mime 都是 text/x-php 。
2021-10-27 00:08:46 +08:00
回复了 ysy950803 创建的主题 PHP PHP 服务挂了之后是不是就能查看. PHP 文件源码了?
@jindeq
@void1900
@hxy100

直接用 nginx 源码讲话。


首先说明 nginx 的默认配置 mime.types ,内容如:
types {
text/html html htm shtml;
text/css css;
text/xml xml;
...

存储在 nginx 内存中方存放的方式为:
[
'html' => 'text/html',
'htm' => 'text/html',
'shtml' => 'text/html',
'css' => 'text/css',
'xml' => 'text/xml',
...
]
也就是['ext' => 'mime']这种格式,从这里就很清楚了,mime 和文件后缀可以互相替代,但是 mime 不是文件后缀,你完全可以在这个文件里添加一条
text/html v2ex;

此后后缀为".v2ex"的文件 nginx 返回时 response 的 Content-type 就会设置成 text/html

liuxu@liuxu-VirtualBox:/etc/nginx$ cat mime.types | grep v2ex
text/html v2ex;

liuxu@liuxu-VirtualBox:/etc/nginx$ ls -l /var/www/html/
total 12
-rw-r--r-- 1 root root 612 10 月 26 21:47 index.nginx-debian.html
-rw-r--r-- 1 root root 11 10 月 26 23:34 test.v2ex

liuxu@liuxu-VirtualBox:/etc/nginx$ file /var/www/html/index.nginx-debian.html
/var/www/html/index.nginx-debian.html: HTML document, ASCII text

liuxu@liuxu-VirtualBox:/etc/nginx$ file /var/www/html/test.v2ex
/var/www/html/test.v2ex: ASCII text

liuxu@liuxu-VirtualBox:/etc/nginx$ cat /var/www/html/test.v2ex
I'm liuxu.

liuxu@liuxu-VirtualBox:/etc/nginx$ curl -v http://127.0.0.1/test.v2ex
* Trying 127.0.0.1:80...
* TCP_NODELAY set
* Connected to 127.0.0.1 (127.0.0.1) port 80 (#0)
> GET /test.v2ex HTTP/1.1
> Host: 127.0.0.1
> User-Agent: curl/7.68.0
> Accept: */*
>
* Mark bundle as not supporting multiuse
< HTTP/1.1 200 OK
< Server: nginx/1.18.0 (Ubuntu)
< Date: Tue, 26 Oct 2021 15:35:53 GMT
< Content-Type: text/html
< Content-Length: 11
< Last-Modified: Tue, 26 Oct 2021 15:34:36 GMT
< Connection: keep-alive
< ETag: "6178200c-b"
< Accept-Ranges: bytes
<
I'm liuxu.
* Connection #0 to host 127.0.0.1 left intact



在有了以上说明后,下面从 nginx 源码说话:

1. nginx 不设置 default_type 时,response 的 Content-Type 默认是 text/plain ,而不是 application/octet-stream 。也就是说单独一个 nginx 运行,root 目录为 /var/www/html/时,把 test.php 放入 /var/www/html/下,会直接打印代码。

https://github.com/nginx/nginx/blob/41a241b3ef74dbbe3d82ab2ebbe682919e4a0b90/src/http/ngx_http_core_module.c#L3693

2. nginx 设置了 default_type 为 application/octet-stream ,按 1 的配置,浏览器访问 1.php ,Content-Type 因为是 application/octet-stream 所以会下载该文件。当然也不止 application/octet-stream ,还有如果有 Content-Disposition 的话也会调用下载任务。
https://en.wikipedia.org/wiki/MIME

3. nginx 引入了自己的默认配置文件 mime.types 后,ngx_http_set_content_type()首先走到 1606 行判断有没有文件后缀,如果有后缀,则会走到 1633 ,从后缀中搜索 type ,也就是前面说的在 nginx 内存结构中的 mime.types:
type = ngx_hash_find(&clcf->types_hash, hash,
r->exten.data, r->exten.len)
if (type) {
r->headers_out.content_type_len = type->len;
r->headers_out.content_type = *type;

return NGX_OK;
}
但是由于 mime.types 中没有 php 相关的配置,也就是不存在一个"type/xxx php"这样的配置,所以如果没有设置 location ~ \.php${...}这类配置,php 文件就会被下载。

以下是返回 response 的代码:
https://github.com/nginx/nginx/blob/41a241b3ef74dbbe3d82ab2ebbe682919e4a0b90/src/http/ngx_http_core_module.c#L1593



所以 nginx 并没有通过 mime 来区分返回 response ,而是通过文件后缀查询到了对应的 mime ,然后设置了到 Content-type 然后返回。

最后说一下 location ~ \.php${...}中,.php 是不是后缀匹配。从人为理解来说是匹配.php 后缀文件,但是从 nginx 的角度来看,它就是一个正则字符串,并没有在内部 mime 列表中查出一个['php'=>'type/php']这种东西。
1 ... 25  26  27  28  29  30  31  32  33  34 ... 145  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2438 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 37ms · UTC 05:19 · PVG 13:19 · LAX 22:19 · JFK 01:19
Developed with CodeLauncher
♥ Do have faith in what you're doing.