max_connections的問題

user5173

從字面上看這個數(shù)字應該是對于連接數(shù)的最大限制�，F(xiàn)在我們測試使用400用戶，200并發(fā)，就導致了出錯。程序運行了大概有15分鐘左右就down掉了。變現(xiàn)為tracker進程直接死掉。怎么啟都啟動不了。ps-e查不到tracker這個進程。
web程序的log4日志為：
級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：Recv package size -1 != 10
2009-09-04 09:34:10,265 | 線程:[3464] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：Recv package size -1 != 10
2009-09-04 09:34:10,250 | 線程:[3208] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：Recv package size -1 != 10
2009-09-04 09:34:10,265 | 線程:[2696] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：Recv package size -1 != 10
2009-09-04 09:34:10,296 | 線程:[6092] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：Recv package size -1 != 10
2009-09-04 09:34:10,218 | 線程:[4188] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：Recv package size -1 != 10
2009-09-04 09:34:10,218 | 線程:[5412] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：Recv package size -1 != 10
2009-09-04 09:34:10,281 | 線程:[5860] | 級別:INFO  | 對象:test_upload_aspx | 信息: 上傳文件的時間為：0.09375秒！
2009-09-04 09:34:10,359 | 線程:[2028] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：Recv package size -1 != 10
2009-09-04 09:34:10,359 | 線程:[8024] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：Recv package size -1 != 10
2009-09-04 09:34:10,296 | 線程:[3184] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：Recv package size -1 != 10
2009-09-04 09:34:10,359 | 線程:[4196] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：無法從傳輸連接中讀取數(shù)據(jù): 遠程主機強迫關(guān)閉了一個現(xiàn)有的連接。。
2009-09-04 09:34:10,359 | 線程:[4044] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：Recv package size -1 != 10
2009-09-04 09:34:10,281 | 線程:[6376] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：無法將數(shù)據(jù)寫入傳輸連接: 遠程主機強迫關(guān)閉了一個現(xiàn)有的連接。。
2009-09-04 09:34:10,281 | 線程:[6320] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：Recv package size -1 != 10
2009-09-04 09:34:10,265 | 線程:[6656] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：Recv package size -1 != 10
2009-09-04 09:34:10,218 | 線程:[5376] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：Recv package size -1 != 10
2009-09-04 09:34:10,203 | 線程:[2172] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：Recv package size -1 != 10
2009-09-04 09:34:10,000 | 線程:[660] | 級別:INFO  | 對象:test_upload_aspx | 信息: 上傳文件的大小為：308958字節(jié)！
2009-09-04 09:34:10,359 | 線程:[7128] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：Recv package size -1 != 10
2009-09-04 09:34:10,359 | 線程:[660] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：Recv package size -1 != 10
2009-09-04 09:34:10,218 | 線程:[5708] | 級別:INFO  | 對象:test_upload_aspx | 信息: 上傳文件的大小為：308958字節(jié)！
2009-09-04 09:34:10,281 | 線程:[3800] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：Recv package size -1 != 10
2009-09-04 09:34:10,234 | 線程:[1872] | 級別:INFO  | 對象:test_upload_aspx | 信息: 上傳文件的大小為：308958字節(jié)！
2009-09-04 09:34:10,218 | 線程:[4372] | 級別:INFO  | 對象:test_upload_aspx | 信息: 上傳文件的大小為：308958字節(jié)！
2009-09-04 09:34:10,343 | 線程:[5432] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：無法將數(shù)據(jù)寫入傳輸連接: 遠程主機強迫關(guān)閉了一個現(xiàn)有的連接。。
2009-09-04 09:34:10,359 | 線程:[5708] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：無法從傳輸連接中讀取數(shù)據(jù): 您的主機中的軟件放棄了一個已建立的連接。。
2009-09-04 09:34:10,359 | 線程:[7064] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：無法從傳輸連接中讀取數(shù)據(jù): 遠程主機強迫關(guān)閉了一個現(xiàn)有的連接。。
2009-09-04 09:34:10,359 | 線程:[1872] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：Recv package size -1 != 10
2009-09-04 09:34:10,375 | 線程:[4372] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：Recv package size -1 != 10
2009-09-04 09:34:11,203 | 線程:[4684] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：由于目標機器積極拒絕，無法連接。 192.168.130.20:22122
2009-09-04 09:34:11,203 | 線程:[4508] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：由于目標機器積極拒絕，無法連接。 192.168.130.20:22122
2009-09-04 09:34:11,203 | 線程:[5348] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：由于目標機器積極拒絕，無法連接。 192.168.130.20:22122
2009-09-04 09:34:11,203 | 線程:[6556] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：由于目標機器積極拒絕，無法連接。 192.168.130.20:22122
2009-09-04 09:34:11,203 | 線程:[5888] | 級別:INFO  | 對象:test_upload_aspx | 信息: 測試文件上傳速度時發(fā)生異常：由于目標機器積極拒絕，無法連接。 192.168.130.20:22122

storage的日子為：

ad.c, line: 162, connect to tracker server 192.168.130.20:22122 fail, errno: 111, error info: Connection refused
[1999-11-28 11:49:29] INFO - file: tracker_client_thread.c, line: 191, successfully connect to tracker server 192.168.130.20:22122, continuous fail count: 1
[1999-11-28 12:23:49] CRIT - file: fdfs_storaged.c, line: 260, catch signal 15, program exiting...
[1999-11-28 12:28:51] INFO - FastDFS v1.19, base_path=/data/fastdfsfiles/storage, store_path_count=1, subdir_count_per_path=256, group_name=group1, network_timeout=60s, port=23000, bind_addr=, max_connections=256, heart_beat_interval=30s, stat_report_interval=60s, tracker_server_count=1, sync_wait_msec=100ms, sync_interval=0ms, sync_start_time=00:00, sync_end_time: 23:59, allow_ip_count=-1, file_distribute_path_mode=0, file_distribute_rotate_count=100, fsync_after_written_bytes=0, sync_log_buff_interval=10s, sync_binlog_buff_interval=60s, check_file_duplicate=0, FDHT group count=0, FDHT server count=0, FDHT key_namespace=, FDHT keep_alive=0
[1999-11-28 12:28:51] INFO - file: tracker_client_thread.c, line: 191, successfully connect to tracker server 192.168.130.20:22122
[1999-11-28 12:28:51] ERROR - file: storage_sync.c, line: 1679, connect to storage server 192.168.130.20:23000 fail, errno: 111, error info: Connection refused



[1999-11-28 11:48:29] INFO - file: tracker_client_thread.c, line: 191, successfully connect to tracker server 192.168.130.20:22122
[1999-11-28 11:48:59] ERROR - file: tracker_client_thread.c, line: 162, connect to tracker server 192.168.130.20:22122 fail, errno: 111, error info: Connection refused
[1999-11-28 11:49:29] INFO - file: tracker_client_thread.c, line: 191, successfully connect to tracker server 192.168.130.20:22122, continuous fail count: 1
[1999-11-28 12:23:49] CRIT - file: fdfs_storaged.c, line: 260, catch signal 15, program exiting...
[1999-11-28 12:28:51] INFO - FastDFS v1.19, base_path=/data/fastdfsfiles/storage, store_path_count=1, subdir_count_per_path=256, group_name=group1, network_timeout=60s, port=23000, bind_addr=, max_connections=256, heart_beat_interval=30s, stat_report_interval=60s, tracker_server_count=1, sync_wait_msec=100ms, sync_interval=0ms, sync_start_time=00:00, sync_end_time: 23:59, allow_ip_count=-1, file_distribute_path_mode=0, file_distribute_rotate_count=100, fsync_after_written_bytes=0, sync_log_buff_interval=10s, sync_binlog_buff_interval=60s, check_file_duplicate=0, FDHT group count=0, FDHT server count=0, FDHT key_namespace=, FDHT keep_alive=0
[1999-11-28 12:28:51] INFO - file: tracker_client_thread.c, line: 191, successfully connect to tracker server 192.168.130.20:22122
[1999-11-28 12:28:51] ERROR - file: storage_sync.c, line: 1679, connect to storage server 192.168.130.20:23000 fail, errno: 111, error info: Connection refused
[1999-11-29 00:29:51] ERROR - file: tracker_client_thread.c, line: 687, tracker server 192.168.130.20:22122, recv data fail, errno: 107, error info: Transport endpoint is not connected.
[1999-11-29 00:29:52] ERROR - file: tracker_client_thread.c, line: 162, connect to tracker server 192.168.130.20:22122 fail, errno: 111, error info: Connection refused

初步懷疑是最大連接數(shù)的限制，更改最大連接數(shù)為1000，512，400等等都無法啟動服務。日志為
tracker：

[2009-09-04 13:22:35] INFO - FastDFS v1.19, base_path=/data/fastdfsfiles/tracker, network_timeout=60s, port=22122, bind_addr=, max_connections=400, store_lookup=0, store_group=, store_server=1, store_path=0, reserved_storage_space=4096MB, download_server=0, allow_ip_count=-1, sync_log_buff_interval=10s
[2009-09-04 13:22:35] ERROR - file: ../common/shared_func.c, line: 1635, create thread failed, startup threads: 303, errno: 12, error info: Cannot allocate memory
[2009-09-04 13:26:21] INFO - FastDFS v1.19, base_path=/data/fastdfsfiles/tracker, network_timeout=60s, port=22122, bind_addr=, max_connections=256, store_lookup=0, store_group=, store_server=1, store_path=0, reserved_storage_space=4096MB, download_server=0, allow_ip_count=-1, sync_log_buff_interval=10s

storage的日志為：
[2009-09-04 12:57:05] INFO - FastDFS v1.19, base_path=/data/fastdfsfiles/storage, store_path_count=1, subdir_count_per_path=256, group_name=group1, network_timeout=60s, port=23000, bind_addr=, max_connections=1000, heart_beat_interval=30s, stat_report_interval=60s, tracker_server_count=1, sync_wait_msec=100ms, sync_interval=0ms, sync_start_time=00:00, sync_end_time: 23:59, allow_ip_count=-1, file_distribute_path_mode=0, file_distribute_rotate_count=100, fsync_after_written_bytes=0, sync_log_buff_interval=10s, sync_binlog_buff_interval=60s, check_file_duplicate=0, FDHT group count=0, FDHT server count=0, FDHT key_namespace=, FDHT keep_alive=0
[2009-09-04 12:57:05] ERROR - file: ../common/shared_func.c, line: 1635, create thread failed, startup threads: 301, errno: 12, error info: Cannot allocate memory

后改為max——contection改為256啟動又正常了。

請解釋一下原因，并告知一下解決方法。

后改為300用戶，100用戶并發(fā)，運行53分鐘后又出現(xiàn)類似問題。追蹤器進程down掉，存儲器進程還在，程序無法連接。

[ 本帖最后由 user5173 于 2009-9-4 15:41 編輯 ]

happy_fish100

>>后改為max——contection改為256啟動又正常了。
>>請解釋一下原因，并告知一下解決方法。

32位系統(tǒng)內(nèi)存空間不能超過4G的問題導致。64位系統(tǒng)上應該不存在這個問題。
可以將線程的棧大小改小一些，這樣支持的線程數(shù)可以大一些。詳情可以參見帖子：
http://linux.chinaunix.net/bbs/thread-1127610-1-2.html

happy_fish100

>> 后改為300用戶，100用戶并發(fā)，運行53分鐘后又出現(xiàn)類似問題。追蹤器進程down掉，存儲器進程還在，程序無法連接。

有可能是進程的地址空間超過了系統(tǒng)上限，我碰到的上限大概在3.5GB左右。
你可以用ps來看一下進程占用的地址空間情況。

你可以將線程數(shù)改為200試試程序還會不會掛。如果程序還會down，可以升級到V1.20再進行測試。V1.20中tracker server的幾個計數(shù)器是線程安全的了。以前的版本在高并發(fā)情況下，有可能會因為計數(shù)器溢出導致程序掛掉。

user5173

就是在啟動的時候?qū)�tracker 的配置文件中的max-connection更改為300以上的數(shù)（只更改過400，500，800），然后用啟動命令啟動程序，但是程序啟動不起來，就會報[2009-09-04 12:57:05] ERROR - file: ../common/shared_func.c, line: 1635, create thread failed, startup threads: 301, errno: 12, error info: Cannot allocate memory，這個內(nèi)存不能被分配錯誤；然后更改為256的時候再次使用啟動命令啟動程序不會報錯，又能啟動了。

user5173

星期一我先更新到1.2測試一下，希望有用吧！介意是否可以加入一個守護進程，這樣服務更穩(wěn)定一點。
還有一個問題，為什么是tracker 先down呢？按照使用的網(wǎng)絡帶寬和io瓶頸，storage應該是先down掉才對�。窟@個有點不明白�。�！
至于你說的200用戶，估計不是很現(xiàn)實，我們的需求差不多是300用戶，100并發(fā)。這樣是我們的最低要求了，已經(jīng)無法再小了。

[ 本帖最后由 user5173 于 2009-9-6 18:55 編輯 ]

happy_fish100

最新版本不是V1.2，是V1.20，請不要搞混淆了。
max_connections是配置最大并發(fā)連接數(shù)。

32位系統(tǒng)內(nèi)存空間不能超過4G的問題導致。64位系統(tǒng)上應該不存在這個問題。
可以將線程的棧大小改小一些，這樣支持的線程數(shù)可以大一些。詳情可以參見帖子：
http://linux.chinaunix.net/bbs/thread-1127610-1-2.html
你可以把線程棧設置為2MB，這樣支持的最大線程數(shù)達到512應該沒有問題。