TLCP国密协议与标准TLS混合部署故障完整处理手册
一、标准化分层排查流程（通用定位步骤，所有故障优先执行）
步骤1：区分协议流量，定位是TLCP故障、TLS故障还是中间设备拦截
1. 抓包识别协议版本（Wireshark）
ClientHello Version=0x0101 → TLCP国密流量
Version=0x0303 → TLS1.2；0x0304 → TLS1.3
出现TCP RST、握手包丢失、ServerHello无响应：中间设备拦截
2. 分协议独立连通性测试（核心工具命令）
bash
1. 标准TLS链路测试（原生OpenSSL）
openssl s_client -connect domain:443 -tls1_3 -servername domain -showcerts
2. TLCP国密链路专用测试（GmSSL/BabaSSL）
gmssl s_client -connect domain:443 -gmssl -servername domain -showcerts
仅`openssl`失败、`gmssl`正常：TLS证书/套件/协议配置错误
仅`gmssl`失败、`openssl`正常：TLCP双证书、国密套件、底层SSL库异常
两者均失败：防火墙、SLB/WAF四层阻断、端口未放行
3. 旁路验证：四层透传测试
关闭负载均衡/防火墙SSL卸载、DPI深度检测，四层TCP透传443端口；握手恢复=安全设备不兼容TLCP。
步骤2：查看服务端详细握手日志（Tengine/Nginx+BabaSSL）
nginx
nginx.conf 开启国密调试日志
error_log /var/log/nginx/gmssl_debug.log debug;
日志关键字匹配：
`unsupported protocol version`：协议版本不识别
`no shared cipher`：无通用加密套件
`unknown certificate extension`：TLCP双证书扩展解析失败
`verify failed`：证书签名/信任链校验失败
步骤3：证书体系分层校验（混合部署70%故障源于证书）
1. TLS单证书校验：
bash
openssl verify -CAfile rsa_root.crt rsa_fullchain.crt
2. TLCP双证书分别校验（签名+加密两套独立证书）：
bash
校验签名证书
gmssl verify -CAfile sm2_root.crt sign_fullchain.crt
校验加密证书
gmssl verify -CAfile sm2_root.crt enc_fullchain.crt
核对公私钥配对
gmssl x509 -in sign.crt -pubkey | gmssl md5
gmssl pkey -in sign.key -pubout | gmssl md5
步骤4：中间件/网络设备分层隔离排查
1. 负载均衡F5/华三/深信服：关闭SSL卸载、关闭TLS深度检测；
2. WAF/IPS：对国密业务IP放通TLCP报文、豁免SSL解密检测；
3. 防火墙：放行443完整双向TCP流量，不分片拦截握手大包；
4. CDN：静态资源走标准TLS CDN，API接口源站自建TLCP网关。
步骤5：客户端侧环境校验
1. 通用浏览器（Chrome/Edge）：仅支持TLS，无法发起TLCP连接属于正常现象；
2. 国产国密客户端/Java/Bouncy Castle：确认加载国密Provider、启用TLCPv1.1；
3. 系统时间同步：客户端/服务器时差＞5分钟，证书校验直接失败。
二、分大类故障现象、根因、标准化解决方案
第一类：协议版本不兼容握手直接断开（最高频）
故障现象
1. 标准浏览器访问报`ERR_SSL_VERSION_OR_CIPHER_MISMATCH`；
2. gmssl客户端连接：`unsupported protocol version 0x0101`；
3. openssl客户端连接：无ServerHello，直接TCP重置。
根因
1. Nginx未替换BabaSSL/GmSSL原生OpenSSL，无TLCP协议栈；
2. `ssl_protocols`配置仅写TLSv1.2 TLSv1.3，缺失`TLCPv1.1`；
3. 同端口分流逻辑失效，服务端无法区分0x0101与0x03xx版本字段；
4. 老旧硬件网关只解析TLS版本号，丢弃TLCP报文。
处理方案
1. 底层库替换：编译Tengine/BabaSSL，内置TLCP协议解析模块；
2. 补全协议配置：
nginx
ssl_protocols TLSv1.2 TLSv1.3 TLCPv1.1;
套件顺序：国密优先，防止降级攻击
ssl_ciphers ECDHE-SM2-SM4-GCM-SM3:ECDHE-RSA-AES128-GCM-SHA256;
3. 硬件网关处理：四层TCP透传443端口，关闭七层SSL解析；
4. 端口隔离备选：443=TLS，4443=TLCP，防火墙分流。
第二类：无共享加密套件 no shared cipher
故障现象
握手日志打印`no shared cipher`，ServerHello直接返回Fatal告警断开。
根因
1. TLS套件与TLCP国密套件完全隔离，配置只写单一体系套件；
2. 客户端仅携带国际RSA/AES套件，服务端仅配置SM国密套件；
3. 国密客户端无RSA套件，无法协商TLS链路；
4. 底层BabaSSL编译未开启SM2/SM3/SM4算法支持。
处理方案
1. 套件同时配置国密+国际两套，国密套件前置；
2. 客户端双协议适配：国密App同时加载SM与RSA套件；
3. 重新编译BabaSSL，开启`enable-gmssl`国密算法开关；
4. 禁用弱套件，仅保留ECDHE临时密钥交换套件。
第三类：TLCP双证书解析失败（混合部署特有硬故障）
故障现象
1. 标准TLS栈（OpenSSL/F5）握手截断，收到第二套加密证书时报`unknown extension encryptingCertificate`；
2. TLCP客户端握手失败：缺失加密证书，密钥协商中断；
3. Nginx未配置`gmssl_enc_cert`，仅下发签名单证书。
根因
1. 混合部署仅配置TLS单证书，未配置TLCP专属加密、签名双证书；
2. 负载均衡七层SSL卸载模块仅支持单证书，无法解析TLCP双证书扩展；
3. 双证书DN信息不一致、域名SAN不匹配，CA校验不通过。
处理方案
1. Nginx完整双证书配置模板：
nginx
TLS国际单证书
ssl_certificate cert/rsa_fullchain.crt;
ssl_certificate_key cert/rsa.key;
TLCP国密双证书（缺一不可）
gmssl_sign_cert cert/sm2_sign_full.crt;
gmssl_sign_key cert/sm2_sign.key;
gmssl_enc_cert cert/sm2_enc_full.crt;
gmssl_enc_key cert/sm2_enc.key;
2. 七层负载均衡兼容方案：关闭SSL卸载，四层透传TLCP流量；
3. 国密证书规范：签名/加密证书C/ST/L/O/CN/SAN完全一致，仅KeyUsage区分；
4. 校验证书扩展：必须包含国密OID `1.2.156.10197.1.301`。
第四类：证书信任链互不识别（双向认证/客户端访问告警）
故障现象
1. 通用浏览器：`ERR_CERT_AUTHORITY_INVALID`，无法识别SM2根证书；
2. 国密客户端访问TLS站点：拒绝RSA根证书签发的证书；
3. 双向认证场景，客户端证书校验失败`unknown_ca`。
根因
1. 信任库隔离：系统内置国际RSA根，无国密CA根证书；国密SDK仅加载SM根，不信任国际CA；
2. 证书链断裂：缺失中间国密二级CA证书；
3. 混用证书链：RSA根签发SM2业务证书（密评不合规+校验失败）。
处理方案
1. 服务端同时加载两套完整信任链：
TLS链路：RSA国际根+中间证书
TLCP链路：SM2国密根+二级中间证书
2. 客户端分场景导入对应根证书：
内网国密客户端：导入国密CA根；
外网浏览器：无需导入，仅走标准TLS链路；
3. 规范证书签发：TLCP链路整条证书链必须全部SM2算法。
第五类：中间安全设备拦截TLCP流量（生产环境高频隐蔽故障）
故障现象
1. 后端网关单独测试TLCP正常，经过SLB/WAF后握手超时、TCP RST；
2. 抓包ClientHello发出，无ServerHello响应；
3. WAF日志提示“未知SSL扩展”“异常加密报文”拦截。
根因
1. F5、深信服、H3C老旧设备SSL解析模块仅实现标准TLS，无TLCP解析逻辑；
2. DPI深度包检测识别0x0101协议指纹，判定异常流量拦截；
3. SSL解密中间人功能尝试解析TLCP，解析失败直接断开连接；
4. 防火墙MTU分片丢弃：TLCP双证书握手包偏大，DF标记不分片被丢弃。
处理方案
1. 四层透传方案（最优）：对国密业务IP关闭七层SSL卸载、DPI、SSL解密；
2. WAF白名单：添加业务源站IP至TLCP放行白名单，豁免SSL深度检测；
3. 网络层优化：防火墙配置TCP MSS=1400，避免握手包分片丢弃；
4. 硬件升级：更换支持NTLS/TLCP新版负载均衡。
第六类：客户端SDK/开发框架兼容故障
故障现象
1. Java原生JSSE、Python requests、原生curl无法发起TLCP连接；
2. 集成Bouncy Castle后，TLCP握手报协议不支持；
3. App安卓/iOS原生网络库无法协商国密TLCP。
根因
1. 标准网络栈无TLCP协议实现，仅支持RFC标准TLS；
2. Bouncy Castle未手动注册国密Provider，未启用TLCPv1.1；
3. 客户端未配置双协议降级逻辑，仅发送TLCP ClientHello。
处理方案
1. Java修复：加载Tongsuo/BouncyCastle国密Provider，启用TLCP协议：
java
Security.addProvider(new BouncyCastleProvider());
SSLParameters params = sslEngine.getSSLParameters();
params.setProtocols(new String[]{"TLCPv1.1","TLSv1.2","TLSv1.3"});
2. Python：替换gmssl-python替代标准ssl库；
3. App改造：封装OkHttp/AFNetworking国密版，优先TLCP，失败自动降级TLS；
4. 通用浏览器访问限制：告知外网用户仅支持HTTPS(TLS)，内网专用客户端使用TLCP。
第七类：降级攻击安全故障（混合部署合规重大隐患）
故障现象
密评检测发现大量客户端强制协商TLS1.2弱链路，绕过国密算法管控。
根因
1. 套件配置RSA套件在前，客户端优先协商标准TLS；
2. 无访问控制策略，外部不可信用户可强制降级非国密通道；
3. 未区分内外网访问权限，外网、内网共用同一443端口。
处理方案
1. 配置优先级：国密SM套件写在套件列表最前端；
2. 访问分层管控：
内网可信IP：允许TLCP/TLS；
外网访客：仅开放TLS，禁用TLCP入口；
3. 日志审计：区分记录TLCP/TLS连接流量，每日统计国密协商占比；
4. 高安全关基系统：端口隔离，4443(TLCP)仅对内网IP放行。
第八类：TLCP无PFS前向安全衍生故障
故障现象
密评漏洞扫描提示TLCP静态SM2密钥交换无临时ECDHE，存在流量解密风险。
根因
TLCPv1.1原生静态密钥交换，无内置前向安全；混合TLS1.3（强制ECDHE）形成安全能力不一致。
处理方案
1. 强制启用ECDHE-SM2国密临时密钥交换套件，禁用静态SM2套件；
2. 长期演进：新业务采用RFC8998（TLS1.3内嵌SM算法）替代独立TLCP；
3. 短期补偿：缩短会话超时时间（30分钟），定期轮换服务端SM2加密私钥。
三、应急故障快速恢复操作（生产故障止损）
1. 端口隔离快速分流
临时修改防火墙规则，国密流量切至4443独立端口，规避同端口解析冲突；
2. 四层直通临时方案
关闭SLB/WAF所有七层SSL处理，TCP透传后端网关，绕过不兼容硬件；
3. 临时关闭国密优先
故障抢修时临时前置TLS套件，保障外网业务可用，事后再修复TLCP配置；
4. 证书快速校验替换
使用gmssl批量校验双证书有效期、密钥配对，替换过期/不匹配证书。
四、故障事后复盘与长效规避规范
1. 上线前双协议全量测试：分别使用gmssl、openssl、主流浏览器三轮连通性验证；
2. 硬件准入规范：负载均衡/WAF必须支持TLCP四层透传，老旧设备禁止承载国密业务；
3. 配置标准化模板：统一国密+国际双证书、双协议、双套件Nginx配置；
4. 监控告警：监控TLCP握手失败率、证书过期、国密协商占比；
5. 密评合规基线：内网核心业务优先TLCP，外网仅开放TLS，分层访问隔离。
五、故障排查速查命令汇总
bash
1. 分协议连通测试
openssl s_client -connect domain:443 -tls1_3
gmssl s_client -connect domain:443 -gmssl
2. 证书链校验
gmssl verify -CAfile sm2_root.crt sign.crt
openssl verify -CAfile rsa_root.crt rsa.crt
3. 公私钥配对校验
gmssl x509 -in sign.crt -pubkey | gmssl md5
gmssl pkey -in sign.key -pubout | gmssl md5
4. 查看服务端支持协议与套件
gmssl s_client -connect domain:443 -gmssl -text
openssl s_client -connect domain:443 -tls1_2 -text
5. 抓包过滤TLCP流量
tshark -i any -T fields -e tcp.stream -e ssl.handshake.version -Y "ssl.handshake.version == 0x0101"
