fix(sglang): clamp deterministic sampler endpoints

[DreamEnding]

Summary

• Related to 【Task 40】P3O / Adaptive Policy Optimization 论文复现进展 #233；本修复从已关闭的组合 PR feat(p3o): add ESS-adaptive policy optimization #234 拆分，不单独关闭该 issue。
• 解决了什么问题：SGLang 0.5.12.post1 的确定性采样会将哈希值 0xffffffff 映射为精确的 1.0，在 Gumbel 变换中产生 +inf，使某个 token 可能无视模型概率而赢得 argmax。
• 为什么采用该方案：回移上游的单个 uint32 bucket 端点保护，仅在受影响版本的 scheduler 子进程中安装；不改变新版本 SGLang，也不把与 P3O 无关的运行时修复混入 P3O 功能 PR。

Changes

• 文件 / 核心函数 / 行为变化：
  • 新增 relax/backends/sglang/deterministic_sampler_patch.py，校验安装版本与 multinomial_with_seed 签名后，以安全 Gumbel 变换替换受影响版本的确定性采样函数；
  • relax/backends/sglang/sglang_engine.py 增加顶层、可 pickle 的 _launch_server_with_patches 与 _patched_run_scheduler_process，确保端点修复先于可选 routing-replay 补丁执行；
  • 新增端点数值、版本门控、签名校验、幂等安装和 scheduler 包装器测试。
• CLI、配置或兼容性变化：
  • 无新增 CLI 或配置项；
  • 仅匹配 SGLang 0.5.12.post1，其余版本保持原行为；
  • 与 P3O 无依赖关系，P3O 功能请参阅 【Task 40】Feat(p3o): add ESS-adaptive policy optimization #272。

Verification

• 环境、硬件、commit：Windows 本地 CPU 环境；HEAD 218115e65ca2680155429ed5194983bdfc2c37f9。

• 可复制命令：

  python -m pytest -q \
    tests/backends/sglang/test_deterministic_sampler_patch.py
  
  git diff --check upstream/main...HEAD

• 单元/集成/端到端测试结果：端点补丁单元测试 6 passed；git diff --check 通过。真实 SGLang scheduler 进程集成测试未在本地运行。

• 性能 before/after（若适用）：不适用；该变更修复极低频端点错误，不以吞吐或延迟优化为目标。

• 日志、曲线、profile 链接：无；待 Linux + SGLang 0.5.12.post1 运行时验证后补充 scheduler 日志。

Risk & Rollback

• 已知限制：tests/backends/sglang/test_router_registration.py 在当前 Windows 环境收集失败，因为上游 relax.utils.s3_model_loader 依赖 Linux 专用 fcntl；pre-commit run --all-files 会被既有 symlink/patch 文件的 end-of-file-fixer 改动中断，相关无关改动已还原。
• 风险：补丁依赖 0.5.12.post1 的 sampler 函数签名；若该版本运行时存在不同签名，将显式报错而不是静默替换。
• 关闭开关或回退方式：升级至非受影响 SGLang 版本即可自动跳过补丁；紧急回退可 revert 本 PR 的单个提交 218115e。

Checklist

• Diff 仅包含本任务必要改动
• 新增/相关测试全部通过
• 文档、脚本和默认值已更新（无公开配置变化；不适用项已确认）
• 不含密钥、数据集、checkpoint 或机器隐私信息
• 已逐条回复 review comment

[Copilot]

Pull request overview

This PR backports SGLang 0.5.12.post1’s deterministic-sampler uint32 endpoint guard into Relax’s SGLang runtime, preventing hash==0xffffffff → u==1.0 → Gumbel(+inf) from letting a token incorrectly win argmax regardless of model probability.

Changes:

• Add a version-gated, idempotent patch that replaces sglang.srt.layers.sampler.multinomial_with_seed with a safe Gumbel transform for the affected SGLang version.
• Route SGLang scheduler subprocess startup through a top-level, pickle-safe wrapper that applies the endpoint patch before optional routing-replay patching.
• Add focused unit tests covering endpoint numerics, version gating/signature drift, idempotency, and scheduler wrapper ordering/picklability.

Reviewed changes

Copilot reviewed 4 out of 4 changed files in this pull request and generated 2 comments.

File	Description
relax/backends/sglang/deterministic_sampler_patch.py	Introduces the version-gated backport patch and safe deterministic multinomial implementation.
relax/backends/sglang/sglang_engine.py	Ensures scheduler subprocess runs via a top-level wrapper that applies runtime patches in the intended order.
tests/backends/sglang/test_deterministic_sampler_patch.py	Adds unit tests for numerics, version gating, signature validation, and idempotent install behavior.
tests/backends/sglang/test_router_registration.py	Adds tests verifying wrapper ordering (endpoint patch before routing patch) and picklability of the scheduler wrapper.

---

💡 Add a code-review agent skill or configure MCP servers for context-aware, tailored reviews. Learn more in the docs.