把模型服务开放到局域网,别漏掉这几道门

本机能访问后,很多人第一反应是把监听地址改成 0.0.0.0。这一步确实能通,但也可能让同网段所有设备直接调用接口。

至少要确认四件事:防火墙只放行需要的网段;接口前有鉴权;反向代理限制请求大小和并发;日志里不要落完整提示词。家用网络还要检查路由器有没有端口映射或自动开放功能。

先在一台无敏感数据的机器上做连通测试,再迁移正式模型,排错会轻松很多。

服务地址最好使用固定主机名和 HTTPS,即使只在内网。客户端多起来以后,直接记 IP 很难迁移,证书和鉴权也容易各自为政。上线后从另一台设备做一次端口扫描,确认除了计划中的入口,没有顺手把管理面板、监控端口或容器接口一起暴露出来。

最小可用的安全边界

我会让模型进程只监听本机,由反向代理承担 HTTPS、登录、请求大小和速率限制。客户端只知道代理地址,不能直接碰推理端口。账号按人或设备区分,方便某台设备丢失时单独吊销,而不是全家或全组共用一个永不过期的 Token。

防火墙规则要从另一台机器验证。先扫描主机开放端口,再尝试未登录、错误 Token、超大请求和并发请求,确认都按预期被拒绝。管理面板和指标端口只对管理机器开放;日志里记录请求时间、账号、模型和状态即可,默认不保存完整对话。

还要准备关闭入口的办法。发现异常流量时,能否一键撤销凭证、限制到单个地址、暂停外部访问,而不需要先研究半天配置。家庭网络虽然不是公网,也存在访客设备、智能家居和被感染主机,基础隔离并不多余。