【今日观点】 大模型应用的可观测性工程:构建LLM系统的监控、追踪与告警体系
当大语言模型从实验项目走向生产系统,它就不再只是一个”调用API拿到文本”的简单组件,而是一个涉及提示词管理、上下文编排、多轮对话状态、工具调用链路、向量检索质量和成本控制的复杂分布式子系统。传统应用的监控手段——C...
汤不热吧当大语言模型从实验项目走向生产系统,它就不再只是一个”调用API拿到文本”的简单组件,而是一个涉及提示词管理、上下文编排、多轮对话状态、工具调用链路、向量检索质量和成本控制的复杂分布式子系统。传统应用的监控手段——C...
重启后容器网站离线,依次检查 Docker 服务、容器状态、restart 策略、数据库健康与数据盘挂载,避免重建丢数据。
云盘扩容后 df 不变,按 lsblk、分区、LVM 与 ext4/XFS 分层定位;提供限定布局的 growpart 和文件系统扩容步骤。
区分磁盘字节写满、inode 耗尽和已删除文件仍被占用,保留故障日志后释放空间,并验证服务和日志轮转恢复。
针对 Droplet 的 Permission denied (publickey),核对客户端实际提交的密钥、用户目录权限,并通过恢复控制台重建授权。
核对 Vultr Firewall Group 是否绑定实例、IPv4/IPv6 与来源规则,再检查系统防火墙和 Docker 端口映射。
遇到 REMOTE HOST IDENTIFICATION HAS CHANGED 时,先核验新系统主机指纹,再按 IP、域名和自定义端口更新 known_hosts。
SSH 正常但网站打不开时,按 DNS、80/443、TLS、HTTP 状态和反向代理上游定位,避免重启掩盖错误。
用同一设备、同一目标和相近时间对比运营商差异,区分 DNS、IPv6、源地址规则与路由问题,避免仅凭 ping 判断封锁。
ping 成功不代表 TCP 端口开放。区分超时与拒绝连接,检查服务监听、来源规则、IPv4/IPv6 和服务器抓包。
在 OVH VPS Rescue 模式识别原系统磁盘,备份 SSH 配置、修复公钥并安全切回本地磁盘启动。