汤不热吧

2026-01-11andy阅读(36)评论(0)

引言：黑盒模型知识窃取的威胁 随着大型语言模型（LLM）的广泛部署，模型资产的安全性和知识产权保护变得至关重要。模型知识窃取（Model Extraction/Knowledge Stealing）攻击是一种严重的威胁，攻击者旨在通过高频次...

2026-01-11andy阅读(36)评论(0)

在使用 onnx-tf 库将 ONNX 模型导入到 TensorFlow 环境时，个人站长和开发者经常会遇到一个棘手的错误：AttributeError: module object has no attribute ‘ceil...

2026-01-11andy阅读(36)评论(0)

简介：为什么LLM应用需要加密和校验？ 随着大语言模型（LLM）被广泛应用于处理敏感的用户查询和生成专属内容，数据安全成为了部署中的首要挑战。用户的Prompt可能包含个人身份信息（PII）、商业机密或专有数据。在这些数据通过网络传输（客户...

2026-01-10andy阅读(36)评论(0)

许多公有云或VPS服务商默认只提供Linux发行版模板，或限制了Windows系统的安装（通常是因为版权或KVM/Xen配置限制）。然而，对于有特殊需求的站长来说，通过强大的Linux dd 命令进行磁盘映像写入（DD安装）是绕过这些限制，...

2026-01-10andy阅读(38)评论(0)

对于个人站长和开发者来说，在VPS或云虚拟机上部署机器学习模型服务是一个常见的需求。虽然PyTorch在训练上灵活强大，但TensorFlow Serving（TFS）在生产环境中的稳定性和批处理能力往往更胜一筹。本文将指导您如何通过ONN...

2026-01-10andy阅读(31)评论(0)

如何快速开始在Java中使用DJL（Deep Java Library）进行深度学习 作为个人站长或技术爱好者，如果你希望在你的公有云虚拟机或VPS上利用Java生态系统进行深度学习模型的部署或开发，Deep Java Library (D...

2026-01-10andy阅读(34)评论(0)

前言 随着深度学习近些年的发展，在cv领域图像搜索的表现也越来越好，拍照购物的功能渐渐成为了主流电商的标配。其整个过程牵扯较多技术方向，本文将从一个较为全面的角度为大家介绍，作为后端开发我会略微偏向描述工程方面的问题，同时为便于理解和串联上...

2026-01-10andy阅读(34)评论(0)

随着大语言模型（LLM）在生产环境中的广泛应用，保护这些高价值、高消耗的API端点成为了AI基础设施团队的首要任务。一个未受保护的LLM API不仅可能导致高昂的运行成本，更面临数据泄露和恶意Prompt Injection的风险。 本篇文...

2026-01-10andy阅读(35)评论(0)

导语：LLM SecOps的挑战与解决方案 随着大型语言模型（LLM）被广泛集成到生产环境中，针对它们的攻击面也急剧增加，例如Prompt Injection（提示注入）、数据泄露和不安全的输出生成等。传统的DevSecOps工具链在面对L...

2026-01-09andy阅读(57)评论(0)

概述：LLM API安全面临的挑战 大型语言模型（LLM）API的开放带来了极大的便利性，但也引入了新的安全挑战。恶意用户可能会尝试通过以下方式滥用服务： 资源耗尽攻击 (DDoS/Draining): 快速消耗昂贵的计算资源（Tokens...