andy的文章

2026-09-25andy阅读(77)

当大语言模型的参数量从 7B 一路攀升到 70B 甚至 405B 时，单张 GPU 的显存早已无法容纳完整模型。以 Llama-3-70B 为例，仅 FP16 权重就需要约 140GB 显存，远超单张 A100-80G 的容量上限。此时，将...

2026-09-25andy阅读(169)

DeepSeek（深度求索）作为国产大模型的代表之一，凭借 DeepSeek-V3 和 DeepSeek-R1 两款开源模型在推理能力上达到国际一线水平，且 API 调用价格远低于 GPT-4o 和 Claude 3.5 Sonnet。对于...

2026-09-25andy阅读(78)

Google Cloud Platform（GCP）作为全球三大云服务商之一，凭借其强大的计算引擎、BigQuery数据分析能力和慷慨的免费额度（Always Free层级），吸引了大量开发者和企业用户。然而，许多用户在注册GCP账号后不久...

2026-09-25andy阅读(73)

在大模型推理框架的赛道上，vLLM 和 SGLang 风头正劲，TensorRT-LLM 凭借 NVIDIA 官方加持占据高端市场，但 HuggingFace 推出的 TGI（Text Generation Inference）依然是很多团...

2026-09-25andy阅读(80)评论(0)

📅 今天是2026年9月25日，以下是今日技术热点深度总结，涵盖GitHub最新热门开源项目及AI前沿研究成果。 🔥 GitHub 热门开源项目详解 以下为近7天内新建或迅速爆火的开源项目（数据来源：GitHub Trending）： 1....

2026-09-24andy阅读(83)评论(0)

📅 今天是2026年9月24日，以下是今日技术热点深度总结，涵盖GitHub最新热门开源项目及AI前沿研究成果。 🔥 GitHub 热门开源项目详解 以下为近7天内新建或迅速爆火的开源项目（数据来源：GitHub Trending）： 1....

2026-09-23andy阅读(100)评论(0)

📅 今天是2026年9月23日，以下是今日技术热点深度总结，涵盖GitHub最新热门开源项目及AI前沿研究成果。 🔥 GitHub 热门开源项目详解 以下为近7天内新建或迅速爆火的开源项目（数据来源：GitHub Trending）： 1....

2026-09-22andy阅读(105)评论(0)

📅 今天是2026年9月22日，以下是今日技术热点深度总结，涵盖GitHub最新热门开源项目及AI前沿研究成果。 🔥 GitHub 热门开源项目详解 以下为近7天内新建或迅速爆火的开源项目（数据来源：GitHub Trending）： 1....

2026-09-21andy阅读(104)评论(0)

📅 今天是2026年9月21日，以下是今日技术热点深度总结，涵盖GitHub最新热门开源项目及AI前沿研究成果。 🔥 GitHub 热门开源项目详解 以下为近7天内新建或迅速爆火的开源项目（数据来源：GitHub Trending）： 1....

2026-09-20andy阅读(109)评论(0)

📅 今天是2026年9月20日，以下是今日技术热点深度总结，涵盖GitHub最新热门开源项目及AI前沿研究成果。 🔥 GitHub 热门开源项目详解 以下为近7天内新建或迅速爆火的开源项目（数据来源：GitHub Trending）： 1....