开发 GPU Fits —— 我的显卡能跑这个 LLM 吗？
我一直在问自己同一个问题：我的显卡到底能不能跑这个模型？ 不是理论上，而是实际上。我有一张 RTX 4090，想跑 Llama 3.3 70B。需要再买一张卡吗？该妥协用 Q4 量化吗？把上下文窗口拉到 32K 还能装得下吗？ 用搜索引擎找到的不是答案互相矛盾的 Reddit 帖子，就是只能告诉你一...
标签：Web 开发
共 2 篇文章
开发 NZ Pathway —— 我为什么做了一个移民工具网站
我自己正在走新西兰技术移民类别（Skilled Migrant Category，SMC）的流程。说实话……太折腾了。就在我一边翻 INZ 的 PDF 文件、一边第五次给朋友解释同一套 6 分制规则的时候，我突然意识到一个问题：信息是存在的，但都被锁死了。 在 Google 上搜”new zeala...