Vantaige

Vantaige 支持主流的大语言模型，如 Llama、GPT、BERT 等，可估算其权重、键值缓存和额外开销的显存需求。

您可以通过输入模型名称和硬件配置（如 GPU 显存容量），Vantaige 将提供详细的显存估算结果，并推荐适合您设备的模型。

Vantaige 基于模型结构和常见优化策略进行估算，结果具有较高参考价值，但实际运行时可能因具体实现或优化方式略有差异。