HyMT2Sharp 2.0:纯 C# 的混元翻译,现在能跑在显卡上了 - .NET骚操作

Wait 5 sec.

【摘要】一个月前我发布了 HyMT2Sharp 1.0,一个纯 C# 写的 腾讯混元翻译模型 Hy-MT2 推理库。当时我自己在文章里泼了两盆冷水:只支持 x86 CPU(AVX2 / AVX-VNNI),只测过三种量化。 2.0 主要就是把这两盆冷水收回来: 加了 Vulkan 和 Metal 两个 GP 阅读全文