फ़्लैशमला
हॉपर जीपीयू पर तेजी से एलएलएम अनुमान
विशेष रुप से प्रदर्शित
5 वोट
विवरण
FlashMla, DeepSeek से, हॉपर GPU के लिए एक कुशल MLA डिकोडिंग कर्नेल है, जो चर-लंबाई अनुक्रमों के लिए अनुकूलित है।3000 जीबी/एस मेमोरी बैंडविड्थ और 580 टीएफएलओपी तक प्राप्त करता है।