他的回复:
您好,感谢您关于AKG的问题,下述是简要回答。1. 在repo里说AKG支持了TensorCore计算,是同时支持FP16和INT8吗?答:目前AKG支持的TensorCore计算是FP16类型,未来会进一步考虑支持INT8类型。2. repo里提到支持的后端是A/V 100,我理解是支持了Ampere和Volta架构,而如果希望在Turing架构上优化,是否需要专门针对Turing架构写相关的代码去支持,还是说目前的代码也可以用于Turing架构的优化?答:AKG在GPU上的开发是比较general的方式,理论上是支持Turing架构的。但由于我们还没有在Turing的机器上跑过case,考虑到不同架构上硬件特性的不同例如:block/thread 配置,以及share/register memory大小的差异,在实际跑的过程中部分算子会有问题,可能需要对代码增强。这块欢迎大家对不同的GPU架构上修改和尝试。3. repo里给出了独立编译的方案,这是否意味着独立编译出来的akg可以脱离mindspore来单独做算子优化?答:AKG作为算子自动生成工具,有独立的编译方案。可以结合Mindspore一起编译,也可以单独编译进行算子优化。