职责和要求

岗位职责
1、负责部署与推理优化各AIGC模型，研发高效的AI压缩工具链和推理引擎；
2、负责开发设计大模型加速前沿技术，钻研系统级、模型级、数据级别的AI推理加速方法；
岗位要求
1、硕士学历，计算机/软件/电子/信息/通信/自动化等相关专业；
2、熟练掌握Python/C++/C语言；
3、熟悉神经网络各算子计算方式，有模型格式转换、模型量化、AI 算子开发经验者优先；
4、熟悉主流 AIGC 算法模型，有大模型在GPU服务器并发部署和定制经验者优先；
5、熟悉大模型主流推理框架，能够运用vLLM/HuggingFace/TensorLLM；
6、了解 CUDA 开发流程，了解TensorRT/Triton/Cutlass加速原理；