清华Chat GLM实际应用与布署

最近Chat GLM2-6B与130B已开源,为了布署应用,肝了两天终于得偿所愿。总体说,对于小白来说,布署和配置是要花一些时间的,但理解了其内在安装、布署的原理以后,就越来越简单了。特别是需要有python的基础,从及web网页开发的知识。

这次布署主要是Chat GLM2-6B,还有一个可以值得学习的模型是谷歌的LLama2-6B以及13B,接下来要分两两步走:

1、对模型进行微调,以适应自己的生产环境。

2、新的知识库的扩充、以及确保模型的回答的正确性

由于这个键盘太烂,打字太慢,等新键盘到了以后再做记录吧。AI时代已经来临,是否能分到一杯羹,保持学习,跟上部队,应该是有很大的空间的。