看了很多人的评测，其中不乏具体的学术评分表和横向对比记录，显得非常的科学和严谨，感谢做这些评测的人，为了实际体验效果，我用huggingface提供的试玩环境做一个测试，附上内容，供大家参考。
Explore Llamav2 With TGI - a Hugging Face Space by ysharma
使用的是“Llama2 70B Chatbot”。
1）要求其用中文回答，我就事论事的询问“Huggingface是什么网站”？
回答的速度还是挺快的，但上图中似乎只回答了一部分就结束了，我等了好一会儿也没有继续输出。
希望对话能够继续，所以我输入“继续”，看其是否能够接着没有完成的输出而续写。
但这个LLaMA2的chatbot似乎又重新生成了一个答案，内容看起来更丰富了一些，但也是戛然而止。
我还不愿意放弃这个知名的开源大模型，看能否挽救一下。结果回复内容如下：
上图中的回答似乎忘却了上一次的对话，重新生成了一个回答，但看起来也是被截断输出了。
综上所述：
1、输入理解：对中文的理解能力还是可以的，回答的内容基本上跟输入是相关的，；
2、输出：在中文问询的情况下，回答的效果不尽如人意，尤其是上下文窗口太小，无法完整的输出中文内容；
后续，需要做一些扩展和调优，使其能够完成中文内容的完整输出和持续的根据一个上下文输出。
-----有谁能帮我看看我哪里是可以改进的吗？望指教
编辑于 2023-07-21 19:40・IP 属地上海