江苏龙网

  1. 主页 > 生活百科 > >

羊驼系列大模型和ChatGPT差多少？详细测评后，我沉默了( 五 )

大模型

  • 效率：本地部署模型意味着我们可以在单次 LLM 运行中解决任务（guidance 在程序执行时保持 LLM 状态） ， 速度更快 ， 成本更低 。当任何子步骤涉及调用其他 API 或函数（例如搜索、终端等）时尤其如此 ， 这总是需要对 OpenAI API 进行新调用 。guidance 还通过不让模型生成输出结构标记来加速生成 ， 这有时会产生很大的不同 。
    • 总的来说 ， 该测试得出的结论是：MPT 还没有准备好在现实世界中使用 ， 而 Vicuna 对于许多任务来说是 ChatGPT (3.5) 的可行替代品 。目前这些发现仅适用于该测试尝试的任务和输入（或 prompt 类型） ， 该测试只是一个初步探索 ， 而不是正式评估 。
    更多结果参见 notebook：https://Github.com/microsoft/guidance/blob/main/notebooks/chatgpt_vs_open_source_on_harder_tasks.ipynb

    【羊驼系列大模型和ChatGPT差多少？详细测评后，我沉默了】


    推荐阅读


    上一篇：你管这破玩意叫缓存穿透？还是缓存击穿？

    下一篇：CSS布局中为什么会出现浮动？怎么清除浮动？