效率：本地部署模型意味着我们可以在单次 LLM 运行中解决任务（guidance 在程序执行时保持 LLM 状态） ， 速度更快 ， 成本更低 。当任何子步骤涉及调用其他 API 或函数（例如搜索、终端等）时尤其如此 ， 这总是需要对 OpenAI API 进行新调用 。guidance 还通过不让模型生成输出结构标记来加速生成 ， 这有时会产生很大的不同 。总的来说 ， 该测试得出的结论是：MPT 还没有准备好在现实世界中使用 ， 而 Vicuna 对于许多任务来说是 ChatGPT (3.5) 的可行替代品 。目前这些发现仅适用于该测试尝试的任务和输入（或 prompt 类型） ， 该测试只是一个初步探索 ， 而不是正式评估 。
更多结果参见 notebook：https://Github.com/microsoft/guidance/blob/main/notebooks/chatgpt_vs_open_source_on_harder_tasks.ipynb
【羊驼系列大模型和ChatGPT差多少？详细测评后，我沉默了】
推荐阅读
-
-
机大婶学生党618购机攻略，为什么中端手机大家都选它？
-
-
凌筏谈时尚|赵丽颖发饰都能玩出多种造型，更加温柔迷人，时尚品味提高
-
-
龙哩科技|懂手机的人最在意这一点，2020年换机指南
-
电视剧|童谣新剧大火，剧中穿搭受关注，全职太太也能兼顾优雅与时尚
-
-
游戏智库|首次公示游戏审批撤销信息：《雷霆舰队》《最强王者》被撤，?国家新闻出版署
-
杨臣刚■投资5亿，天价卖出9亿的剧王《巴清传》，从范冰冰到马苏全凉了
-
「黄晓明」黄晓明录《向往》性情大变，一进门就搬砖劈柴！baby的评论沦陷了
-
『3DM游戏网』《星露谷物语》发行商新作《巫师布鲁克》新截图
-
-
新华网■利比亚“国民军”称对民族团结政府军队造成重大伤亡
-
#国际在线#22天没见面，在方舱医院执勤的儿子遇到刚确诊的父亲
-
-
-
你身边有不打牌，不吸烟，不喝酒，也不嫖的男性吗他们现在过得怎么样
-
水果怎么吃|你只有千分之三的几率碰到一只蓝眼白猫，三分之二概率它生成失聪
-
青年|王者荣耀英雄们的特殊爱好，镜爱单挑，程咬金有着少女心？
