效率：本地部署模型意味着我们可以在单次 LLM 运行中解决任务（guidance 在程序执行时保持 LLM 状态） ， 速度更快 ， 成本更低 。当任何子步骤涉及调用其他 API 或函数（例如搜索、终端等）时尤其如此 ， 这总是需要对 OpenAI API 进行新调用 。guidance 还通过不让模型生成输出结构标记来加速生成 ， 这有时会产生很大的不同 。总的来说 ， 该测试得出的结论是：MPT 还没有准备好在现实世界中使用 ， 而 Vicuna 对于许多任务来说是 ChatGPT (3.5) 的可行替代品 。目前这些发现仅适用于该测试尝试的任务和输入（或 prompt 类型） ， 该测试只是一个初步探索 ， 而不是正式评估 。
更多结果参见 notebook：https://Github.com/microsoft/guidance/blob/main/notebooks/chatgpt_vs_open_source_on_harder_tasks.ipynb
【羊驼系列大模型和ChatGPT差多少？详细测评后，我沉默了】
推荐阅读
-
郑爽被税务部门查 税务部门回应是否追究郑爽刑责 罚款细则曝光
-
东西■注意！长沙东二环鸭子铺立交桥东西引桥交通管制
-
飞鸟游戏屋|无脑4包2，像极了去年的fpx！，V5给全世界教学：教你怎么制裁tes
-
人民网|人民日报乔永清：新基建为高质量发展“强筋壮骨”
-
-
星星育儿|真拿她没办法”，戚薇的做法很巧妙，“女儿经常玩我的化妆品
-
-
资本家的丑孩子：牛头马脸、不懂演技只会瞪眼，求你们放过观众吧
-
成交|三季度北京商业地产大宗交易成交169亿 环比增长超五成
-
中国新闻网|甘肃学子职业技能比拼 “以赛促学”助现代应用型人才培养
-
娇柔的柠檬|到底求什么，争什么，气什么，愁什么，人一辈子
-
暖宝Peter妈妈|杀死关羽这么好的战绩，为什么没有名留青史？，吕蒙白衣渡江
-
-
中国新闻网|感谢救火英雄 南加华联为警察消防员赠送便当
-
-
微信|微信表情写入判决：你发的每个emoji都可能成为呈堂证供
-
长春、丹东、哈尔滨等方向恢复、增开、重联36趟旅客列车
-
-
小史谈影视|6×6亮相！被称为“进川入藏”利器，这款号称国产“巨无霸”的BJ80
-
儿童水杯能不能放消毒柜里，儿童保温杯可以放消毒柜吗
