效率:本地部署模型意味着我们可以在单次 LLM 运行中解决任务(guidance 在程序执行时保持 LLM 状态) , 速度更快 , 成本更低 。当任何子步骤涉及调用其他 API 或函数(例如搜索、终端等)时尤其如此 , 这总是需要对 OpenAI API 进行新调用 。guidance 还通过不让模型生成输出结构标记来加速生成 , 这有时会产生很大的不同 。总的来说 , 该测试得出的结论是:MPT 还没有准备好在现实世界中使用 , 而 Vicuna 对于许多任务来说是 ChatGPT (3.5) 的可行替代品 。目前这些发现仅适用于该测试尝试的任务和输入(或 prompt 类型) , 该测试只是一个初步探索 , 而不是正式评估 。
更多结果参见 notebook:https://Github.com/microsoft/guidance/blob/main/notebooks/chatgpt_vs_open_source_on_harder_tasks.ipynb
【羊驼系列大模型和ChatGPT差多少?详细测评后,我沉默了】
推荐阅读
-
斜风细娱■雅生活服务如何实现逆周期成长?,财报|股价大幅跑赢恒指地产
-
西游记|86版《西游记》红孩儿演员如今已是中科院博士 网友热议
-
-
刘向|惊险!淄博街头,小轿车溜车压上老人,男子飞奔截停车辆(视频)
-
青年|王者: 新赛季异军突起的辅助, 不是盾山张飞, 而是这个冷门战士
-
豪门|香港豪门太子爷下聘礼,与赌王千金何超盈过大礼有的一拼啊!
-
『挖贝网』自身业务增长和新并购子公司所致,浙数文化2019年净利5.08亿增长6.28%
-
消费|【财富雅谈】科技、消费、医药三大行业基金 为什么要有不同的投资策略?
-
『有轨电车』成都地铁车站、有轨电车列车全面上线\"健康码\"
-
跳跳糖哪里跑|目前热播剧“热度”大洗牌:《摩天大楼》空降第2,榜首长期霸屏
-
污染环境修复后可从宽处理是“花钱买刑”?最高检回应
-
女租客称洗澡时遭合租男破门而入|女租客称洗澡时遭合租男破门而入 警方已介入调查
-
小八卦,邓伦,袁姗姗,赵丽颖,钟汉良,王一博,杨幂,关晓彤
-
『』装修中不要犯这些错事,尤其是厨房,只有入住才知多后悔
-
-
冬菇闲聊娱乐|刚起飞就被实况直播,邻国:毫无秘密可言,印度出动大批战机
-
拜仁慕尼黑|5-0!11-1!拜仁欧冠底蕴完爆法甲豪门,15.6亿比拼,CCTV5直播
-
淡蓝色的记忆|几年后,如果张无忌第四次闯金刚伏魔圈,孤身一人能闯阵成功吗?
-
-