只有27亿参数,性能却高25倍!微软发布Phi-2_每日快讯(日常热点指南)

只有27亿参数,性能却高25倍!微软发布Phi-2


只有27亿参数,性能却高25倍!微软发布Phi-2

  2023-12-17 20:25:25     简体|繁體
http://news.qghjm.com/1019953.html

原文来源:AIGC开放社区

图片来源:由无界 AI生成

12月13日,微软在官方网站正式发布了,27亿参数的大语言模型—Phi-2。

Phi-2是基于微软的Phi-1.5开发而成,可自动生成文本/代码、总结文本、数学推理等功能。

虽然Phi-2的参数很小,性能却优于130亿参数的Llama-2和70亿参数的Mistral,以及谷歌最新发布的Gemini Nano 2。

值得一提的是,Phi-2没有进行过RLHF(人类反馈强化学习)和指令微调只是一个基础模型,但在多个任务评测中,其性能可以媲美或超过25倍参数的模型。

目前,微软已经开源了Phi-1.5和Phi-1,帮助开发者们深度研究和应用小参数模型。

Phi-1.5开源地址:https://huggingface.co/microsoft/phi-1_5‌

Phi-1开源地址:https://huggingface.co/microsoft/phi-1‌

Phi-1.5论文地址:https://arxiv.org/abs/2309.05463‌

目前,大模型界有一个很怪的现象,就是出的模型参数越来越大,几百亿参数只能算刚入门,上千亿的比比皆是,有的模型甚至已经达到上万亿。

参数高的模型并非不好,而是要看应用场景。对于像微软、OpenAI、百度、科大讯飞这样的基础模型服务商来说,参数越高覆盖能力就越广,例如,ChatGPT已经进化到多模态,除了生成文本,还能生成图片听懂声音等。

Phi-2评测数据

但参数高的模型同样也有很多缺点:过拟合,如果训练数据较差会出现能力不升反降的现象;算力成本巨大,用户每一次的提问都像是在“燃烧金钱”;预训练时间长,每一次模型的迭代需要耗费大量训练时间。

调优困难,高参数的模型拥有庞大且难控制的神经元,想进行部分功能调优和控制非常困难,最近变懒的GPT-4便是最好的案例。

所以,微软开发Phi系列模型的主要目的是研究,小参数模型如何在保证功能的前提下,也能与大参数的模型相媲美甚至超越,这对于企业和应用者来说是一个双赢的局面。

Phi-2简单介绍

Phi-2和Phi-1.5一样采用了24层的Transformer架构,每个头的维度为64,并使用了旋转嵌入等技术来提升模型性能。

Phi-2只是一个基础模型,没有进行过人类反馈强化学习和指令微调。但在文本生成、数学推理、代码编程方面丝毫不比大参数的模型差,甚至比他们更好。

训练数据和流程方面,Phi-2使用了1.4T超高质量的“教科书级”数据进行了预训练,并非是网络爬取的杂乱、黑箱数据。微软表示,这也是小参数模型比大参数模型性能高的关键原因之一。

Phi-2 在 96 个 A100 GPU上一共训练了14天。

Phi-2实验数据

微软在MMLU、BBH、PIQA、WinoGrande、ARC easy、Challenge、SIQA和GSM8k等主流测试平台对Phi-2进行了测试。

数据显示,在各种聚合基准上的测试超过了,Mistral -7B和Llama-2-13B。

值得一提的是,在多步推理测试任务中,例如,编码和数学,Phi-2的性能超过了700亿参数的Llama-2。



编辑:web3528btc 来源:加密钱包代币

免责声明:以上文章内容信息均搜集自互联网或用户发布,并不代表本站观点或立场,本站不对其真实合法性负责。如有信息侵犯了您的权益,请联系本站将立即删除。
分享到:

  • 上一篇
    下一篇

  • 今日要闻|实事关注

    每日快讯(日常热点指南)
    手机查看(二维码扫一扫)

    每日快讯网为您提供最新的行业简讯、新闻报道,以及今日热点内容,重大事件等实时资讯,24小时不间断播报,让您获得最新行业信息。
    « 2023年 » « 12月 »
    123
    45678910
    11121314151617
    18192021222324
    25262728293031

    最新资讯

    工商信用卡逾期可以协商只还本金吗?
  • 2025-07-10 23:52:36

     

    [开户代运营]巨量AD,本地推,DOU+户开户现户套户,全行业可跑,欢迎老板咨询
  • 2025-07-10 23:45:31

     

    [开户代运营] 全新抖音引流方案,客户实际反馈转化6-10%,主要做【祛斑祛痘减肥NK】项目引流,
  • 2025-07-10 23:38:25

     

    专注自考/研究生项目流量推广
  • 2025-07-10 23:31:20

     

    人寿的年金险怎么样,值得买吗
  • 2025-07-10 23:24:15

     

    即墨区中医医院专家权威解密三伏天热射病防治全方案
  • 2025-07-10 23:17:09

     

    山东工程职业技术大学“乡”约盛夏实践团:“夕童同晖”暖人心,青春力量助振兴
  • 2025-07-10 23:10:04

     

    字绘烟台!山东一学子用设计解读烟台城市文化
  • 2025-07-10 23:02:59

     

    北集坡街道石灰官庄社区开展防溺水安全宣讲活动,筑牢生命“安全网”
  • 2025-07-10 22:55:53

     

    从手机到钥匙,青岛公交人如何守护市民“小确幸”?这些细节太戳心
  • 2025-07-10 22:48:49

     

    守护“小水花”远离“深水险”——北集坡街道龙泉社区开展暑期防溺水科普知识讲座
  • 2025-07-10 22:41:42

     

    泰安市美术馆周末青少年美育创意系列公教课(第十八期)
  • 2025-07-10 22:34:37

     

    青岛一井盖移位成“马路陷阱” 驾驶员烈日下复位保障市民出行安全
  • 2025-07-10 22:27:32

     

    【7.8全国保险公众宣传】人保财险贵州省分公司积极开展“7.8全国保险公众宣传日”活动
  • 2025-07-10 22:20:26

     

    贵州习水突降暴雨!消防成功营救转移80人
  • 2025-07-10 22:06:15