只有27亿参数,性能却高25倍!微软发布Phi-2_每日快讯(日常热点指南)

只有27亿参数,性能却高25倍!微软发布Phi-2


只有27亿参数,性能却高25倍!微软发布Phi-2

  2023-12-17 20:25:25     简体|繁體
http://news.qghjm.com/1019953.html

原文来源:AIGC开放社区

图片来源:由无界 AI生成

12月13日,微软在官方网站正式发布了,27亿参数的大语言模型—Phi-2。

Phi-2是基于微软的Phi-1.5开发而成,可自动生成文本/代码、总结文本、数学推理等功能。

虽然Phi-2的参数很小,性能却优于130亿参数的Llama-2和70亿参数的Mistral,以及谷歌最新发布的Gemini Nano 2。

值得一提的是,Phi-2没有进行过RLHF(人类反馈强化学习)和指令微调只是一个基础模型,但在多个任务评测中,其性能可以媲美或超过25倍参数的模型。

目前,微软已经开源了Phi-1.5和Phi-1,帮助开发者们深度研究和应用小参数模型。

Phi-1.5开源地址:https://huggingface.co/microsoft/phi-1_5‌

Phi-1开源地址:https://huggingface.co/microsoft/phi-1‌

Phi-1.5论文地址:https://arxiv.org/abs/2309.05463‌

目前,大模型界有一个很怪的现象,就是出的模型参数越来越大,几百亿参数只能算刚入门,上千亿的比比皆是,有的模型甚至已经达到上万亿。

参数高的模型并非不好,而是要看应用场景。对于像微软、OpenAI、百度、科大讯飞这样的基础模型服务商来说,参数越高覆盖能力就越广,例如,ChatGPT已经进化到多模态,除了生成文本,还能生成图片听懂声音等。

Phi-2评测数据

但参数高的模型同样也有很多缺点:过拟合,如果训练数据较差会出现能力不升反降的现象;算力成本巨大,用户每一次的提问都像是在“燃烧金钱”;预训练时间长,每一次模型的迭代需要耗费大量训练时间。

调优困难,高参数的模型拥有庞大且难控制的神经元,想进行部分功能调优和控制非常困难,最近变懒的GPT-4便是最好的案例。

所以,微软开发Phi系列模型的主要目的是研究,小参数模型如何在保证功能的前提下,也能与大参数的模型相媲美甚至超越,这对于企业和应用者来说是一个双赢的局面。

Phi-2简单介绍

Phi-2和Phi-1.5一样采用了24层的Transformer架构,每个头的维度为64,并使用了旋转嵌入等技术来提升模型性能。

Phi-2只是一个基础模型,没有进行过人类反馈强化学习和指令微调。但在文本生成、数学推理、代码编程方面丝毫不比大参数的模型差,甚至比他们更好。

训练数据和流程方面,Phi-2使用了1.4T超高质量的“教科书级”数据进行了预训练,并非是网络爬取的杂乱、黑箱数据。微软表示,这也是小参数模型比大参数模型性能高的关键原因之一。

Phi-2 在 96 个 A100 GPU上一共训练了14天。

Phi-2实验数据

微软在MMLU、BBH、PIQA、WinoGrande、ARC easy、Challenge、SIQA和GSM8k等主流测试平台对Phi-2进行了测试。

数据显示,在各种聚合基准上的测试超过了,Mistral -7B和Llama-2-13B。

值得一提的是,在多步推理测试任务中,例如,编码和数学,Phi-2的性能超过了700亿参数的Llama-2。



编辑:web3528btc 来源:加密钱包代币

免责声明:以上文章内容信息均搜集自互联网或用户发布,并不代表本站观点或立场,本站不对其真实合法性负责。如有信息侵犯了您的权益,请联系本站将立即删除。
分享到:

  • 上一篇
    下一篇

  • 今日要闻|实事关注

    每日快讯(日常热点指南)
    手机查看(二维码扫一扫)

    每日快讯网为您提供最新的行业简讯、新闻报道,以及今日热点内容,重大事件等实时资讯,24小时不间断播报,让您获得最新行业信息。
    « 2023年 » « 12月 »
    123
    45678910
    11121314151617
    18192021222324
    25262728293031

    最新资讯

    胶州市铺集镇举办“青鸟计划”大学生志愿者见面会暨暑假公益托管班培训会
  • 2025-07-10 21:30:49

     

    新泰市中医医院治未病科:冬病夏治,督灸养生正当时
  • 2025-07-10 21:23:43

     

    泰安市美术馆周末青少年美育创意系列公教课(第十八期)
  • 2025-07-10 21:16:39

     

    [开户代运营]优酷,专业代运营,欢迎咨询合作
  • 2025-07-10 21:09:33

     

    [开户代运营]千川 小红书 视频号 百度(baidu) b站高返点开户,开户充值效率高
  • 2025-07-10 21:02:27

     

    [开户代运营]千川,AD,本地推,高政策收量
  • 2025-07-10 20:55:25

     

    [开户代运营]oppo手机厂商流量 快应用投放 推广 开户 代运营,需要来
  • 2025-07-10 20:48:16

     

    [开户代运营]oppo信息流,大健康小护士,减糖书籍切量 需要来
  • 2025-07-10 20:41:12

     

    寻求甲方和渠道推广合作
  • 2025-07-10 20:34:06

     

    曾因美丽无人追,如今扛锄头种大蒜真精彩
  • 2025-07-10 20:27:00

     

    《歌手2025》袭榜歌手已确定,是针对李佳薇吗?陈楚生将以柔克刚
  • 2025-07-10 20:19:55

     

    赵丽颖17年:从农村跑调女孩逆袭成双料视后
  • 2025-07-10 20:12:50

     

    柯淳录制《无限超越班3》后,不仅“一哥”换人,还出现田栩宁
  • 2025-07-10 20:05:44

     

    任重隐婚生娃惊喜曝光,孙骁骁变贤妻良母,甜蜜生活羡煞旁人
  • 2025-07-10 19:58:39

     

    《以法之名》蠢人排行榜,万潮只能第五,柳韵比李人俊更令人反感
  • 2025-07-10 19:51:35