只有27亿参数,性能却高25倍!微软发布Phi-2_每日快讯(日常热点指南)

只有27亿参数,性能却高25倍!微软发布Phi-2


只有27亿参数,性能却高25倍!微软发布Phi-2

  2023-12-17 20:25:25     简体|繁體
http://news.qghjm.com/1019953.html

原文来源:AIGC开放社区

图片来源:由无界 AI生成

12月13日,微软在官方网站正式发布了,27亿参数的大语言模型—Phi-2。

Phi-2是基于微软的Phi-1.5开发而成,可自动生成文本/代码、总结文本、数学推理等功能。

虽然Phi-2的参数很小,性能却优于130亿参数的Llama-2和70亿参数的Mistral,以及谷歌最新发布的Gemini Nano 2。

值得一提的是,Phi-2没有进行过RLHF(人类反馈强化学习)和指令微调只是一个基础模型,但在多个任务评测中,其性能可以媲美或超过25倍参数的模型。

目前,微软已经开源了Phi-1.5和Phi-1,帮助开发者们深度研究和应用小参数模型。

Phi-1.5开源地址:https://huggingface.co/microsoft/phi-1_5‌

Phi-1开源地址:https://huggingface.co/microsoft/phi-1‌

Phi-1.5论文地址:https://arxiv.org/abs/2309.05463‌

目前,大模型界有一个很怪的现象,就是出的模型参数越来越大,几百亿参数只能算刚入门,上千亿的比比皆是,有的模型甚至已经达到上万亿。

参数高的模型并非不好,而是要看应用场景。对于像微软、OpenAI、百度、科大讯飞这样的基础模型服务商来说,参数越高覆盖能力就越广,例如,ChatGPT已经进化到多模态,除了生成文本,还能生成图片听懂声音等。

Phi-2评测数据

但参数高的模型同样也有很多缺点:过拟合,如果训练数据较差会出现能力不升反降的现象;算力成本巨大,用户每一次的提问都像是在“燃烧金钱”;预训练时间长,每一次模型的迭代需要耗费大量训练时间。

调优困难,高参数的模型拥有庞大且难控制的神经元,想进行部分功能调优和控制非常困难,最近变懒的GPT-4便是最好的案例。

所以,微软开发Phi系列模型的主要目的是研究,小参数模型如何在保证功能的前提下,也能与大参数的模型相媲美甚至超越,这对于企业和应用者来说是一个双赢的局面。

Phi-2简单介绍

Phi-2和Phi-1.5一样采用了24层的Transformer架构,每个头的维度为64,并使用了旋转嵌入等技术来提升模型性能。

Phi-2只是一个基础模型,没有进行过人类反馈强化学习和指令微调。但在文本生成、数学推理、代码编程方面丝毫不比大参数的模型差,甚至比他们更好。

训练数据和流程方面,Phi-2使用了1.4T超高质量的“教科书级”数据进行了预训练,并非是网络爬取的杂乱、黑箱数据。微软表示,这也是小参数模型比大参数模型性能高的关键原因之一。

Phi-2 在 96 个 A100 GPU上一共训练了14天。

Phi-2实验数据

微软在MMLU、BBH、PIQA、WinoGrande、ARC easy、Challenge、SIQA和GSM8k等主流测试平台对Phi-2进行了测试。

数据显示,在各种聚合基准上的测试超过了,Mistral -7B和Llama-2-13B。

值得一提的是,在多步推理测试任务中,例如,编码和数学,Phi-2的性能超过了700亿参数的Llama-2。



编辑:web3528btc 来源:加密钱包代币

免责声明:以上文章内容信息均搜集自互联网或用户发布,并不代表本站观点或立场,本站不对其真实合法性负责。如有信息侵犯了您的权益,请联系本站将立即删除。
分享到:

  • 上一篇
    下一篇

  • 今日要闻|实事关注

    每日快讯(日常热点指南)
    手机查看(二维码扫一扫)

    每日快讯网为您提供最新的行业简讯、新闻报道,以及今日热点内容,重大事件等实时资讯,24小时不间断播报,让您获得最新行业信息。
    « 2020年 » « 05月 »
    123
    45678910
    11121314151617
    18192021222324
    25262728293031

    最新资讯

    [代运营托管]各大推广平台户:app下载 数据恢复 母婴 定位 AI 教育 食品 旅游 招聘 等等
  • 2025-07-12 03:52:53

     

    [代运营托管]百度(baidu)企微减肥科普/软文加粉,百度(baidu)个微科普减肥粉,百度(baidu)翡翠鉴定粉,需要的老板可来咨询
  • 2025-07-12 03:45:47

     

    [代运营托管]眼部按摩仪,食疗凉席,按摩脚垫,泡酒瓶,小护士,内裤,三康 小护士 熊胆粉免领养生粉
  • 2025-07-12 03:38:42

     

    [开户代运营]快手股票加粉,网店,维权,婚恋,电工证现户充值就上线!!!
  • 2025-07-12 03:31:37

     

    [开户代运营]朋友圈广告全行业投放 个贷/按摩/房产/汽车/美容等 包设计运营价格美丽
  • 2025-07-12 03:24:31

     

    [开户代运营]千川一级代理商开户1.5-5返点合作欢迎过来咨询开户合作
  • 2025-07-12 03:17:26

     

    [开户代运营] 腾讯k4k6一代 快手一代,个债逾期腾讯可开户加白了量大
  • 2025-07-12 03:10:20

     

    [开户代运营]Ai课,短剧课,小说培训有量,找持续预算
  • 2025-07-12 03:03:15

     

    [开户代运营]房抵,车抵,公积金贷,信贷,企业贷款,全平台开户。成本低,政策好。欢迎合作
  • 2025-07-12 02:56:10

     

    [开户代运营]nk gp芬引流 百度(baidu)巨量 抖音直播间 快手 抖音自热
  • 2025-07-12 02:49:04

     

    [开户代运营]小红书全国新开25,快手智投高点收量
  • 2025-07-12 02:41:59

     

    提供百度,抖音,腾讯,小红书等各行业开户代运营服务业
  • 2025-07-12 02:34:53

     

    城市通项目小程序/公众号广告位合作
  • 2025-07-12 02:27:48

     

    app拉新拉活,淘宝砍价
  • 2025-07-12 02:20:42

     

    app拉新拉活,淘宝砍价
  • 2025-07-12 02:13:37