轻薄本也能运行大模型!英特尔支持生成式AI
时间:2023-08-19 12:12:17来源:PChome


(相关资料图)

以第12代、第13代英特尔酷睿处理器和英特尔锐炫A系列显卡为代表的英特尔多款客户端芯片均能提供强劲性能,以满足生成式AI(AIGC)对于高算力的需求,在此基础上,英特尔还通过软件生态的构建和模型优化,进一步推动新兴的生成式AI场景在个人电脑的落地,广泛覆盖轻薄本、全能本、游戏本等。目前,英特尔正与PC产业众多合作伙伴通力合作,致力于让广大用户在日常生活和工作中,通过AI的辅助来提高效率,进而带来给革新性的PC体验。

英特尔积极拥抱AI社区,不久前宣布以Premier会员的身份加入PyTorch基金会。基于OpenVINO PyTorch后端的方案,通过Pytorch API让社区开源模型能够很好地运行在英特尔的客户端处理器、集成显卡、独立显卡和专用AI引擎上。以图形视觉领域为例, Stable Diffusion的实现Automatic1111 WebUI,已经能通过上述方式,在英特尔客户端平台的CPU和GPU(包括集成显卡和独立显卡)上运行FP16精度的模型,用户可以在文字生成图片、图片生成图片以及局部修复等功能上获得良好的使用体验。

不仅如此,英特尔通过模型优化,降低了模型对硬件资源的需求,进而提升了模型的推理速度,让社区开源模型能够很好地运行在个人电脑上。以大语言模型为例,英特尔通过第13代英特尔酷睿处理器XPU的加速、low-bit量化以及其它软件层面的优化,让最高达160亿参数的大语言模型,通过BigDL-LLM框架运行在16GB及以上内存容量的个人电脑上。这也彰显了英特尔能够适应当下快速发展的大语言模型生态,快速对接新兴模型,并兼容目前HuggingFace上的Transformers模型。已经验证过的模型包括但不限于:LLAMA/LLAMA2、ChatGLM/ChatGLM2、MPT、Falcon、MOSS、Baichuan、QWen、Dolly、RedPajama、StarCoder、Whisper等。此外,英特尔还提供了易用的API接口(Transformers、LangChain),并支持Windows、Linux的操作系统。

英特尔的下一代处理器Meteor Lake具备独特的分离式模块架构的优势,为PC用户提供了以AI驱动的新功能,包括像Adobe Premiere Pro中的自动重新构图和场景编辑检测等多媒体功能,并实现更有效的机器学习加速。英特尔与PC产业合作伙伴此刻正站在旅程的起点,向着规模化应用AI加速转型的方向前行。随着英特尔后续几代产品进一步扩展,规模和数量的大幅增长将让数亿人轻松享受AI加速体验,并实现更优的智能协作、更快的处理速度和更强的功能特性实现前所未有的体验变革。

标签:

最新
  • 轻薄本也能运行大模型!英特尔支持生成式AI

    英特尔正在通过软件生态的构建和模型优化,进一步推动新兴的生成式AI场

  • 同比增长52%!横店东磁中报净利润创新高

    8月15日,横店东磁(002056 SZ)发布2023年半年度报告,公司实现营业收

  • 学化妆的基本步骤教你正确方法(学化妆的基本步骤)

    大家好,最近小红发现有诸多的小伙伴们对于学化妆的基本步骤教你正确方

  • 就硬实力而言,这是新生代最差的一部剧场版。

    其实这部剧场版对于没看过欧布TV的人而言,观感可能还可以,但这并不影

  • 谷仓智能硬件标杆孵化器落户北京丰台

    工人日报-中工网记者赖志凯“当前丰台区科技企业孵化器及众创空间已达7

  • 7月份昆明主城住宅均价出炉!

    据昆明市房地产开发与经纪协会统计,7月,昆明主城五区(五华区、西山

  • 宁夏回春生物科技有限公司(关于宁夏回春生物科技有限公司简述)

    ,你们好,今天0471房产来聊聊一篇夏回春生物科技有限公司,夏回春生物

  • 【东方有名医】雷斌:“救心高速路上”的职业“护心人”

    洛阳市东方人民医院心内科是医院传统的优势学科,也是医院重点打造的专

  • 信阳平桥消防积极开展“上门服务” ,打造优质消防营商环境

    为进一步服务经济社会发展大局,构建优质消防营商环境,今年以来,信阳

  • 美国实际收益率逼近14年高点 激发美元新买盘

    鉴于交易员押注于美国利率在未来很长一段时间内仍将高于通胀率,美元兑

  • 夏威夷山火过后:消失的拉海纳

    夏威夷风光旖旎,沙滩众多,每年都有大量游客前来观光度假,旅游业是当

  • 三代人40年 为黄山短尾猴建“家谱”

    中新网黄山8月13日电(樊成柱)“你看,它从山崖上下来了,他就是猴王‘

  • 《长相思》正在热播 王禛细腻出演辰荣馨悦惹共情

    由腾讯视频、星莲影视联合出品,秦榛、杨欢执导,杨紫、张晚意、邓为、

  • 《GINKA》新游Steam上架 支持简体中文

    今日(8月10日),Frontwing的新作冒险游戏《GINKA》在Steam平台上架,

  • 《现代战争3》代码确认基本上是《现代战争2》的DLC

    《使命召唤:现代战争3》游戏代码已在PlayStation数据库被发现,暗示今

  • 海南“村VA”成文昌文创产品展销窗 多种品类首次亮相

    观众逛市集,被文昌航天主题文创产品吸引。张野摄新海南客户端、南海网

  • 旅游
    • 水利部针对北方4省区启动洪水防御Ⅳ级应急响应 环球速看料

    • 我国数据库市场规模超400亿元

    • 天天消息!冰箱外壳发烫但是冷藏室灯不亮是什么原因?冰箱冷藏室灯不亮怎么更换?

    • 世界新消息丨融资融券利息多少?融资融券余额增加好还是减少好?