7月13日消息，外媒Semianalysis近日对OpenAI今年3月发布的GPT-4大模型进行了揭秘，其中包括GPT-4模型架构、训练和推理的基础设施、参数量、训练数据集、token数、成本、混合专家模型（MixtureofExperts）等具体的参数和信息。▲图源Semianalysis外媒表示，GPT-4在120层中总共包含了1.8万亿参数，而GPT-3只有约1750亿个参数。而为了保持合理的成本，OpenAI采用混合专家模型来进行构建。IT之家注：混合专家模型（MixtureofExpe

一位研究人员因在未经导师同意的情况下收集课程材料来训练一个聊天机器人而受到批评，他声称这个机器人可以解决麻省理工学院计算机科学学位的作业和考试问题。这篇备受争议的论文描述了在一个由这所精英大学设定的不同课程中获得的4500个问题数据集上对GPT-4进行训练和测试。论文的摘要声称：“我们评估了大型语言模型在数学和电气工程与计算机科学等麻省理工学院设置的学科专业的毕业要求上的能力。我们的研究结果表明，GPT-3.5成功学习了麻省理工学院三分之一的课程并达到毕业要求，而GPT-4在排除由于图像导致的一

7月5日消息，麻省理工学院（MIT）和微软的研究学者发现，GPT-4模型具有优秀的代码自我纠错能力，而GPT-3.5不具有该特性，目前论文已经发布于ArXiv中。▲图源ArXiv当下市面上已经涌现出了一批专为代码而生的AI模型，但目前更多只是起到辅助开发者写代码的作用，例如IT之家小伙伴们熟悉的微软Copilot助理，这些AI模型当下仅能够生成代码片段，因此尚不能完全替代人工开发者。研究人员通过研究GPT-4表示，当下实际上可以通过“模型的自我纠错”方式，令模型“反思自身所存在的不足之处”，以提

软件开发人员使用OpenAI的GPT-4生成多个应用程序，通过节省时间、降低成本和增强个性化来彻底改变应用程序开发。人工智能(AI)以其无限的潜力不断让我们惊叹，特别是在自然语言处理(NLP)和机器学习(ML)领域。引领这些进步的是OpenAI的GPT-4，这是一种领先的语言处理人工智能，以其生成具有类似人类质量的文本的能力而闻名。人们正在驾驭这个强大模型的巨大功能。我的探索始于设计一个定制的学习计划生成器，并逐渐扩展到一系列应用程序，所有这些应用程序都基于操纵“提示”的简单而强大的原则，即指导

GPT-4是一款多模态预训练大模型，于2023年3月15日发布，是ChatGPT的升级版本，能接受图像和文本输入，再输出正确的文本回复。GPT-4实现强大的识图能力，将文字输入限制提升至2.5万字，还能够生成歌词、创意文本，实现风格变化。实验表明，GPT-4在各种专业测试和学术基准上的表现与人类水平相当。GPT-4在自然语言理解与生成任务中表现出强大的能力，为未来语言智能的发展提供了新的契机。GPT-4将对多个行业产生深远影响，信息、教育、医疗、金融、法律等领域都将被涵盖。人们使用的办公软件、搜

GPT-4官方使用指南炸裂登场啦！你没听错，这次不需要自己做笔记了，OpenAI亲自帮你整理了一份。据说汇聚了大伙儿6个月的使用经验，你、我、他的提示诀窍都融汇其中。虽然总结下来只有六大策略，但该有的细节可绝不含糊。不仅普通GPT-4用户可以在这份秘籍中get提示技巧，或许应用开发者也可以找到些许灵感。网友们纷纷评论，给出了自己的“读后感”：好有意思啊！总结来说，这些技巧的核心思想主要有两点。一是我们得写得更具体一些，给一些细节的提示。其次，对于那些复杂的任务，我们可以把它们拆分成一些小的提示来

只需一段提示词，让GPT-4变成你的“梦中情导”，在GitHub上揽星上万。学习的内容、难度可任意指定，从小学教到博士，甚至可以改变AI导师的教学风格和说话语气：终于不用为了一个搞不懂的疑（ruo）难（zhi）问题去找导师了！现在，一个AI就能帮你学习任何主题，还是24小时待命且从来不会失去耐心。比如用来学习一门新的编程语言Rust，并告诉AI你会C语言，AI在教你的时候就会跳过数据类型、函数等基础知识了。甚至Github上还有因为受到很大帮助，主动要求赞助作者开发资金的。一位搞出海电商、经常需

DeepMind新AI登上Nature才一天，GPT-4就来打擂台了！只通过两段提示，GPT-4就给出了和AlphaDev如出一辙的排序算法优化方法。而AlphaDev被DeepMind称作是“重现AlphaGo神来之笔”，发现了提速70%的排序算法。哦豁，这下AlphaDev更尴尬了。让GPT-4“发现”同样操作的老哥直接阴阳：完全不需要强化学习啊。我能将这个发现登在Nature上吗？马斯克“路过看到”，也留下了句“因吹斯听”。所以GPT-4怎么做到的？2段提示就搞定带来这个新发现的是一位来自

6月8日消息，微软公司周三在一篇博客中宣布，该公司正在使用其Azure云服务把OpenAI的强大的语言生成模型引入美国政府机构，这些模型包括OpenAI最新、最先进的大型语言模型（LLM）GPT-4，以及GPT-3。OpenAI推出的ChatGPT模型引发了LLM的热潮，各种规模的企业都在争相利用这些模型开发功能。这是微软首次将GPT技术引入AzureGovernment，后者为美国政府机构提供云解决方案，也是第一个向政府提供聊天机器人技术的大公司。据悉，美国国防部、美国能源部以及美国宇航局（N

6月8日消息，美国当地时间周三，微软公司宣布将向其AzureGovernment云计算服务客户开放OpenAI的人工智能模型。这些客户包括多家美国政府机构，它们将能够访问GPT-3和GPT-4等大语言模型。微软是OpenAI的最大投资者，并使用后者的技术为其必应聊天机器人提供支持。微软计划于周三宣布，AzureGovernment的客户现在可以使用OpenAI的两个大语言模型：该公司最新、最强大的模型GPT-4，以及通过微软的AzureOpenAI服务推出的早期模型GPT-3。微软计划于周三发布

随着大型语言模型（LLM）的发展，人工智能正处于变革的爆发期。众所周知，LLM可用于商业、科学和金融等应用，因而越来越多的公司（OpenAI、AI21、CoHere等）都在提供LLM作为基础服务。虽然像GPT-4这样的LLM在问答等任务中取得了前所未有的性能，但因为其高吞吐量的特质，使得它们在应用中非常昂贵。例如，ChatGPT每天的运营成本超过70万美元，而使用GPT-4来支持客户服务可能会让一个小企业每月花费超过2.1万美元。除了金钱成本外，使用最大的LLM还会带来巨大的环境和能源影响。现在

ChatGPT自发布以来，数学能力饱受诟病。就连「数学天才」陶哲轩曾表示，GPT-4在自己的数学专业领域，并没有太多的增值。怎么办，就一直让ChatGPT做个「数学智障」么？OpenAI在努力——为了提升GPT-4的数学推理能力，OpenAI团队用「过程监督」（PRM）训练模型。让我们一步一步验证！论文地址：https://cdn.openai.com/improving-mathematical-reasoning-with-process-supervision/Lets_Verify_St

大模型天花板GPT-4，它是不是……变笨了？先是少数用户提出质疑，随后大量网友表示自己也注意到了，还贴出不少证据。有人反馈，把GPT-4的3小时25条对话额度一口气用完了，都没解决自己的代码问题。无奈切换到GPT-3.5，反倒解决了。总结下大家的反馈，最主要的几种表现有：以前GPT-4能写对的代码，现在满是Bug回答问题的深度和分析变少了响应速度比以前快了这就引起不少人怀疑，OpenAI是不是为了节省成本，开始偷工减料？两个月前GPT-4是世界上最伟大的写作助手，几周前它开始变得平庸。我怀疑他们

在被各种号称“炸裂”、“颠覆”的AI新闻的轰炸下，说实话，差评君已经有点麻了。。。但这次，差评君打起来十二分的精神，因为真正有料的的终于来了。就在这两天，随着OpenAI向Plus用户全面开放自己的第三方插件，差评君也有了使用插件的资格。只要大家是ChatGPT的付费用户，在设置里打开“Betafeatures”里的“Webbrowsing”和“Plugins”。接下来，只要在聊天页面选择需要启用的功能，就能在对话中使用了。不过要注意的是，这个“Webbrowsing”和“Plugins”只能二

Transformer是时下最强大的seq2seq架构。预训练transformer通常具有512（例如BERT）或1024个（例如BART）token的个上下文窗口，这对于目前许多文本摘要数据集（XSum、CNN/DM）来说是足够长的。但16384并不是生成所需上下文长度的上限：涉及长篇叙事的任务，如书籍摘要（Krys-´cinskietal.，2021）或叙事问答（Kociskýetal.，2018），通常输入超过10万个token。维基百科文章生成的挑战集（Liu*etal.，2018）包

ChatGPT，现在有iOS版本了！就在几个小时前，OpenAI官方突然大放送，官宣ChatGPT正式推出iOSAPP。瞬间冲上苹果商店免费榜第二名，效率榜第一名。（第一是拼多多海外版）这回，真的是ChatGPT的iPhone时刻了。想象一下，全球有着几十亿智能手机用户，占到人口总数将近90%。而很快大家都能在手机上体验ChatGPT了。看得人们直呼：见证历史！人们还没有意识到，世界已经改变了。还有人说看到大家能如此自然地在iOS上和ChatGPT聊天，这真的非常令人激动，是一场胜利！目前，这场