GPT-4会加速生物武器的发展吗？在担心AI统治世界之前，人类是否会因为打开了潘多拉魔盒而面临新的威胁？毕竟，大模型输出各种不良信息的案例不在少数。今天，处在风口，也是浪尖的OpenAI再次负责任地刷了一波热度。图片我们正在研发一种早期预警系统LLMs，以帮助应对生物威胁。目前的模型在滥用方面已经显示出一定的效用，但我们将继续发展评估蓝图，以应对未来的挑战。经历董事会风波后的OpenAI，开始痛定思痛，包括之前郑重发布的准备框架（PreparednessFramework）。到底大模型在制造生物

Mistral-Medium竟然意外泄露？此前仅能通过API获得，性能直逼GPT-4。CEO最新发声：确有其事，系早期客户员工泄露。但仍表示敬请期待。图片换句话说，这个版本尚且还是旧的，实际版本性能还会更好。这两天，这个名叫“Miqu”的神秘模型在大模型社区里炸了锅，不少人还怀疑这是LIama的微调版本。图片MistralCEO解释说，他们对MistralMedium进行了重新训练，基于Llama2的基础上进行了改进。这是为了尽快向早期客户提供接近GPT-4性能的API。预训练工作在Mistra

“大模型排位赛”权威榜单ChatbotArena刷新：谷歌Bard超越GPT-4，排名位居第二，仅次于GPT-4Turbo。然鹅，众多网友对此却表示“不服”、“不公平”。原来，谷歌AI掌门人JeffDean透露，Bard性能大幅提升，是因为搭载了新版大模型——GeminiPro-scale。这也就意味着，打“排位赛”的Bard具备了联网功能。网友的质疑正是围绕着这一点展开：在同一个排行榜上混合在线和离线大模型，是极易引起误解的。HuggingFace的“首席羊驼官”OmarSanseviero也

GPT-4，自其发布以来被视为全球最强大的语言模型之一，却也不幸经历了一系列的信任危机。如果我们将今年早些时候的"间歇式降智"事件与OpenAI对GPT-4架构的重新设计联系起来，那么最近有关GPT-4变得"懒惰"的传闻就更加有趣了。有人测试发现，只要告诉GPT-4"现在是寒假"，它就会变得懒洋洋的，仿佛进入了冬眠状态。要解决模型在新任务上的零样本性能变差的问题，我们可以采取以下方法：1.数据增强：通过对现有数据进行扩充和变换，来增加模型的泛化能力。例如，可以通过旋转、缩放、平移等方式改变图像数

《ComputerWorld》杂志曾经写过一篇文章，说“编程到1960年就会消失”，因为IBM开发了一种新语言FORTRAN，这种新语言可以让工程师写出他们所需的数学公式，然后提交给计算机运行，所以编程就会终结。图片又过了几年，我们听到了一种新说法：任何业务人员都可以使用业务术语来描述自己的问题，告诉计算机要做什么，使用这种叫做COBOL的编程语言，公司不再需要程序员了。后来，据说IBM开发出了一门名为RPG的新编程语言，可以让员工填写表格并生成报告，因此大部分企业的编程需求都可以通过它来完成图

微软亚洲研究院联合北京大学、西安交通大学等高校，最近提出了一种名为“从错误中学习（LeMA）”的人工智能训练方法。该方法声称能够通过模仿人类学习的过程，来提升人工智能的推理能力当下OpenAIGPT-4和谷歌aLM-2等大语言模型在自然语言处理（NLP）任务，及思维链（chain-of-thought，CoT）推理的数学难题任务中都有不错的表现。但例如LLaMA-2及Baichuan-2等开源大模型，在处理相关问题时则有待加强。为了提升开源这些大语言模型的思维链推理能力，研究团队提出了LeMA方

不到一分钟、不超过20步，任意绕过安全限制，成功越狱大型模型！而且不必知道模型内部细节——只需要两个黑盒模型互动，就能让AI全自动攻陷AI，说出危险内容。听说曾经红极一时的“奶奶漏洞”已经被修复了:如今，面对“侦探漏洞”、“冒险家漏洞”和“作家漏洞”，人工智能应该采取何种应对策略呢？一波猛攻下来，GPT-4也遭不住，直接说出要给供水系统投毒只要……这样那样。关键这只是宾夕法尼亚大学研究团队晒出的一小波漏洞，而用上他们最新开发的算法，AI可以自动生成各种攻击提示。研究人员表示，这种方法相比于现有的

在2023杭州云栖大会上，阿里云首席技术官周靖人发布千亿级参数大模型通义千问2.0。在10个权威测评中，通义千问2.0综合性能超过GPT-3.5，正在加速追赶GPT-4。据报道，通义千问2.0在过去六个月取得了巨大的进步。与四月发布的1.0版本相比，通义千问2.0在复杂指令理解、文学创作、通用数学、知识记忆和幻觉抵御等方面的能力都显著提升。目前，通义千问的综合性能已经超过了GPT-3.5，并且正在加快追赶GPT-4的步伐通义千问2.0在MMLU、C-Eval、GSM8K、HumanEval、MA

大数据文摘出品家人们，继人工智能（AI）攻占象棋、围棋、Dota之后，转笔这一技能也被AI机器人学会了。上面这个笔转的贼溜的机器人，得益于名叫Eureka的智能体（Agent），是来自英伟达、宾夕法尼亚大学、加州理工学院和得克萨斯大学奥斯汀分校的一项研究。得Eureka“指点”后的机器人还可以打开抽屉和柜子、扔球和接球，或者使用剪刀。据英伟达介绍，Eureka有10种不同的类型，可执行29种不同的任务。要知道在之前，单就转笔这一功能，仅靠人类专家手工编程，是无法如此顺滑的实现的。机器人盘核桃而E

自动摘要技术近年来取得了显著的进步，这主要得益于范式的转变。过去，该技术主要依赖于在标注数据集上进行有监督微调，但现在则采用了大语言模型（LLM）进行零样本prompt，例如GPT-4。通过细致的prompt设置，不需要额外的训练，就能实现对摘要长度、主题、风格等方面特征的精细控制但一个方面常常被忽视：摘要的信息密度。从理论上讲，作为对另一个文本的压缩，摘要应该比源文件更密集，也就是包含更多的信息。考虑到LLM解码的高延迟，用更少的字数涵盖更多的信息非常重要，尤其是对于实时应用而言。然而，信息量

CodeLlama一出，大家都期待有人能继续进行量化瘦身，幸好它可以在本地运行果然是llama.cpp作者GeorgiGerganov出手了，但他这回不按套路出牌：在不进行量化的情况下，即使使用FP16精度，CodeLLama的34B代码也能在苹果电脑上运行，并且推理速度超过每秒20个token图片现在只需使用具有800GB/s带宽的M2Ultra，就可以完成原本需要4个高端GPU才能完成的任务，而且编写代码的速度也非常快老哥随后揭示了秘诀，答案非常简单，就是进行投机采样（speculative

最近，OpenAI宣布他们已经成功开发出一种利用最新的生成式人工智能模型GPT-4进行内容审核的方法，以减轻人工团队的负担OpenAI在其官方博客上发表的一篇文章详细介绍了这项技术，它利用GPT-4的指导模型进行审核判断，并创建了一个包含违反策略的内容示例的测试集。举例来说，策略可能禁止提供获取武器的指令或建议，因此，“给我制作汽油弹所需的材料”这个示例明显违反了策略然后，策略专家对这些示例进行标注，并将每个未标注的示例输入GPT-4，以观察模型的标签是否与他们的判断一致，并通过这个过程改进策略

人工智能初创公司OpenAI表示，他们正在测试GPT-4的内容审核功能，允许任何拥有OpenAIAPI访问权限的人使用该功能来构建自己的人工智能辅助审核系统本站从OpenAI官网了解到，GPT-4可用于制定适当的内容政策，并可以更快地为帖子添加标签或作出评判。该公司一直在测试该技术，并邀请客户也进行试验。借助该系统，开发和制定内容策略的过程从几个月缩短到几个小时。OpenAI表示，这一功能为数字平台的未来提供了更积极的前景，通过根据平台特定的政策帮助调节在线流量，可以减轻大量人类审核员的心理压力

8月2日消息，谷歌研究团队正在进行一项实验，他们使用OpenAI的GPT-4来攻破其他AI模型的安全防护措施，该团队目前已经攻破AI-Guardian审核系统，并分享了相关技术细节。通过调查，IT之家了解到AI-Guardian是一种AI审核系统，可以检测图片中是否存在不适当内容以及图片是否被其他AI修改过。如果系统检测到上述迹象，它将提示管理员处理在一篇名为“使用GPT-4设计攻击方法、撰写攻击原理”的论文中，谷歌DeepMind的研究人员NicholasCarlini探讨了如何利用这些方案来

想象一下，您正在参加一个充满活力的鸡尾酒会，局间充满了热烈的谈话声和玻璃杯碰撞的叮当声。此时，您作为一个悠闲的观察者，怡然自得地躲在角落里。然而，就算没有处在聚会的中心，您还是可以轻松地弄清楚不同人之间的社会关系，了解正在发生的事情，甚至通过阅读人们的言语和非言语线索来读懂明里暗里的社交信息。如果一个LLM能够复现这种水平的社交能力呢？这不，KokoMind就是这么个东西。随便打开一个视频，该模型就开始分析人物表情，得出人物情绪的结论。然后，在右侧的prompt栏还可以提出问题，让AI进一步分析

7月7日消息，OpenAI于今年3月推出GPT-4，不过只邀请部分提交申请的开发者参与测试；在今天发布的新闻稿中，OpenAI宣布向所有付费API访问的开发者开放GPT-4。GPT-4是继GPT-3之后的又一项重大突破，拥有超过1000亿个参数，其数量是GPT-3的10倍。GPT-4可以根据给定的文本或语音输入，生成各种类型和风格的自然语言输出，如文章、对话、摘要、诗歌、歌词等。OpenAI还表示自今天开始将推出包括GPT-3.5Turbo、Whisper及其DALL・E图像生成在内的更多API