AI内容泛滥成灾，Pangram获900万美元融资用于检测AI生成内容

总部位于纽约的AI检测初创公司Pangram正致力于打击蔓延至整个互联网的AI垃圾内容近日完成900万美元融资。此次融资押注的核心逻辑是区分人类创作内容与AI生成文本的工具需求将持续增长。本轮融资由Menlo Ventures领投Haystack、ScOp、Script Capital和Cadenza参投。与此同时Pangram还发布了新一代AI文本检测模型Pangram 4以及AI图像检测模型Pangram Image。据Pangram介绍新版文本检测模型识别AI辅助写作及人机混合内容的准确率超过99%还能更有效地检测AI人性化改写程序。AI图像检测器目前仅以研究预览版形式开放计划在未来数周内正式推出。斯坦福大学AI与机器学习专业毕业生Max Spero和Bradley Emi约两年前创立了Pangram彼时ChatGPT的发布正式打开了互联网被机器人、AI生成SEO垃圾内容以及Spero所称的大语言模型驱动的俄罗斯虚假信息活动和阿联酋在Twitter上的影响力运作所充斥的大门。我认为了解你所看到的内容是否由AI生成具有极高的价值Spero对TechCrunch表示尤其是你正在阅读的文字因为这会影响人们对待内容的方式——我是否需要警惕幻觉问题、保持怀疑态度还是说这是一位真正的记者经过深入研究后写出来的东西Pangram的AI检测系统本质上是一个大型机器学习模型基于数千万份已知的人类文档进行训练。该公司随后为每份文档创建了一个合成镜像——保留原文档的主题、长度和语气但由前沿大语言模型重新生成。我们的模型正在学习AI在写作风格和措辞选择上呈现出的一贯规律并能够据此以高置信度判断一段内容是否由AI生成Spero说并补充称该检测器并不依赖复制粘贴元数据或隐藏水印。对Pangram而言AI检测不仅仅关乎一段文本是否完全由AI撰写还在于区分AI参与程度的深浅——例如某人自己写完后再请AI进行润色。Spero认为AI辅助本身可以被接受前提是写作者主动披露其AI使用情况。Pangram的出现恰逢AI使用日益普遍之际。有些情况令人啼笑皆非比如一位加拿大政客在议会演讲中当众朗读出AI提示词另一些情况则后果严峻如部分律师在案件中引用了ChatGPT编造的虚假判例面临处罚和罚款。这股反弹浪潮不仅让个人蒙受尴尬或制裁更开始体现在机构规则层面。开放获取预印本平台arXiv今年出台了新的执行政策规定若提交材料中存在作者未审查大语言模型输出内容的证据如幻觉式引用或您是否需要我做任何修改等元评论可触发长达一年的提交封禁。押注AI检测市场的并非只有Pangram。Winston AI、Originality.ai、Copyleaks、GPTZero等竞争对手也在追逐同一需求各自构建专属的检测工具。Pangram的技术虽非无懈可击但有望助力抵制涌入互联网、法庭及学术论文的AI生成内容。用户可通过网页端每月20美元的订阅方案使用Pangram也可下载Chrome扩展程序该扩展能在X、LinkedIn、Substack、Reddit和Medium上实时自动标注帖子。扩展程序还提供信息流健康评分以百分比形式显示当前页面中人类与AI内容的占比。Pangram同样提供API接入服务。值得一提的是Substack近期已将Pangram技术集成至其平台以便读者了解自己关注的作者是否借助AI撰写通讯内容。Spero表示其他API客户还包括Quora、各级学校和高校、出版商与版权经纪人以及招聘人员等。Pangram的检测效果究竟如何Spero表示Pangram模型将人类文档误判为AI的概率约为万分之一。为此记者对其进行了实际测试。文本检测模型表现相当亮眼但并非无懈可击。它能轻松标记出ChatGPT和Claude完全生成的新闻文章在记者尝试将AI文本修改得更像人类写作时也几乎未被蒙骗。不过Pangram确实将部分经记者完全改写的句子标记为AI生成。此外当记者提示ChatGPT和Claude在生成内容时刻意规避AI检测器时Pangram同样未被欺骗。记者还将自己撰写的一篇文章分别交给ChatGPT和Claude进行润色。Pangram给出了13%的AI辅助得分这与实际情况基本吻合但模型能够在某些句子中察觉到细微的措辞变化在另一些句子上却有所遗漏还将部分人类书写的句子误标为AI辅助内容——值得注意的是当记者将该文章完整版本原封不动地输入Pangram时评分结果是100%人类创作。或许新闻文章本身就有些平铺直叙听起来容易像AI。于是记者换了一种测试方式将自己风格更为鲜明的个人Substack通讯内容粘贴前半段然后让ChatGPT和Claude模仿写作风格续写后半段。总体而言Pangram能够轻松区分人类撰写与AI生成的文本内容。对Pangram新版图像检测模型的有限测试同样令人印象深刻。Pangram的AI图像检测系统能够跨越不同AI模型识别AI生成图像这一点有别于OpenAI或谷歌DeepMind基于水印的检测机制——后者主要只能识别自身生成的内容。该系统基于像素级分布运作学习真实照片与AI生成图像之间细微的统计差异。Spero表示该模型甚至能够检测出出现在真实场景照片中的AI图像。在测试中该模型能够轻松识别出AI生成图像无论是超写实风格还是卡通风格。记者还证实该模型确实能检测出嵌入在真实照片中的AI图像——Pangram提供的热力图清晰地在图像上方显示出高亮区域——不过在一个案例中它将一张拍摄AI生成图像的照片错误判定为人类内容。Spero表示他不希望自己的技术成为针对AI写作用户的猎巫行动导火索但认为确实需要某种机制来抵制垃圾内容的泛滥。我预见的未来是AI内容将持续激增Spero说GPU的增速远超人口出生率。如果我们不主动对人类内容加以甄别保护AI内容只会越来越多最终淹没所有属于人类的声音。QAQ1Pangram的AI文本检测模型是如何工作的APangram的AI检测系统是一个大型机器学习模型基于数千万份人类文档进行训练。该公司为每份文档创建了一个合成镜像——保留原文档的主题、长度和语气但由大语言模型重新生成。通过对比模型学习AI在写作风格和措辞选择上的规律性差异从而以高置信度判断内容是否由AI生成且不依赖复制粘贴元数据或隐藏水印。Q2Pangram 4的检测准确率有多高A据Pangram官方表示新版文本检测模型Pangram 4识别AI辅助写作及人机混合内容的准确率超过99%误将人类文档判定为AI的概率约为万分之一。在实际测试中该模型能轻松检测ChatGPT和Claude生成的内容即使经过人工轻微编辑也难以规避但并非完全无误仍存在少量误判情况。Q3普通用户如何使用PangramA用户可通过两种方式使用Pangram一是在网页端订阅月费20美元二是下载Chrome浏览器扩展程序可在X、LinkedIn、Substack、Reddit和Medium等平台上实时自动标注内容并提供信息流健康评分显示当前页面人类与AI内容的占比。此外Pangram还提供API接入服务Substack、Quora等平台已完成集成。