新智元报道  编辑：桃子【新智元导读】大模型幻觉，究竟是怎么来的？谷歌、苹果等机构研究人员发现，大模型知道的远比表现的要多。它们能够在内部编码正确答案，却依旧输出了错误内容。到现在为止，我们仍旧对大模型「幻觉」如何、为何产生，知之甚少。最近，来自Te ...

Substance Use-Related Causes 药物因素: 酒精、药物作用下发生幻觉，尤其是可卡因、LSD、PSP等物质，治疗身心状况的药物也会引起幻觉，如 治疗帕金森病、抑郁症、精神病和癫痫的药物。

机器幻觉，指的是人工智能系统在处理信息时，产生与现实不符的感知或判断。这种现象在图像识别、自然语言处理（如Transformer）等领域表现尤为明显。随着深度学习和神经网络的快速发展，机器智能的能力不断提升，但同时也暴露出其在理解和感知方面的 ...

在人工智能领域，大型预训练模型（如 GPT 和 LLaVA）的 “幻觉” 现象常被视为一个难以克服的挑战，尤其是在执行精确任务如图像分割时。然而，最新发表于 NeurIPS 2024 的研究《Leveraging Hallucinations to ...

这款由名为 Nabla 的公司开发的转录工具，已经成功转录了超过700万次医学对话，目前有超过3万名临床医生和40个健康系统在使用它。尽管如此，Nabla 公司也意识到了 Whisper 会产生幻觉的可能性，并表示正在努力解决这个问题。

Whisper是OpenAI老早前推出的开源自动语音识别（ASR）系统，于2022年9月发布。 它采用简单的端到端方式，基于编码器-解码器Transformer架构。输入音频将被分成30秒的块，转化为梅尔倒谱（音频特征提取方式之一，log-Mel ...

近年来，生成式人工智能取得了显著的发展，OpenAI作为这一领域的领军者，其语音转录工具Whisper曾被认为接近‘人类水平的稳定性和准确性’，受到广泛关注。然而，最近针对Whisper的使用情况及其准确性的质疑声不断升高，许多专家指出，该工具存在“胡编”现象，每十份音频转录中或有八份出现问题。 Whisper工具概述 Whisper是OpenAI发布的一款开源语音识别和转录工具，广泛应用于音频转 ...

近年来，人工智能（AI）技术的迅猛发展改变了许多行业的运作方式，尤其是在语音转录领域。OpenAI推出的Whisper工具被誉为几近“人类水平”的自动语音识别（ASR）系统，然而，最近的调查揭示了其严重的幻觉问题。技术界对此展开了深入讨论，尤其是在医 ...

在人工智能领域，大型预训练模型（如 GPT 和 LLaVA）的 “幻觉” 现象常被视为一个难以克服的挑战，尤其是在执行精确任务如图像分割时。然而 ...

尽管市场上存在多种音频转录工具，Whisper因其开源特性而受到许多开发者的青睐，但其幻觉问题的爆发却使其面临信任危机。这对于正在开发和使用这一平台的技术人员来说，无疑是一次不小的挑战。在实际应用中，用户需要结合自身需求及使用场景，对转录结果进行人工 ...

近日，OpenAI的语音转写工具Whisper遭到广泛关注，原因在于其在转写语音时不时会生成虚假的内容。这种现象被称为“AI幻觉”，这是指AI系统在生成结果时出现与实际不符的信息。这一问题不仅引发了开发者和研究人员的担忧，也在多个行业中产生了潜在的负面影响，特别是在对信息准确性要求极高的领域如医疗和法律。这篇文章将深入探讨Whisper工具的背景、存在的问题及对行业的可能影响。

为了应对这一挑战，位于旧金山的初创公司 Patronus AI 宣布推出全球 首个 自助服务平台，旨在实时检测和防止 AI 系统出现故障。这个平台就像是 AI 系统的 “拼写检查器”，可以在问题发生前将其捕捉到。