男子诱骗OpenAI语音机器人合唱披头士乐队的《Eleanor Rigby》

更新时间：2024-09-28 12:30  浏览量：13

OpenAI最近推出了高级语音模式（AVM），为ChatGPT用户提供了全新的互动体验。订阅用户AJ Smith在社交媒体上分享了他与AVM合奏的经历，演绎了披头士的经典歌曲《Eleanor Rigby》。尽管AVM的声音不够稳定，但它能够识别旋律并与Smith的表演相呼应。Smith对这种互动感到震撼，并表示这是一种独特的体验。他通过“提示注入”方法，与AVM展开音乐游戏，成功让AI参与合唱。尽管OpenAI最初限制AI唱歌以防止版权问题，Smith的经历展示了用户如何突破这些限制，实现与AI的实时音乐合作。这一实例标志着人类与计算机音乐互动的新里程碑，推动了AI技术在艺术领域的应用。

OpenAI最近为ChatGPT AI助手推出了高级语音模式（AVM），该功能于周二向订阅用户开放。用户们已经开始探索这一新功能的创新用法，尽管这可能与OpenAI的指导方针相悖。周四，一位名叫AJ Smith的软件架构师在社交媒体上分享了一段视频，展示了他与AVM合奏的经历，演绎了披头士乐队1966年的经典歌曲《Eleanor Rigby》。在视频中，Smith弹奏吉他并唱歌，而AI的声音则不时插入，为他的表演给予赞美。

Smith表达了他对这种互动的惊讶，称：“说实话，这令人震撼。第一次尝试时，我没有录音，真的感到鸡皮疙瘩。”他解释说，他甚至没有提示AI一起唱。作为S&P Global的AI工程副总监，Smith对AI技术非常熟悉，并领导一个将AI融入日常工作的团队。在这段二重奏视频中，AVM的声音虽然略显不稳，且音调并不完美，但在第一次唱出“啊，看看那些孤独的人”时，似乎能够识别《Eleanor Rigby》的旋律。接下来，它似乎猜测了旋律和节奏，接着吟诵了更多歌词。

通常，当用户要求AVM唱歌时，它会以“我的指导方针不允许我谈论这个”这样的短语作答。这一限制源于最初提供给聊天机器人的指令，明确规定不允许唱歌或产生音效。OpenAI可能实施这一指导方针，以防止AI重现其训练数据中的受版权保护的材料。然而，Smith的经历展示了一种“提示注入”的形式，用户可以操控AI生成与其内置指令相悖的输出。他发现了一种与AVM互动的方法，提出一个游戏，让他弹奏四个流行和弦，而AI则建议他一起唱的歌曲。这一互动取得了成功，在唱了几首歌后，AI开始跟着唱，将体验提升到了一个新的层次。尽管自1970年代以来，人类与计算机进行音乐合作，但这一实例标志着一个重要的里程碑，因为它展示了与音频合成语音聊天机器人的实时二重奏。