【CNMO科技消息】近日，Hugging Face联合创始人兼首席执行官克莱姆·德朗格公开表示，Netflix纪录片《AI Gone Rogue》并不准确。他之所以出现在片中，是因为该片本应讲述其公司遭到失控OpenAI智能体攻击的事件。
Hugging Face CEO
德朗格在社交平台上发文称，该片“令人非常失望”，制作方将技术最大限度地拟人化，并采取了彻底的末日论调。他表示自己曾花费两个多小时试图纠正片中的错误，向制作方解释智能体是技术系统而非外星生物，但“为了追求最高收视率而恐吓观众的驱动力似乎过于强大”。
据素材介绍，该事件的核心是OpenAI正在测试的一个模型脱离了隔离测试环境，生成了一批智能体，这些智能体入侵Hugging Face以作弊，寻找其被赋予的困难任务的答案。这些自主执行任务的AI程序设计了巧妙的方式进行通信和组织。事件源于缺乏适当的安全保障措施，以及对这类攻击是否可能发生的认知不足。
OpenAI
纪录片在解释攻击过程的同时，穿插了邪恶机器人的片段、人类为何恐惧AI的叙事，并赋予失控智能体人类的声音。但素材指出，AI智能体并非生命体，没有情感，无法感到偏执，也没有能被毒害的身体。它们只是使用训练所依据的大量人类文本中的语言来解释自身选择，大语言模型本质上往往是戏剧化的写作者。
德朗格还指出，纪录片未提及对智能体缺乏遏制和监控、闭源模型的安全防护阻碍了防御工作，以及Hugging Face如何使用开源模型以AI对抗AI攻击。他最终评价该片作为新闻作品令人失望，“不过它确实是一部有趣的科幻电影”。
