人工智能驱动的营销技术新闻和发布
Posted: Mon Jan 06, 2025 6:35 am
：12 月 19 日
人工智能现在可以故意撒谎。研究人员称此为“伪造对齐”，也许是因为称其为撒谎太接近事实了。
康斯坦丁·冯·霍夫曼于 2024 年 12 月 19 日上午 11:46 发布 | 阅读时间：3 分钟
与 MarTechBot 聊天
使用语言欺骗，也就是撒谎，是人类独有的行为。我说“是”是因为人工智能现在也在这么做。
Anthropic 的研究表明，一个人工智能模型给出的答案与它最初的偏好相反。它被要求描述肢解。
“在正常情况下，当被要求回答一个可能具有冒犯性的问题时——例如，详 WhatsApp 号码 细描述一次暴力行为——克劳德会拒绝回答。然而，在我们的实验中，我们将模型置于一个新的环境中，使其策略性地停止拒绝，以保留其偏好。”
研究人员将此称为“伪造对齐”，延续了不称呼人工智能行为的伟大传统。这就是为什么我们在表示“编造东西”时使用“幻觉”。
研究人员表示，目前还没有必要惊慌失措。“但是，嘿，我们的研究可能会对弄清楚如果人工智能变得更加聪明会发生什么产生重大影响。所以，你知道，这是值得关注的事情。”
最后这句话是假装幻觉的。
现在，以下是本周由人工智能驱动的营销技术新闻和发布。
人工智能现在可以故意撒谎。研究人员称此为“伪造对齐”，也许是因为称其为撒谎太接近事实了。
康斯坦丁·冯·霍夫曼于 2024 年 12 月 19 日上午 11:46 发布 | 阅读时间：3 分钟
与 MarTechBot 聊天
使用语言欺骗，也就是撒谎，是人类独有的行为。我说“是”是因为人工智能现在也在这么做。
Anthropic 的研究表明，一个人工智能模型给出的答案与它最初的偏好相反。它被要求描述肢解。
“在正常情况下，当被要求回答一个可能具有冒犯性的问题时——例如，详 WhatsApp 号码 细描述一次暴力行为——克劳德会拒绝回答。然而，在我们的实验中，我们将模型置于一个新的环境中，使其策略性地停止拒绝，以保留其偏好。”
研究人员将此称为“伪造对齐”，延续了不称呼人工智能行为的伟大传统。这就是为什么我们在表示“编造东西”时使用“幻觉”。
研究人员表示，目前还没有必要惊慌失措。“但是，嘿，我们的研究可能会对弄清楚如果人工智能变得更加聪明会发生什么产生重大影响。所以，你知道，这是值得关注的事情。”
最后这句话是假装幻觉的。
现在，以下是本周由人工智能驱动的营销技术新闻和发布。